[20240320]空格與sqlpus的sql語句.txt

[20240320]空格與sqlpus的sql語句.txt

--//最佳化sql語句時遇到的問題，自己上我發現我手工執行獲得的sql_id與程式裡面的sql_id不一致,原因很多sqlplus下如果是dos文字格
--//式,計算的文字會將\r\n字元變成\n,如果多行,文字結尾的空格會刪除等等,透過例子說明:

1.環境：
SCOTT@book> @ver1
PORT_STRING VERSION BANNER
------------------------------ -------------- --------------------------------------------------------------------------------
x86_64/Linux 2.4.xx 11.2.0.4.0 Oracle Database 11g Enterprise Edition Release 11.2.0.4.0 - 64bit Production

2.測試1：
--//開頭存在空格.
SCOTT@book> select * from dept where deptno=10;
DEPTNO DNAME LOC
---------- -------------- -------------
10 ACCOUNTING NEW YORK

SCOTT@book> @ hash
HASH_VALUE SQL_ID CHILD_NUMBER KGL_BUCKET PLAN_HASH_VALUE HASH_HEX SQL_EXEC_START SQL_EXEC_ID
---------- ------------- ------------ ---------- --------------- ---------- ------------------- -----------
832478979 agw1v10stx7s3 0 40707 2852011669 319e9f03 2024-03-20 08:31:08 16777216

SCOTT@book> select * from dept where deptno=10;
DEPTNO DNAME LOC
---------- -------------- -------------
10 ACCOUNTING NEW YORK

SCOTT@book> @ hash
HASH_VALUE SQL_ID CHILD_NUMBER KGL_BUCKET PLAN_HASH_VALUE HASH_HEX SQL_EXEC_START SQL_EXEC_ID
---------- ------------- ------------ ---------- --------------- ---------- ------------------- -----------
911274289 4xamnunv51w9j 0 61745 2852011669 3650f131 2024-03-20 08:31:14 16777216


SCOTT@book> select sql_text from v$sql where sql_id in ('agw1v10stx7s3','4xamnunv51w9j');
SQL_TEXT
------------------------------------------------------------
select * from dept where deptno=10
select * from dept where deptno=10

--//並沒有刪除開頭的sql語句。

3.測試2:
--//執行指令碼的結尾存在空格.
SCOTT@book> select * from dept where deptno=10 ;
DEPTNO DNAME LOC
---------- -------------- -------------
10 ACCOUNTING NEW YORK

SCOTT@book> @ hash
HASH_VALUE SQL_ID CHILD_NUMBER KGL_BUCKET PLAN_HASH_VALUE HASH_HEX SQL_EXEC_START SQL_EXEC_ID
---------- ------------- ------------ ---------- --------------- ---------- ------------------- -----------
2103677907 8qprua5yq74ym 0 103379 2852011669 7d6393d3 2024-03-22 15:58:00 16777216

SCOTT@book> select * from dept where deptno=10;
DEPTNO DNAME LOC
---------- -------------- -------------
10 ACCOUNTING NEW YORK

SCOTT@book> @ hash
HASH_VALUE SQL_ID CHILD_NUMBER KGL_BUCKET PLAN_HASH_VALUE HASH_HEX SQL_EXEC_START SQL_EXEC_ID
---------- ------------- ------------ ---------- --------------- ---------- ------------------- -----------
911274289 4xamnunv51w9j 0 61745 2852011669 3650f131 2024-03-22 15:58:05 16777216

SCOTT@book> select sql_text||'A' c60 from v$sql where sql_id in ('8qprua5yq74ym','4xamnunv51w9j');
C60
------------------------------------------------------------
select * from dept where deptno=10A
select * from dept where deptno=10 A

--//很明顯分號結尾的空格計算在內.

4.測試3:
--//建立檔案b1.txt,unix檔案格式。
$ cat -Ev b1.txt
select * from dept where $
deptno=20;$
--//where後面有4個空格。

SCOTT@book> @ b1.txt
DEPTNO DNAME LOC
---------- -------------- -------------
20 RESEARCH DALLAS

SCOTT@book> @ hash
HASH_VALUE SQL_ID CHILD_NUMBER KGL_BUCKET PLAN_HASH_VALUE HASH_HEX SQL_EXEC_START SQL_EXEC_ID
---------- ------------- ------------ ---------- --------------- ---------- ------------------- -----------
561182986 4rj7xbhhr5y8a 0 63754 2852011669 2172f90a 2024-03-20 09:04:38 16777221
--//記下sql_id=4rj7xbhhr5y8a

--//首先看看v$sql檢視sql_text與sql_fulltext的區別：
SCOTT@book> select sql_text from v$sql where sql_id='4rj7xbhhr5y8a';
SQL_TEXT
------------------------------------------------------------
select * from dept where deptno=20

SCOTT@book> select sql_fulltext c60 from v$sql where sql_id='4rj7xbhhr5y8a';
C60
------------------------------------------------------------
select * from dept where
deptno=20

--//可以看出v$sql檢視sql_text與sql_fulltext的區別，sql_text刪除結尾的空格，並且過濾了\n字元，而sql_fulltext基本原樣輸出。
--//另外注意一點兩者sql_text，sql_fulltext資料型別不一樣，前者varchar2(1000)，後者clob型別。

--//sql_id的計算問題：
SCOTT@book> spool b31.txt
SCOTT@book> @ sql_idz 4rj7xbhhr5y8a

--SQL_ID = 4rj7xbhhr5y8a

select * from dept where
deptno=20;

SCOTT@book> spool off

$ cat -Ev b31.txt
SCOTT@book> @ sql_idz 4rj7xbhhr5y8a$
$
--SQL_ID = 4rj7xbhhr5y8a$
$
select * from dept where$
deptno=20;$
$
SCOTT@book> spool off$

--//注意看where後面的空格丟失了,也許輸出忘記考慮trimspool的設定問題。看看計算如何.

$ ~/bin/sql_idx.sh b1.txt 1 > bb.txt
sql_text = select * from dept where $
deptno=20\0$
full_hash_value(16) = C141E01E5D8842BB39E5FAFE98FC8176 $
hash_value(10) = 2566685046 $
sql_id(32) = 3mtguzucgt0bq$
sql_id(32) = 3mtguzucgt0bq$
sql_id(32) = 3mtguzucgt0bq$

--//很明顯使用我寫的指令碼計算sql_id=3mtguzucgt0bq與sqlplus程式執行的sql_id=4rj7xbhhr5y8a不同.
--//改寫如下：
$ cp b1.txt b2.txt
$ vi b2.txt
$ cat -Ev b2.txt
select * from dept where$
deptno=20;$

$ ~/bin/sql_idx.sh b2.txt 1 >| bb1.txt
$ cat -Ev bb1.txt
sql_text = select * from dept where$
deptno=20\0$
full_hash_value(16) = E375F34FDCD15D104BC4FD5C2172F90A $
hash_value(10) = 561182986 $
sql_id(32) = 4rj7xbhhr5y8a$
sql_id(32) = 4rj7xbhhr5y8a$
sql_id(32) = 4rj7xbhhr5y8a$

--//很明顯sql_id計算使用的是b2.txt的檔案計算的，where後面的空格取消了。

5.測試4：
--//再來看看檔案格式問題。
$ unix2dos b1.txt
unix2dos: converting file b1.txt to DOS format ...

SCOTT@book> @ b1.txt
DEPTNO DNAME LOC
---------- -------------- -------------
20 RESEARCH DALLAS

SCOTT@book> @ hash
HASH_VALUE SQL_ID CHILD_NUMBER KGL_BUCKET PLAN_HASH_VALUE HASH_HEX SQL_EXEC_START SQL_EXEC_ID
---------- ------------- ------------ ---------- --------------- ---------- ------------------- -----------
561182986 4rj7xbhhr5y8a 0 63754 2852011669 2172f90a 2024-03-20 09:24:04 16777224

--//還是一樣，說明還是按照b2.txt的檔案計算sql_id。

6.測試5:
--//建立檔案bx.sql,unix檔案格式。
$ cat -Ev bx.sql
select ^M * ^M from ^M dept ^Mwhere ^Mdeptno=20;$

SCOTT@book> @ bx.sql
DEPTNO DNAME LOC
---------- -------------- -------------
20 RESEARCH DALLAS

SCOTT@book> @ hash
HASH_VALUE SQL_ID CHILD_NUMBER KGL_BUCKET PLAN_HASH_VALUE HASH_HEX SQL_EXEC_START SQL_EXEC_ID
---------- ------------- ------------ ---------- --------------- ---------- ------------------- -----------
1668358914 cymmqupjr28s2 0 74498 2852011669 63712302 2024-03-20 15:16:34 16777221

SCOTT@book> select sql_text from v$sql where sql_id='cymmqupjr28s2';
SQL_TEXT
------------------------------------------------------------
deptno=20

SCOTT@book> select sql_fulltext from v$sql where sql_id='cymmqupjr28s2';
SQL_FULLTEXT
-----------------------------------------------------------
deptno=20
--//^M的輸出導致輸出看的非常怪異!!

SCOTT@book> @ sql_idx cymmqupjr28s2
--SQL_ID = cymmqupjr28s2
deptno=20;

SCOTT@book> @ sql_idz cymmqupjr28s2
--SQL_ID = cymmqupjr28s2
deptno=20;

SCOTT@book> @ sql_id cymmqupjr28s2
--SQL_ID = cymmqupjr28s2
select * from dept where deptno=20;
--//注:我寫的3個檢視sql_id的版本,sql_id.sql版本過濾掉^M.sql_idz.sql的保持原樣輸出.

SCOTT@book> spool by.txt
SCOTT@book> select sql_fulltext from v$sql where sql_id='cymmqupjr28s2';
SQL_FULLTEXT
-------------------------------------------------------------------------
deptno=20

SCOTT@book> spool off

--//編輯by.txt後如下：
$ cat -Ev by.txt
select ^M * ^M from ^M dept ^Mwhere ^Mdeptno=20$

$ ~/bin/sql_idx.sh by.txt 1 | cat -Ev
sql_text = select ^M * ^M from ^M dept ^Mwhere ^Mdeptno=20\0$
full_hash_value(16) = 0E6C6BF775D7AA8DCF4E76D563712302 $
hash_value(10) = 1668358914 $
sql_id(32) = cymmqupjr28s2$
sql_id(32) = cymmqupjr28s2$
sql_id(32) = cymmqupjr28s2$

$ ~/bin/sql_idx.sh bx.sql 1 | cat -Ev
sql_text = select ^M * ^M from ^M dept ^Mwhere ^Mdeptno=20\0$
full_hash_value(16) = 0E6C6BF775D7AA8DCF4E76D563712302 $
hash_value(10) = 1668358914 $
sql_id(32) = cymmqupjr28s2$
sql_id(32) = cymmqupjr28s2$
sql_id(32) = cymmqupjr28s2$

--//可以看出中間出現的^M不過過濾.

7.繼續測試：
--//重新編輯bx.sql，內容如下：
$ cat -Ev bx.sql
select ^M$
* $
^M $
from ^M $
dept ^Mwhere ^Mdeptno=20;$

SCOTT@book> SET SQLBLANKLINES OFF
SCOTT@book> @ bx.sql
SP2-0042: unknown command "from" - rest of line ignored.
wher..." - rest of line ignored.ing "dept
--//存在一個空行。

SCOTT@book> SET SQLBLANKLINES ON
SCOTT@book> @ bx.sql
DEPTNO DNAME LOC
---------- -------------- -------------
20 RESEARCH DALLAS

SCOTT@book> @ hash
HASH_VALUE SQL_ID CHILD_NUMBER KGL_BUCKET PLAN_HASH_VALUE HASH_HEX SQL_EXEC_START SQL_EXEC_ID
---------- ------------- ------------ ---------- --------------- ---------- ------------------- -----------
987480685 a9mmzpcxdrhmd 0 115309 2852011669 3adbc26d 2024-03-20 15:27:59 16777220

SCOTT@book> select sql_text from v$sql where sql_id='a9mmzpcxdrhmd';
SQL_TEXT
------------------------------------------------------------
deptno=20* from dept

SCOTT@book> select sql_fulltext c60 from v$sql where sql_id='a9mmzpcxdrhmd';
C60
------------------------------------------------------------
select
*

from
deptno=20


SCOTT@book> @ sql_id a9mmzpcxdrhmd

--SQL_ID = a9mmzpcxdrhmd

select
*

from
dept where deptno=20;

SCOTT@book> @ sql_idx a9mmzpcxdrhmd

--SQL_ID = a9mmzpcxdrhmd

select
*

from
deptno=20;

SCOTT@book> @ sql_idz a9mmzpcxdrhmd

--SQL_ID = a9mmzpcxdrhmd

select
*

from
deptno=20;


SCOTT@book> spool by.txt
SCOTT@book> select sql_fulltext c60 from v$sql where sql_id='a9mmzpcxdrhmd';
C60
------------------------------------------------------------
select
*

from
deptno=20


SCOTT@book> spool off


$ cat -Ev by.txt
SCOTT@book> select sql_fulltext c60 from v$sql where sql_id='a9mmzpcxdrhmd';$
C60$
------------------------------------------------------------$
select$
*$
$
from$
dept ^Mwhere ^Mdeptno=20$
$
$
SCOTT@book> spool off$

--//為了對比方便,複製上面的cat -Ev bx.sql輸出:
$ cat -Ev bx.sql
select ^M$
* $
^M $
from ^M $
dept ^Mwhere ^Mdeptno=20;$

--//對比bx.sql的內容:
--//第1行select後面的空格,^M消失。
--//第2行*後面的空格消失。
--//第3行全部刪除。
--//第4行from後面的空格以及^M刪除.
--//第5行保留中間出現的的^M。

--//編輯by.txt
$ cat -Ev by.txt
select$
*$
$
from$
dept ^Mwhere ^Mdeptno=20$

$ ~/bin/sql_idx.sh by.txt 1 | cat -Ev
sql_text = select$
*$
$
from$
dept ^Mwhere ^Mdeptno=20\0$
full_hash_value(16) = D830D3E1D201C57AA4CE7FAB3ADBC26D $
hash_value(10) = 987480685 $
sql_id(32) = a9mmzpcxdrhmd$
sql_id(32) = a9mmzpcxdrhmd$
sql_id(32) = a9mmzpcxdrhmd$
--//可以確定sql_id計算使用的是v$sql.sql_fulltext計算的。

SCOTT@book> spool bz.txt
SCOTT@book> @ sql_idz a9mmzpcxdrhmd

--SQL_ID = a9mmzpcxdrhmd

select
*

from
deptno=20;

SCOTT@book> spool off

$ cat -Ev bz.txt
select$
*$
$
from$
dept ^Mwhere ^Mdeptno=20;$


$ ~/bin/sql_idx.sh bz.txt 1 | cat -Ev
sql_text = select$
*$
$
from$
dept ^Mwhere ^Mdeptno=20\0$
full_hash_value(16) = D830D3E1D201C57AA4CE7FAB3ADBC26D $
hash_value(10) = 987480685 $
sql_id(32) = a9mmzpcxdrhmd$
sql_id(32) = a9mmzpcxdrhmd$
sql_id(32) = a9mmzpcxdrhmd$

8.總結:
--//我以前一直認為都是按照sqlplus的方式計算的，實際上並不是這樣的情況，其它程式比如PB開發的程式或者w3wp.exe的程式，裡面
--//sql語句是保持"原樣",大部分應該如此.

--//這樣就好解析我生產系統遇到的問題。
--//我生成的指令碼過濾掉chr(13)變成unix格式，在這種情況下計算的sql_id肯定不一樣，另外結尾的空格也保留下來，總之sqlplus下執
--//行獲得sql_id 與其它程式的sql_id不同是很正常的情況。

--//你可以測試最新的toad下結尾的空格是保留的,早期的toad版本是在執行前在最後一行加入1個空格,最新的版本沒有這個問題.
--//參考:
--//[20120327]toad與sqlplus下執行sql語句的一個細節.txt ->https://blog.itpub.net/267265/viewspace-719592/
--//[20150803]toad 12版本1個小變化.txt -> https://blog.itpub.net/267265/viewspace-1760071/

9.附上相關指令碼:
$ cat sql_idz.sql
SET LINESIZE 32767
--SET LINESIZE 4000
VAR V_SQL_FULLTEXT CLOB
COL SQL_FULLTEXT FOR A4000 WORD_WRAP

SET FEEDBACK OFF
SET SERVEROUTPUT ON

PROMPT
PROMPT --SQL_ID = &&1
PROMPT

DECLARE
V_SQL_FULLTEXT CLOB;
V_COUNT NUMBER;
BEGIN
SELECT COUNT(*) INTO V_COUNT FROM GV$SQLAREA WHERE SQL_ID = '&&1' AND ROWNUM=1;
IF V_COUNT=1
THEN
SELECT SQL_FULLTEXT||';' SQL_FULLTEXT INTO V_SQL_FULLTEXT FROM GV$SQLAREA WHERE SQL_ID = '&&1' AND ROWNUM = 1;
--SELECT REPLACE (SQL_FULLTEXT||';', '', '') SQL_FULLTEXT INTO V_SQL_FULLTEXT FROM GV$SQLAREA WHERE SQL_ID = '&&1' AND ROWNUM = 1;
--SELECT REPLACE (SQL_FULLTEXT||';', CHR(13), '') SQL_FULLTEXT INTO V_SQL_FULLTEXT FROM GV$SQLAREA WHERE SQL_ID = '&&1' AND ROWNUM = 1;
--SELECT REPLACE (SQL_FULLTEXT||';', CHR(13), chr(13)) SQL_FULLTEXT INTO V_SQL_FULLTEXT FROM GV$SQLAREA WHERE SQL_ID = '&&1' AND ROWNUM = 1;
DBMS_OUTPUT.PUT_LINE (V_SQL_FULLTEXT);
ELSE
SELECT COUNT(*) INTO V_COUNT FROM DBA_HIST_SQLTEXT WHERE SQL_ID='&&1' AND ROWNUM=1;
IF V_COUNT=1
THEN
SELECT SQL_TEXT||';' INTO V_SQL_FULLTEXT FROM DBA_HIST_SQLTEXT WHERE SQL_ID='&&1' AND ROWNUM=1;
--SELECT REPLACE (SQL_TEXT||';','','') INTO V_SQL_FULLTEXT FROM DBA_HIST_SQLTEXT WHERE SQL_ID='&&1' AND ROWNUM=1;
--SELECT REPLACE (SQL_TEXT||';',CHR(13),'') INTO V_SQL_FULLTEXT FROM DBA_HIST_SQLTEXT WHERE SQL_ID='&&1' AND ROWNUM=1;
--SELECT REPLACE (SQL_TEXT||';',CHR(13),chr(13)) INTO V_SQL_FULLTEXT FROM DBA_HIST_SQLTEXT WHERE SQL_ID='&&1' AND ROWNUM=1;
DBMS_OUTPUT.PUT_LINE (V_SQL_FULLTEXT);
END IF;
END IF;
EXCEPTION WHEN NO_DATA_FOUND THEN
NULL;
END;
/

PROMPT
SET SERVEROUTPUT OFF
SET FEEDBACK 6
SET LINESIZE 277

$ cat ~/bin/sql_idx.sh
#! /bin/bash
# calcucate sql_text of full_hash_value(16),hash_value(10),sql_id(32).
# argv1 sql statement or sql of text file
# argv2 flag: 0= sql statement 1=sql of text file

odebug=${ODEBUG:-0}
oflag=${2:-0}

if [ $oflag -eq 0 ]
then
sql_text=${1}'\0'
fi

if [ $oflag -eq 1 ]
then
# sql_text="$( cat $1 | dos2unix | sed '$s/;\s*//')"'\0'
$//" | sed '$s/;\s*//')"'\0'd "s/
sql_text="$( cat $1 | sed '$s/;\s*//')"'\0'
fi

v1=$(echo -e -n "$sql_text" | md5sum | sed 's/ -//' | xxd -r -p | od -t x4 | sed -n -e 's/^0\+ //' -e 's/ //gp' | tr 'a-z' 'A-Z')
v2=${v1:(-16):16}
v3=${v2:(-8):8}
# v2=$(echo "obase=16;ibase=16; $v1 % 10000000000000000" | bc| tr -d '\\\r\n')
# v3=$(echo "obase=10;ibase=16; $v1 % 100000000" | bc| tr -d '\\\r\n')

if [ $odebug -eq 1 ] ; then
echo v1=$v1 v2=$v2 v3=$v3
fi

echo "sql_text = $sql_text"
echo "full_hash_value(16) = $v1 "
echo "hash_value(10) = $(( 16#$v3 )) "

BASE32=($(echo {0..9} {a..z} | tr -d 'eilo'))
res=''
for i in $(echo "obase=32;ibase=16; $v2" | bc| tr -d '\\\r\n')
do
res=${res}${BASE32[$(( 10#$i ))]}
done
echo "sql_id(32) = $(printf "%13s" $res | tr ' ' '0')"
echo "sql_id(32) = $(printf "%013s" $res)"

res1=$(eval $(echo "obase=32;ibase=16; $v2" | bc| tr -d '\\\r\n' | awk 'BEGIN{RS=" +"; printf "echo " }/./{printf "${BASE32[$(( 10#%02d))]}", $1}' ))
echo "sql_id(32) = $(printf "%013s" $res1)"