MySQL資料庫高併發最佳化配置

許願流星1號發表於2015-12-02

MySQL的最佳化我分為兩個部分,一是伺服器物理硬體的最佳化,二是MySQL自身(my.cnf)的最佳化。

一、伺服器硬體對MySQL效能的影響

① 磁碟尋道能力(磁碟I/O,以目前高轉速SCSI硬碟(7200/)為例,這種硬碟理論上每秒尋道7200次,這是物理特性決定的,沒有辦法改變。 MySQL每秒鐘都在進行大量、複雜的查詢操作,對磁碟的讀寫量可想而知。所以,通常認為磁碟I/O是制約MySQL效能的最大因素之一,對於日均訪問量 100PV以上的Discuz!論壇,由於磁碟I/O的制約,MySQL的效能會非常低下!解決這一制約因素可以考慮以下幾種解決方案:  使用RAID-0+1磁碟陣列,注意不要嘗試使用RAID-5MySQLRAID-5磁碟陣列上的效率不會像你期待的那樣快。

②CPU 對於MySQL應用,推薦使用S.M.P.架構的多路對稱CPU,例如:可以使用兩顆Intel Xeon 3.6GHz的CPU,現在我較推薦用4U的伺服器來專門做伺服器,不僅僅是針對於mysql。

③實體記憶體對於一臺使用MySQLDatabase Server來說,伺服器記憶體建議不要小於2GB,推薦使用4GB以上的實體記憶體,不過記憶體對於現在的伺服器而言可以說是一個可以忽略的問題,工作中遇到了高階伺服器基本上記憶體都超過了16G

二、 MySQL自身因素

當解決了上述伺服器硬體制約因素後,讓我們看看MySQL自身的最佳化是如何操作的。對MySQL自身的最佳化主要是對其配置檔案 my.cnf中的各項引數進行最佳化調整。下面我們介紹一些對效能影響較大的引數。  由於my.cnf檔案的最佳化設定是與伺服器硬體配置息息相關的,因而我們指定一個假想的伺服器硬體環境:

下面,我們根據以上硬體配置結合一份已經最佳化好的my.cnf進行說明:

 

#vim /etc/my.cnf以下只列出my.cnf檔案中[mysqld]段落中的內容,其他段落內容對MySQL執行效能影響甚微,因而姑且忽略。

 

[mysqld]  

port = 3306  

serverid = 1  

socket = /tmp/mysql.sock  

skip-locking  

#避免MySQL的外部鎖定,減少出錯機率增強穩定性。  

skip-name-resolve  

#禁止MySQL對外部連線進行DNS解析,使用這一選項可以消除MySQL進行DNS解析的時間。但需要注意,如果開啟該選項,則所有遠端主機連線授權都要使用IP地址方式,否則MySQL將無法正常處理連線請求!  

back_log = 384  

#back_log 引數的值指出在MySQL暫時停止響應新請求之前的短時間內多少個請求可以被存在堆疊中。  如果系統在一個短時間內有很多連線,則需要增大該引數的值,該引數值指定到來的TCP/IP連線的偵聽佇列的大小。不同的作業系統在這個佇列大小上有它自 己的限制。 試圖設定back_log高於你的作業系統的限制將是無效的。預設值為50。對於Linux系統推薦設定為小於512的整數。  

key_buffer_size = 256M  

#key_buffer_size指定用於索引的緩衝區大小,增加它可得到更好的索引處理效能。對於記憶體在4GB左右的伺服器該引數可設定為256M或384M。注意:該引數值設定的過大反而會是伺服器整體效率降低!  

max_allowed_packet = 4M  

thread_stack = 256K  

table_cache = 128K  

sort_buffer_size = 6M  

#查詢排序時所能使用的緩衝區大小。注意:該引數對應的分配記憶體是每連線獨佔,如果有100個連線,那麼實際分配的總共排序緩衝區大小為100 × 6 = 600MB。所以,對於記憶體在4GB左右的伺服器推薦設定為6-8M。  

read_buffer_size = 4M  

#讀查詢操作所能使用的緩衝區大小。和sort_buffer_size一樣,該引數對應的分配記憶體也是每連線獨享。  

join_buffer_size = 8M  

#聯合查詢操作所能使用的緩衝區大小,和sort_buffer_size一樣,該引數對應的分配記憶體也是每連線獨享。  

myisam_sort_buffer_size = 64M  

table_cache = 512  

thread_cache_size = 64  

query_cache_size = 64M  

# 指定MySQL查詢緩衝區的大小。可以透過在MySQL控制檯觀察,如果Qcache_lowmem_prunes的值非常大,則表明經常出現緩衝不夠的 情況;如果Qcache_hits的值非常大,則表明查詢緩衝使用非常頻繁,如果該值較小反而會影響效率,那麼可以考慮不用查詢緩 衝;Qcache_free_blocks,如果該值非常大,則表明緩衝區中碎片很多。  

tmp_table_size = 256M  

max_connections = 768  

#指定MySQL允許的最大連線程式數。如果在訪問論壇時經常出現Too Many Connections的錯誤提 示,則需要增大該引數值。  

max_connect_errors = 10000000  

wait_timeout = 10  

#指定一個請求的最大連線時間,對於4GB左右記憶體的伺服器可以設定為5-10。  

thread_concurrency = 8  

#該引數取值為伺服器邏輯CPU數量*2,在本例中,伺服器有2顆物理CPU,而每顆物理CPU又支援H.T超執行緒,所以實際取值為4*2=8  

skip-networking  

#開啟該選項可以徹底關閉MySQL的TCP/IP連線方式,如果WEB伺服器是以遠端連線的方式訪問MySQL伺服器則不要開啟該選項!否則將無法正常連線!  

table_cache=1024  

#實體記憶體越大,設定就越大.預設為2402,調到512-1024最佳  

innodb_additional_mem_pool_size=4M  

#預設為2M  

innodb_flush_log_at_trx_commit=1  

#設定為0就是等到innodb_log_buffer_size列隊滿後再統一儲存,預設為1  

innodb_log_buffer_size=2M  

#預設為1M  

innodb_thread_concurrency=8  

#你的伺服器CPU有幾個就設定為幾,建議用預設一般為8  

key_buffer_size=256M  

#預設為218,調到128最佳  

tmp_table_size=64M  

#預設為16M,調到64-256最掛  

read_buffer_size=4M  

#預設為64K  

read_rnd_buffer_size=16M  

#預設為256K  

sort_buffer_size=32M  

#預設為256K  

thread_cache_size=120  

#預設為60  

query_cache_size=32M

 

如果從資料庫平臺應用出發,我還是會首選myisam.

PS:可能有人會說你myisam無法抗太多寫操作,但是我可以透過架構來彌補,說個我現有用的資料庫平臺容量:主從資料總量在幾百T以上,每天十多億 pv的動態頁面,還有幾個大專案是透過資料介面方式呼叫未算進pv總數,(其中包括一個大專案因為初期memcached沒部署,導致單臺資料庫每天處理 9千萬的查詢)。而我的整體資料庫伺服器平均負載都在0.5-1左右。

MyISAM和InnoDB最佳化:

key_buffer_size – 這對MyISAM表來說非常重要。如果只是使用MyISAM表,可以把它設定為可用記憶體的 30-40%。合理的值取決於索引大小、資料量以及負載 記住,MyISAM表會使用作業系統的快取來快取資料,因此需要留出部分記憶體給它們,很多情況下資料比索引大多了。儘管如此,需要總是檢查是否所有的 key_buffer 都被利用了 .MYI 檔案只有 1GB,而 key_buffer 卻設定為 4GB 的情況是非常少的。這麼做太浪費了。如果你很少使用MyISAM表,那麼也保留低於 16-32MB key_buffer_size 以適應給予磁碟的臨時表索引所需。

innodb_buffer_pool_size – 這對Innodb表來說非常重要。Innodb相比MyISAM表對緩衝更為敏感。MyISAM可以在預設的 key_buffer_size 設定下執行的可以,然而Innodb在預設的 innodb_buffer_pool_size 設定下卻跟蝸牛似的。由於Innodb把資料和索引都快取起來,無需留給作業系統太多的記憶體,因此如果只需要用Innodb的話則可以設定它高達 70-80% 的可用記憶體。一些應用於 key_buffer 的規則有 如果你的資料量不大,並且不會暴增,那麼無需把 innodb_buffer_pool_size 設定的太大了。

innodb_additional_pool_size – 這個選項對效能影響並不太多,至少在有差不多足夠記憶體可分配的作業系統上是這樣。不過如果你仍然想設定為 20MB(或者更大),因此就需要看一下Innodb其他需要分配的記憶體有多少。

innodb_log_file_size 在高寫入負載尤其是大資料集的情況下很重要。這個值越大則效能相對越高,但是要注意到可能會增加恢復時間。我經常設定為 64-512MB,跟據伺服器大小而異。

innodb_log_buffer_size 默 認的設定在中等強度寫入負載以及較短事務的情況下,伺服器效能還可 以。如果存在更新操作峰值或者負載較大,就應該考慮加大它的值了。如果它的值設定太高了,可能會浪費記憶體 — 它每秒都會重新整理一次,因此無需設定超過1秒所需的記憶體空間。通常 8-16MB 就足夠了。越小的系統它的值越小。

innodb_flush_logs_at_trx_commit 是否為Innodb比MyISAM慢1000倍而頭大?看來也許你忘了修改這個引數了。預設值是 1,這意味著每次提交的更新事務(或者每個事務之外的語句)都會重新整理到磁碟中,而這相當耗費資源,尤其是沒有電池備用快取時。很多應用程式,尤其是從 MyISAM轉變過來的那些,把它的值設定為 2 就可以了,也就是不把日誌重新整理到磁碟上,而只重新整理到作業系統的快取上。日誌仍然會每秒重新整理到磁碟中去,因此通常不會丟失每秒1-2次更新的消耗。如果設定 為 0 就快很多了,不過也相對不安全了 — MySQL伺服器崩潰時就會丟失一些事務。設定為 2 指揮丟失重新整理到作業系統快取的那部分事務。

table_cache — 開啟一個表的開銷可能很大。例如MyISAMMYI檔案頭標誌該表正在使用中。你肯定不希望這種操作太頻繁,所以通常要加大快取數量,使得足以最大限度 地快取開啟的表。它需要用到作業系統的資源以及記憶體,對當前的硬體配置來說當然不是什麼問題了。如果你有200多個表的話,那麼設定為 1024 也許比較合適(每個執行緒都需要開啟表),如果連線數比較大那麼就加大它的值。我曾經見過設定為 100,000 的情況。

thread_cache — 執行緒的建立和銷燬的開銷可能很大,因為每個執行緒的連線/斷開都需要。我通常至少設定為 16。如果應用程式中有大量的跳躍併發連線並且 Threads_Created 的值也比較大,那麼我就會加大它的值。它的目的是在通常的操作中無需建立新執行緒。

query_cache — 如果你的應用程式有大量讀,而且沒有應用程式級別的快取,那麼這很有用。不要把它設定太大了,因為想要維護它也需要不少開銷,這會導致MySQL變慢。通 常設定為 32-512Mb。設定完之後最好是跟蹤一段時間,檢視是否執行良好。在一定的負載壓力下,如果快取命中率太低了,就啟用它。

sort_buffer_size –如果你只有一些簡單的查詢,那麼就無需增加它的值了,儘管你有 64GB 的記憶體。搞不好也許會降低效能。

來自 “ ITPUB部落格 ” ,連結:http://blog.itpub.net/29893219/viewspace-1851536/,如需轉載,請註明出處,否則將追究法律責任。

相關文章