MySQL資料庫高併發最佳化配置
MySQL的最佳化我分為兩個部分,一是伺服器物理硬體的最佳化,二是MySQL自身(my.cnf)的最佳化。
一、伺服器硬體對MySQL效能的影響
① 磁碟尋道能力(磁碟I/O),以目前高轉速SCSI硬碟(7200轉/秒)為例,這種硬碟理論上每秒尋道7200次,這是物理特性決定的,沒有辦法改變。 MySQL每秒鐘都在進行大量、複雜的查詢操作,對磁碟的讀寫量可想而知。所以,通常認為磁碟I/O是制約MySQL效能的最大因素之一,對於日均訪問量 在100萬PV以上的Discuz!論壇,由於磁碟I/O的制約,MySQL的效能會非常低下!解決這一制約因素可以考慮以下幾種解決方案: 使用RAID-0+1磁碟陣列,注意不要嘗試使用RAID-5,MySQL在RAID-5磁碟陣列上的效率不會像你期待的那樣快。
②CPU 對於MySQL應用,推薦使用S.M.P.架構的多路對稱CPU,例如:可以使用兩顆Intel Xeon 3.6GHz的CPU,現在我較推薦用4U的伺服器來專門做伺服器,不僅僅是針對於mysql。
③實體記憶體對於一臺使用MySQL的Database Server來說,伺服器記憶體建議不要小於2GB,推薦使用4GB以上的實體記憶體,不過記憶體對於現在的伺服器而言可以說是一個可以忽略的問題,工作中遇到了高階伺服器基本上記憶體都超過了16G。
二、 MySQL自身因素
當解決了上述伺服器硬體制約因素後,讓我們看看MySQL自身的最佳化是如何操作的。對MySQL自身的最佳化主要是對其配置檔案 my.cnf中的各項引數進行最佳化調整。下面我們介紹一些對效能影響較大的引數。 由於my.cnf檔案的最佳化設定是與伺服器硬體配置息息相關的,因而我們指定一個假想的伺服器硬體環境:
下面,我們根據以上硬體配置結合一份已經最佳化好的my.cnf進行說明:
#vim /etc/my.cnf以下只列出my.cnf檔案中[mysqld]段落中的內容,其他段落內容對MySQL執行效能影響甚微,因而姑且忽略。
[mysqld]
port = 3306
serverid = 1
socket = /tmp/mysql.sock
skip-locking
#避免MySQL的外部鎖定,減少出錯機率增強穩定性。
skip-name-resolve
#禁止MySQL對外部連線進行DNS解析,使用這一選項可以消除MySQL進行DNS解析的時間。但需要注意,如果開啟該選項,則所有遠端主機連線授權都要使用IP地址方式,否則MySQL將無法正常處理連線請求!
back_log = 384
#back_log 引數的值指出在MySQL暫時停止響應新請求之前的短時間內多少個請求可以被存在堆疊中。 如果系統在一個短時間內有很多連線,則需要增大該引數的值,該引數值指定到來的TCP/IP連線的偵聽佇列的大小。不同的作業系統在這個佇列大小上有它自 己的限制。 試圖設定back_log高於你的作業系統的限制將是無效的。預設值為50。對於Linux系統推薦設定為小於512的整數。
key_buffer_size = 256M
#key_buffer_size指定用於索引的緩衝區大小,增加它可得到更好的索引處理效能。對於記憶體在4GB左右的伺服器該引數可設定為256M或384M。注意:該引數值設定的過大反而會是伺服器整體效率降低!
max_allowed_packet = 4M
thread_stack = 256K
table_cache = 128K
sort_buffer_size = 6M
#查詢排序時所能使用的緩衝區大小。注意:該引數對應的分配記憶體是每連線獨佔,如果有100個連線,那麼實際分配的總共排序緩衝區大小為100 × 6 = 600MB。所以,對於記憶體在4GB左右的伺服器推薦設定為6-8M。
read_buffer_size = 4M
#讀查詢操作所能使用的緩衝區大小。和sort_buffer_size一樣,該引數對應的分配記憶體也是每連線獨享。
join_buffer_size = 8M
#聯合查詢操作所能使用的緩衝區大小,和sort_buffer_size一樣,該引數對應的分配記憶體也是每連線獨享。
myisam_sort_buffer_size = 64M
table_cache = 512
thread_cache_size = 64
query_cache_size = 64M
# 指定MySQL查詢緩衝區的大小。可以透過在MySQL控制檯觀察,如果Qcache_lowmem_prunes的值非常大,則表明經常出現緩衝不夠的 情況;如果Qcache_hits的值非常大,則表明查詢緩衝使用非常頻繁,如果該值較小反而會影響效率,那麼可以考慮不用查詢緩 衝;Qcache_free_blocks,如果該值非常大,則表明緩衝區中碎片很多。
tmp_table_size = 256M
max_connections = 768
#指定MySQL允許的最大連線程式數。如果在訪問論壇時經常出現Too Many Connections的錯誤提 示,則需要增大該引數值。
max_connect_errors = 10000000
wait_timeout = 10
#指定一個請求的最大連線時間,對於4GB左右記憶體的伺服器可以設定為5-10。
thread_concurrency = 8
#該引數取值為伺服器邏輯CPU數量*2,在本例中,伺服器有2顆物理CPU,而每顆物理CPU又支援H.T超執行緒,所以實際取值為4*2=8
skip-networking
#開啟該選項可以徹底關閉MySQL的TCP/IP連線方式,如果WEB伺服器是以遠端連線的方式訪問MySQL伺服器則不要開啟該選項!否則將無法正常連線!
table_cache=1024
#實體記憶體越大,設定就越大.預設為2402,調到512-1024最佳
innodb_additional_mem_pool_size=4M
#預設為2M
innodb_flush_log_at_trx_commit=1
#設定為0就是等到innodb_log_buffer_size列隊滿後再統一儲存,預設為1
innodb_log_buffer_size=2M
#預設為1M
innodb_thread_concurrency=8
#你的伺服器CPU有幾個就設定為幾,建議用預設一般為8
key_buffer_size=256M
#預設為218,調到128最佳
tmp_table_size=64M
#預設為16M,調到64-256最掛
read_buffer_size=4M
#預設為64K
read_rnd_buffer_size=16M
#預設為256K
sort_buffer_size=32M
#預設為256K
thread_cache_size=120
#預設為60
query_cache_size=32M
如果從資料庫平臺應用出發,我還是會首選myisam.
PS:可能有人會說你myisam無法抗太多寫操作,但是我可以透過架構來彌補,說個我現有用的資料庫平臺容量:主從資料總量在幾百T以上,每天十多億 pv的動態頁面,還有幾個大專案是透過資料介面方式呼叫未算進pv總數,(其中包括一個大專案因為初期memcached沒部署,導致單臺資料庫每天處理 9千萬的查詢)。而我的整體資料庫伺服器平均負載都在0.5-1左右。
MyISAM和InnoDB最佳化:
key_buffer_size – 這對MyISAM表來說非常重要。如果只是使用MyISAM表,可以把它設定為可用記憶體的 30-40%。合理的值取決於索引大小、資料量以及負載 — 記住,MyISAM表會使用作業系統的快取來快取資料,因此需要留出部分記憶體給它們,很多情況下資料比索引大多了。儘管如此,需要總是檢查是否所有的 key_buffer 都被利用了 — .MYI 檔案只有 1GB,而 key_buffer 卻設定為 4GB 的情況是非常少的。這麼做太浪費了。如果你很少使用MyISAM表,那麼也保留低於 16-32MB 的 key_buffer_size 以適應給予磁碟的臨時表索引所需。
innodb_buffer_pool_size – 這對Innodb表來說非常重要。Innodb相比MyISAM表對緩衝更為敏感。MyISAM可以在預設的 key_buffer_size 設定下執行的可以,然而Innodb在預設的 innodb_buffer_pool_size 設定下卻跟蝸牛似的。由於Innodb把資料和索引都快取起來,無需留給作業系統太多的記憶體,因此如果只需要用Innodb的話則可以設定它高達 70-80% 的可用記憶體。一些應用於 key_buffer 的規則有 — 如果你的資料量不大,並且不會暴增,那麼無需把 innodb_buffer_pool_size 設定的太大了。
innodb_additional_pool_size – 這個選項對效能影響並不太多,至少在有差不多足夠記憶體可分配的作業系統上是這樣。不過如果你仍然想設定為 20MB(或者更大),因此就需要看一下Innodb其他需要分配的記憶體有多少。
innodb_log_file_size 在高寫入負載尤其是大資料集的情況下很重要。這個值越大則效能相對越高,但是要注意到可能會增加恢復時間。我經常設定為 64-512MB,跟據伺服器大小而異。
innodb_log_buffer_size 默 認的設定在中等強度寫入負載以及較短事務的情況下,伺服器效能還可 以。如果存在更新操作峰值或者負載較大,就應該考慮加大它的值了。如果它的值設定太高了,可能會浪費記憶體 — 它每秒都會重新整理一次,因此無需設定超過1秒所需的記憶體空間。通常 8-16MB 就足夠了。越小的系統它的值越小。
innodb_flush_logs_at_trx_commit 是否為Innodb比MyISAM慢1000倍而頭大?看來也許你忘了修改這個引數了。預設值是 1,這意味著每次提交的更新事務(或者每個事務之外的語句)都會重新整理到磁碟中,而這相當耗費資源,尤其是沒有電池備用快取時。很多應用程式,尤其是從 MyISAM轉變過來的那些,把它的值設定為 2 就可以了,也就是不把日誌重新整理到磁碟上,而只重新整理到作業系統的快取上。日誌仍然會每秒重新整理到磁碟中去,因此通常不會丟失每秒1-2次更新的消耗。如果設定 為 0 就快很多了,不過也相對不安全了 — MySQL伺服器崩潰時就會丟失一些事務。設定為 2 指揮丟失重新整理到作業系統快取的那部分事務。
table_cache — 開啟一個表的開銷可能很大。例如MyISAM把MYI檔案頭標誌該表正在使用中。你肯定不希望這種操作太頻繁,所以通常要加大快取數量,使得足以最大限度 地快取開啟的表。它需要用到作業系統的資源以及記憶體,對當前的硬體配置來說當然不是什麼問題了。如果你有200多個表的話,那麼設定為 1024 也許比較合適(每個執行緒都需要開啟表),如果連線數比較大那麼就加大它的值。我曾經見過設定為 100,000 的情況。
thread_cache — 執行緒的建立和銷燬的開銷可能很大,因為每個執行緒的連線/斷開都需要。我通常至少設定為 16。如果應用程式中有大量的跳躍併發連線並且 Threads_Created 的值也比較大,那麼我就會加大它的值。它的目的是在通常的操作中無需建立新執行緒。
query_cache — 如果你的應用程式有大量讀,而且沒有應用程式級別的快取,那麼這很有用。不要把它設定太大了,因為想要維護它也需要不少開銷,這會導致MySQL變慢。通 常設定為 32-512Mb。設定完之後最好是跟蹤一段時間,檢視是否執行良好。在一定的負載壓力下,如果快取命中率太低了,就啟用它。
sort_buffer_size –如果你只有一些簡單的查詢,那麼就無需增加它的值了,儘管你有 64GB 的記憶體。搞不好也許會降低效能。
來自 “ ITPUB部落格 ” ,連結:http://blog.itpub.net/29893219/viewspace-1851536/,如需轉載,請註明出處,否則將追究法律責任。
相關文章
- MySQL 高併發配置最佳化MySql
- MySQL資料庫高併發下的引數配置優化案例MySql資料庫優化
- mysql大資料高併發處理MySql大資料
- 大資料量高併發的資料庫優化大資料資料庫優化
- 資料庫高併發解決方法總結資料庫
- 【MySQL】資料庫最佳化MySql資料庫
- mysql資料庫最佳化MySql資料庫
- 資料庫系列:InnoDB下實現高併發控制資料庫
- 資料庫系列:高併發下的資料欄位變更資料庫
- MySQL資料庫效能最佳化MySql資料庫
- mysql資料庫SQL最佳化MySql資料庫
- 【資料庫】併發控制資料庫
- ES資料庫高可用配置資料庫
- django 配置mysql資料庫DjangoMySql資料庫
- django配置mysql資料庫DjangoMySql資料庫
- MySQL資料庫高可用方案MySql資料庫
- linux高負載下mysql資料庫徹底最佳化(轉)Linux負載MySql資料庫
- mysql資料庫最佳化彙總MySql資料庫
- mysql資料庫SQL最佳化2MySql資料庫
- mysql資料庫SQL最佳化3MySql資料庫
- nginx 高併發配置引數Nginx
- 【轉】從msql資料庫處理高併發商品超賣SQL資料庫
- 解決資料庫高併發訪問瓶頸問題資料庫
- 資料庫併發問題資料庫
- 【巨杉資料庫Sequoiadb】【諮詢】【資料操作】【索引】高併發 insert資料庫索引
- mysql主從資料庫配置MySql資料庫
- Vapor如何配置MySQL資料庫VaporMySql資料庫
- MySQL資料庫時區配置MySql資料庫
- MySQL 配置資料庫編碼MySql資料庫
- mysql資料庫多表同結構合併資料MySql資料庫
- PbootCMS資料庫配置,修改為Mysql資料庫,配置Mysql出錯解決辦法boot資料庫MySql
- MySQL效能最佳化盲區(高併發情況下,事務內的資料先更新還是先查詢?)MySql
- MySQL和PostgreSQL資料庫安全配置MySql資料庫
- 8、MySQL主從資料庫配置MySql資料庫
- 配置xtrabackup備份mysql資料庫MySql資料庫
- mysql資料庫磁碟io高的排查MySql資料庫
- Python高階 -- 07 MySQL資料庫PythonMySql資料庫
- 高併發架構系列:資料庫主從同步的3種方案架構資料庫主從同步