來源：知然
在開發C++程式時，一般在吞吐量、併發、實時性上有較高的要求。設計C++程式時，總結起來可以從如下幾點提高效率：
● l 併發
● l 非同步
● l 快取
下面將我平常工作中遇到一些問題例舉一二，其設計思想無非以上三點。
1任務佇列
1.1 以生產者-消費者模型設計任務佇列
生產者-消費者模型是人們非常熟悉的模型，比如在某個伺服器程式中，當User資料被邏輯模組修改後，就產生一個更新資料庫的任務（produce），投遞給IO模組任務佇列，IO模組從任務佇列中取出任務執行sql操作（consume）。
設計通用的任務佇列，示例程式碼如下：
詳細實現可參見：
http://ffown.googlecode.com/svn/trunk/fflib/include/detail/task_queue_impl.h
|
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 |
void task_queue_t::produce(const task_t& task_) { lock_guard_t lock(m_mutex); if (m_tasklist->empty()){//! 條件滿足喚醒等待執行緒 m_cond.signal(); } m_tasklist->push_back(task_); } int task_queue_t::comsume(task_t& task_){ lock_guard_t lock(m_mutex); while (m_tasklist->empty())//! 當沒有作業時，就等待直到條件滿足被喚醒{ if (false == m_flag){ return -1; } m_cond.wait(); } task_ = m_tasklist->front(); m_tasklist->pop_front(); return 0; } |
1.2 任務佇列使用技巧
1.2.1 IO 與 邏輯分離
比如網路遊戲伺服器程式中，網路模組收到訊息包，投遞給邏輯層後立即返回，繼續接受下一個訊息包。邏輯執行緒在一個沒有io操作的環境下執行，以保障實時性。示例：
|
1 2 3 |
void handle_xx_msg(long uid, const xx_msg_t& msg){ logic_task_queue->post(boost::bind(&servie_t::proces, uid, msg)); } |
注意，此模式下為單任務佇列，每個任務佇列單執行緒。
1.2.2 並行流水線
上面的只是完成了io 和 cpu運算的並行，而cpu中邏輯操作是序列的。在某些場合，cpu邏輯運算部分也可實現並行，如遊戲中使用者A種菜和B種菜兩種操作是完全可以並行的，因為兩個操作沒有共享資料。最簡單的方式是A、B相關的操作被分配到不同的任務佇列中。示例如下：
|
1 2 3 4 |
void handle_xx_msg(long uid, const xx_msg_t& msg) { logic_task_queue_array[uid % sizeof(logic_task_queue_array)]->post( boost::bind(&servie_t::proces, uid, msg)); } |
注意，此模式下為多工佇列，每個任務佇列單執行緒。
1.2.3 連線池與非同步回撥
比如邏輯Service模組需要資料庫模組非同步載入使用者資料，並做後續處理計算。而資料庫模組擁有一個固定連線數的連線池，當執行SQL的任務到來時，選擇一個空閒的連線，執行SQL，並把SQL 通過回撥函式傳遞給邏輯層。其步驟如下：
●n 預先分配好執行緒池，每個執行緒建立一個連線到資料庫的連線
●n 為資料庫模組建立一個任務佇列，所有執行緒都是這個任務佇列的消費者
●n 邏輯層想資料庫模組投遞sql執行任務，同時傳遞一個回撥函式來接受sql執行結果
示例如下：
|
1 |
void db_t:load(long uid_, boost::functionpost(boost::bind(&db_t:load, uid, func)); |
注意，此模式下為單任務佇列，每個任務佇列多執行緒。
2. 日誌
本文主要講C++多執行緒程式設計，日誌系統不是為了提高程式效率，但是在程式除錯、執行期排錯上，日誌是無可替代的工具，相信開發後臺程式的朋友都會使用日誌。常見的日誌使用方式有如下幾種：
●n 流式，如logstream << “start servie time[%d]” << time(0) << ” app name[%s]” << app_string.c_str() << endl;
●n Printf 格式如：logtrace(LOG_MODULE, “start servie time[%d] app name[%s]”, time(0), app_string.c_str());
二者各有優缺點，流式是執行緒安全的，printf格式格式化字串會更直接，但缺點是執行緒不安全，如果把app_string.c_str() 換成app_string （std::string），編譯被通過，但是執行期會crash（如果運氣好每次都crash，運氣不好偶爾會crash）。我個人鍾愛printf風格，可以做如下改進：
●l 增加執行緒安全，利用C++模板的traits機制，可以實現執行緒安全。示例：
|
1 2 3 4 5 |
template void logtrace(const char* module, const char* fmt, ARG1 arg1){ boost::format s(fmt); f % arg1; } |
這樣，除了標準型別+std::string 傳入其他型別將編譯不能通過。這裡只列舉了一個引數的例子，可以過載該版本支援更多引數，如果你願意，可以支援9個引數或更多。
●l 為日誌增加顏色，在printf中加入控制字元，可以再螢幕終端上顯示顏色，Linux下示例：printf(“33[32;49;1m [DONE] 33[39;49;0m”)
更多顏色方案參見：
http://hi.baidu.com/jiemnij/blog/item/d95df8c28ac2815cb219a80e.html
●l 每個執行緒啟動時，都應該用日誌列印該執行緒負責什麼功能。這樣，程式跑起來的時候通過top –H – p pid 可以得知那個功能使用cpu的多少。實際上，我的每行日誌都會列印執行緒id，此執行緒id非pthread_id，而其實是執行緒對應的系統分配的程式id號。
3. 效能監控
儘管已經有很多工具可以分析c++程式執行效能，但是其大部分還是執行在程式debug階段。我們需要一種手段在debug和release階段都能監控程式，一方面得知程式瓶頸之所在，一方面儘早發現哪些元件在執行期出現了異常。
通常都是使用gettimeofday 來計算某個函式開銷，可以精確到微妙。可以利用C++的確定性析構，非常方便的實現獲取函式開銷的小工具,示例如下：
|
1 2 3 4 5 6 7 8 9 10 11 12 13 |
struct profiler{ profiler(const char* func_name){ gettimeofday(&tv, NULL); } ~profiler(){ struct timeval tv2; gettimeofday(&tv2, NULL); long cost = (tv.tv_sec - tv.tv_sec) * 1000000 + (tv.tv_usec - tv.tv_usec); //! post to some manager } struct timeval tv; }; #define PROFILER() profiler(__FUNCTION__) |
Cost 應該被投遞到效能統計管理器中，該管理器定時講效能統計資料輸出到檔案中。
4 Lambda 程式設計
使用foreach 代替迭代器
很多程式語言已經內建了foreach，但是c++還沒有。所以建議自己在需要遍歷容器的地方編寫foreach函式。習慣函數語言程式設計的人應該會非常鍾情使用foreach，使用foreach的好處多多少少有些，如：
http://www.cnblogs.com/chsword/archive/2007/09/28/910011.html
但主要是程式設計哲學上層面的。
示例：
|
1 2 3 4 5 |
void user_mgr_t::foreach(boost::function func_){ for (iterator it = m_users.begin(); it != m_users.end() ++it){ func_(it->second); } } |
比如要實現dump 介面，不需要重寫關於迭代器的程式碼
|
1 2 3 4 5 6 7 8 |
void user_mgr_t:dump(){ struct lambda { static void print(user_t& user){ //! print(tostring(user); } }; this->foreach(lambda::print); } |
實際上，上面的程式碼變通的生成了匿名函式，如果是c++ 11 標準的編譯器，本可以寫的更簡潔一些：
|
1 |
this->foreach([](user_t& user) {} ); |
但是我大部分時間編寫的程式都要執行在centos 上，你知道嗎它的gcc版本是gcc 4.1.2， 所以大部分時間我都是用變通的方式使用lambda函式。
Lambda 函式結合任務佇列實現非同步
常見的使用任務佇列實現非同步的程式碼如下：
|
1 2 3 4 5 6 7 |
void service_t:async_update_user(long uid){ task_queue->post(boost::bind(&service_t:sync_update_user_impl, this, uid)); } void service_t:sync_update_user_impl(long uid){ user_t& user = get_user(uid); user.update() } |
這樣做的缺點是，一個介面要響應的寫兩遍函式，如果一個函式的引數變了，那麼另一個引數也要跟著改動。並且程式碼也不是很美觀。使用lambda可以讓非同步看起來更直觀，彷彿就是在介面函式中立刻完成一樣。示例程式碼：
|
1 2 3 4 5 6 7 8 9 |
void service_t:async_update_user(long uid){ struct lambda { static void update_user_impl(service_t* servie, long uid){ user_t& user = servie->get_user(uid); user.update(); } }; task_queue->post(boost::bind(&lambda:update_user_impl, this, uid)); } |
這樣當要改動該介面時，直接在該介面內修改程式碼，非常直觀。
5. 奇技淫巧
利用shared_ptr 實現map/reduce
Map/reduce的語義是先將任務劃分為多個任務，投遞到多個worker中併發執行，其產生的結果經reduce彙總後生成最終的結果。Shared_ptr的語義是什麼呢？當最後一個shared_ptr析構時，將會呼叫託管物件的解構函式。語義和map/reduce過程非常相近。我們只需自己實現講請求劃分多個任務即可。示例過程如下：
●l 定義請求託管物件，加入我們需要在10個檔案中搜尋“oh nice”字串出現的次數，定義託管結構體如下：
|
1 2 3 4 5 6 7 8 9 10 11 12 13 |
struct reducer{ void set_result(int index, long result) { m_result[index] = result; } ~reducer(){ long total = 0; for (int i = 0; i < sizeof(m_result); ++i){ total += m_result[i]; } //! post total to somewhere } long m_result[10]; }; |
●l 定義執行任務的 worker
|
1 2 3 |
void worker_t:exe(int index_, shared_ptr ret) { ret->set_result(index, 100); } |
●l 將任務分割後，投遞給不同的worker
|
1 2 3 |
shared_ptr ret(new reducer()); for (int i = 0; i < 10; ++i) { task_queue[i]->post(boost::bind(&worker_t:exe, i, ret)); } |