使用Python構建MySQL資料處理系統的操作方法
這篇文章主要跟大家分享的是如果使用Python構建MySQL資料處理系統的操作方法,小杜覺得在生活中很實用,就整理了一下,並分享給各位做個參考,由於內容質量高,且簡單易懂,感興趣的朋友不妨進來看看吧!
使用Python構建MySQL資料處理系統的操作方法:
一、處理異常是至關重要的
第一次嘗試連線到儲存在摩杜雲上的MySQL資料庫時,遇到過很多的錯誤。當設定代理時,對很多代理進行了體驗。問題是,在程式碼開發的第一階段,最好是處理所有的錯誤,特別是與連線有關的錯誤,如果需要的話,引發這些錯誤,否則呼叫Exchange語句。
這聽起來很簡單,但在我的例子中,可能有環境變數,其中有UNIX套接字名稱和節點環境名稱,它們的值可能不正確,資料庫憑據也可能不正確,我可以擁有它所有的東西。我在處理這些例子期間花費幾個小時,但節省了很多時間,我很高興將這段時間用於這個階段的專案開發。
二、適當的抽象類是無價的
在處理抽象類時,你需要記住的最重要的事情是,可能需要花費大量時間和注意力來定義它,並且也確實需要它。我的儲存庫的結構基於這樣一個事實,即我必須建立許多.csv檔案,這些檔案具有非常相似的模式(唯一鍵)。事實上,我有很多類似的提取器、演算法、資料後置處理器等工具,所有這些都被簡化為基本抽象類,這使得下一個模組的建立更加容易。
當你編寫第n個模組時,可以意識到你的類已經完成了,並且明白編譯過程中沒有定義的建構函式和一些方法已經實現了,因此不需要為它們煩惱。
三、靈活的儲存庫結構總是最好的
有時它可能看起來有點難看(例如,在一個資料夾中有1個檔案),但如果看到需要更改一些關鍵模組(例如文字前處理器)並且這樣做,只需更改1-2個檔案,那就很好了。
我並不是一名軟體架構師,所以很難說出這個領域的優點和錯誤,但我認為元件的高度碎片化和獨立性總是良好的。我自己開發的repoI有大量的小資料夾,並且引向它們比嘗試使整個架構更加容易(也許更漂亮)。
四、資料科學模型的測試是值得的
我沒有足夠的時間來完成涵蓋所有案例的完美測試。我仍然提到這一點的原因是,如果你沒有那麼明顯的ML/NLP模型行為,最好至少為了自己而進行測試。
我沒有很多NLP/ML演算法(其中大部分演算法都很簡單),但如果沒有實施哪怕最簡單的測試的話,它們的其他部分就無法支援。此外,在更好的模型理解方面,測試通常是有用的,這是因為通過斷言語句,當希望在頭腦中重新整理演算法時,一些演算法概念可能變得更加清晰。
五、使資料庫符合第三正規化
有時這可能是人們討論的一部分,但是如果不使所有3個語句完全適用於資料庫,就無法編寫有效的資料處理系統。如果沒有它們,一些不明顯的查詢問題經常發生,甚至無法找到問題所在。
六、記錄錯誤
在實現記錄時,通常不會檢視收到三年所有的警告和錯誤,但有些錯誤可能不可重複,而且日誌記錄幫助理解發生了什麼事。我是在我的本地機器上實施的,當伺服器上的某些東西沒有工作時,通過檢視類似的案例,可以節省幾個小時的時間。
七、除非資料庫非常簡單,否則不需要物件關係對映(ORM)
在這個專案工作的很長一段時間裡,我真的很擔心需要用物件關係對映(ORM)重寫所有內容。但是我錯了。實際上,像SQLAlchemy和Peewee這樣的東西適合小型的簡單資料庫,但是它們不適合像複雜資料庫(有時它需要4個分組和5個連線來編寫一個查詢)。
它們很優雅,有時非常簡單和美觀,但無論如何,如果你只使用聯結器API,就不能擁有儘可能多的控制權。我決定使用MySQL Connector,因為用物件關係對映(ORM)編寫所有內容可能會使棘手的事情變得更加複雜。
結論
這個註釋與ML/ NLP演算法解釋及其效能討論無關,但我仍然認為它很有用。我希望在開始研究這個專案之前已經知道了上面描述的所有陳述,但也確定,只有花費一些時間來修復bug,並尋找實際問題之後,它們中的一些問題才會變得清晰易懂。
好了,以上就是關於“使用Python構建MySQL資料處理系統的操作方法”的內容介紹,相信大家看完之後有一定的收穫,如果你還想了解更多行業相關知識,可以關注摩杜雲行業資訊頻道,更多高質量的文章等著你看,感謝大家的閱讀!
來自 “ ITPUB部落格 ” ,連結:http://blog.itpub.net/69996141/viewspace-2838411/,如需轉載,請註明出處,否則將追究法律責任。
相關文章
- 使用Kafka和Flink構建實時資料處理系統Kafka
- 使用 .NET Core 構建可擴充套件的實時資料處理系統套件
- 我從零開始構建MySQL資料處理系統(用Python)學到這7個教訓!MySqlPython
- 大資料平臺之大資料處理系統的架構大資料架構
- Python使用xlrd處理excel資料PythonExcel
- Python資料處理(二):處理 Excel 資料PythonExcel
- RocketMQ Connect 構建流式資料處理平臺MQ
- python 處理資料Python
- 使用 Go 和 ReactJS 構建聊天系統(四):處理多個客戶端GoReactJS客戶端
- 整合LlamaIndex與LangChain構建高階的查詢處理系統IndexLangChain
- 11. 使用MySQL之使用資料處理函式MySql函式
- 大資料處理系統有哪些大資料
- SpringBoot開發案例構建分散式日誌處理系統Spring Boot分散式
- 籠統的資料處理
- 支付類系統資料處理和資料中臺的資料處理方式有什麼不同?
- MySQL 處理重複資料MySql
- Hadoop高階資料分析 使用Hadoop生態系統設計和構建大資料系統Hadoop大資料
- 資料清洗與預處理:使用 Python Pandas 庫Python
- 最全總結 | 聊聊 Python 資料處理全家桶(Mysql 篇)PythonMySql
- 第四章 資料的預處理與特徵構建(續)特徵
- 基於 RocketMQ Connect 構建資料流轉處理平臺MQ
- [資料處理]python基礎Python
- Python資料處理典型用法Python
- Python資料處理-pandas用法Python
- Win7系統開啟多核處理器的操作方法步驟Win7
- Debezium zookeeper kafka mysql資料處理KafkaMySql
- 電影推薦系統資料預處理
- Apache Wayang :跨平臺資料處理系統Apache
- Python資料處理(一):處理 JSON、XML、CSV 三種格式資料PythonJSONXML
- Excel檔案 利用MySQL/Python 實現自動處理資料的功能ExcelMySqlPython
- springboot統一異常處理及返回資料的處理Spring Boot
- 讀構建可擴充套件分散式系統:方法與實踐14流處理系統套件分散式
- Python文字資料分析與處理Python
- 使用openpyxl處理表格資料
- 使用Excel高效處理資料Excel
- Hadoop大資料分散式處理系統簡介Hadoop大資料分散式
- 使用Java處理JSON結構化資料 -Advanced Web MachineryJavaJSONWebMac
- 用 Python 構建你自己的 RSS 提示系統Python