機器學習高質量資料集大合輯

在機器學習中，尋找資料集也是非常重要的一步。質量高或者相關性高的資料集對模型的訓練是非常有幫助的。

那麼用於機器學習的開放資料集有哪些呢？文摘菌給大家推薦一份高質量的資料集，這些資料集或者涵蓋範圍廣泛（比如 Kaggle），或者非常細化（比如自動駕駛汽車的資料）。

首先，在搜尋資料集時，在卡內基·梅隆大學有以下說法：

• 資料集不應混亂，因為你不希望花費大量時間清理資料。

• 資料集不應該有太多行或列，因此很容易使用。

• 資料越乾淨越好 —— 清洗大型資料集相當耗時。

• 資料可以解答一些有趣的問題。

在這個平臺中可以找到各種資料，從拉麵的評分、籃球資料，到西雅圖的寵物牌照應有盡有。

https://www.kaggle.com/

UCI機器學習庫（UCI Machine Learning Repository）：這是網路上最早的資料集來源之一，是尋找各種有趣資料集的第一選擇。雖然使用者提供的資料集的清潔度不太一樣，但絕大多數都是乾淨的。我們可以從 UCI 機器學習庫直接下載資料，無需註冊。

http://mlr.cs.umass.edu/ml/

VisualData：在這裡計算機視覺資料集按類別分組，並且支援搜尋查詢。

https://www.visualdata.io/

公共政府資料集

Data.gov：在這裡可以下載到多個美國政府機構的資料。從政府預算到學校成績。但要注意的是，很多資料還有待進一步研究。

https://www.data.gov/

食品環境地圖集（Food Environment Atlas）：當地的食物選擇如何影響美國飲食的資料。

https://catalog.data.gov/dataset/food-environment-atlas-f4a22

學校系統財務狀況（School system finances）：這裡有美國學校系統財務狀況的調查。

https://catalog.data.gov/dataset/annual-survey-of-school-system-finances

慢性病資料（Chronic disease data）：美國各地慢性病指標的資料。

https://catalog.data.gov/dataset/u-s-chronic-disease-indicators-cdi-e50c9

美國國家教育統計中心（The US National Center for Education Statistics）：來自美國和世界各地的教育機構和教育人口統計資料。

https://nces.ed.gov/

英國資料服務：英國最大的社會、經濟和人口資料收集機構。

https://www.ukdataservice.ac.uk/

資料美國（Data USA）：全面的、視覺化的美國公共資料。

http://datausa.io/

金融和經濟

Quandl： 裡面有很多經濟和金融資料，你可以使用這些資料建立預測經濟指標或股價的模型。

https://www.quandl.com/

世界銀行開放資料（World Bank Open Data）：涵蓋世界各地人口統計、大量經濟和發展指標的資料集。

https://data.worldbank.org/

貨幣基金組織的資料（IMF Data）：國際貨幣基金組織公佈關於國際金融、債務率、外匯儲備、商品價格和投資的資料。

https://www.imf.org/en/Data

英國金融時報金融時報市場資料（Financial Times Market Data：）：裡面有來自世界各地的最新金融市場資訊，包括股票價格指數、商品和外匯。

https://markets.ft.com/data/

谷歌趨勢（Google Trends）：觀察和分析有關網際網路搜尋活動和世界各地新聞故事趨勢的資料。

http://www.google.com/trends?q=google&ctab=0&geo=all&date=all&sort=0

美國經濟協會(AEA)：這這裡你可以找到美國宏觀經濟的相關資料。

https://www.aeaweb.org/resources/data/us-macro-regional

機器學習資料集

Labelme：資料集中包含大量有標註的影像資料。

http://labelme.csail.mit.edu/Release3.0/browserTools/php/dataset.php

ImageNet： 是一個用於視覺物件識別軟體研究的大型視覺化資料庫。超過1400萬的影像URL被ImageNet手動註釋。根據 WordNet 層次結構來組織，其中層次結構的每個節點都由成百上千個影像來描述。

http://image-net.org/

LSUN：場景理解與許多輔助任務（房間佈局估計，顯著性預測等）

http://lsun.cs.princeton.edu/2016/

MS COCO：通用影像的理解和文字描述。

http://mscoco.org/

COIL 100：在 360 度旋轉中以各個角度成像的 100 個不同的物體。

http://www1.cs.columbia.edu/CAVE/software/softlib/coil-100.php

視覺基因組：非常詳細的視覺知識庫，配以0 萬張帶有文字描述的影像。

http://visualgenome.org/

谷歌的Open Images：“知識共享”（Creative Commons）下的900萬個影像網址集合，已標註超過6,000個類別的標籤。

https://research.googleblog.com/2016/09/introducing-open-images-dataset.html

Labelled Faces in the Wild：13,000個人臉標記影像，用於開發涉及面部識別的應用程式。

http://vis-www.cs.umass.edu/lfw/

Stanford Dogs Dataset：包含20580張圖片和120個不同的狗品種類別。

http://vision.stanford.edu/aditya86/ImageNetDogs/

室內場景識別（Indoor Scene Recognition）：這是一個非常細化的資料集，由於大多數在“戶外”場景中表現良好的場景識別模型在室內表現不佳，因而這個資料集非常有用。內有 67 個室內類別，共 15,620 張影像。

http://web.mit.edu/torralba/www/indoor.html

情感分析

多域情感分析資料集（Multidomain sentiment analysis dataset）：一個比較有歷史的資料集，裡面還有一些來自亞馬遜的產品評論。

http://www.cs.jhu.edu/~mdredze/datasets/sentiment/

IMDB： 影評，也是比較有歷史的二元情緒分類資料集、資料規模相對較小，裡面有 25,000 條電影評論。

http://ai.stanford.edu/~amaas/data/sentiment/

史丹佛情感樹銀行（Stanford Sentiment Treebank）：帶有情感註釋的標準情緒資料集。

http://nlp.stanford.edu/sentiment/code.html

Sentiment140：一個流行的資料集，它使用16萬條推文，並把表情等等符號剔除了。

http://help.sentiment140.com/for-students/

Twitter 美國航空公司情緒資料集 (Twitter US Airline Sentiment)：自 2015 年 2 月以來美國航空公司的 Twitter 資料，分類為正面、負面和中性推文。

https://www.kaggle.com/crowdflower/twitter-airline-sentiment

自然語言處理

安然資料集：裡面有安然集團高階管理層的電子郵件資料。

https://www.cs.cmu.edu/~./enron/

亞馬遜評論：裡面有3500萬條來自亞馬遜的評論，時間長度為18年。資料包括產品和使用者資訊、評級等。

https://snap.stanford.edu/data/web-Amazon.html

Google Books Ngram：來自Google書籍的詞彙集合。

https://aws.amazon.com/datasets/google-books-ngrams/

部落格語料庫：從blogger.com收集的681，288篇部落格文章。每個部落格至少包含200個常用的英語單詞。

http://u.cs.biu.ac.il/~koppel/BlogCorpus.htm

維基百科連結資料（Wikipedia Links data）：維基百科全文。該資料集包含來自400多萬篇文章，近19億字。你可以對字、短語或段落本身的一部分進行搜尋。

https://code.google.com/p/wiki-links/downloads/list

Gutenberg電子圖書列表：Project Gutenberg的附加註釋的電子書列表。

http://www.gutenberg.org/wiki/Gutenberg:Offline_Catalogs

加拿大議會的文字塊（Hansards text chunks of Canadian Parliament）：來自第36屆加拿大議會記錄的130萬對文字。

http：//www.isi.edu/natural-language/download/hansard/

危險邊緣 (Jeopardy)：來自問答遊戲節目《危險邊緣》(Jeopardy) 的超過 20 萬個問題的存檔。

http://www.reddit.com/r/datasets/comments/1uyd0t/200000_jeopardy_questions_in_a_json_file/

英文SMS垃圾郵件收集（SMS Spam Collection in English）：包含5，574條英文垃圾郵件的資料集。

http://www.dt.fee.unicamp.br/~tiago/smsspamcollection/

Yelp評論（Yelp Reviews）：Yelp釋出的一個開放資料集，包含超過500萬次評論。

https://www.yelp.com/dataset

UCI的垃圾郵件庫（UCI’s Spambase）：一個大型垃圾郵件資料集，用於垃圾郵件過濾。

https://archive.ics.uci.edu/ml/datasets/Spambase

自動駕駛

Berkeley DeepDrive BDD100k：這是目前最大的自動駕駛 資料集。裡面有超過 1,100 多個小時駕駛體驗的影片，包含10 萬個在一天中不同時段以及在不同天氣條件下的資料。

http://bdd-data.berkeley.edu/

百度 Apolloscapes：大型資料集，定義了26種不同的語義項，如汽車，腳踏車，行人，建築物，路燈等。

http://apolloscape.auto/

Comma.ai：超過7個小時的高速公路駕駛影片。裡面的資料包括汽車的速度、加速度、轉向角和GPS座標。

https://archive.org/details/comma-dataset

城市景觀資料集：記錄50個不同城市的城市街道場景的大型資料集。

https://www.cityscapes-dataset.com/

CSSAD資料集：包含自動車輛的感知和導航等資料，但著重於已開發國家的道路。

http://aplicaciones.cimat.mx/Personal/jbhayet/ccsad-dataset

麻省理工學院AGE實驗室（MIT AGE Lab:）：在AgeLab收集的1,000多小時多感測器駕駛資料集的樣本。

http://lexfridman.com/automated-synchronization-of-driving-data-video-audio-telemetry-accelerometer/

LISA：智慧和安全汽車實驗室，加州大學聖地亞哥分校資料集：該資料集包括交通標誌，車輛檢測，交通訊號燈和軌跡模式。

http://cvrr.ucsd.edu/LISA/datasets.html

博世小型交通燈資料集（Bosch Small Traffic Light Dataset）：用於深入學習的小交通燈資料集。

https://hci.iwr.uni-heidelberg.de/node/6132

Lara交通燈識別（LaRa Traffic Light Recognition）：巴黎交通燈的資料集。

http://www.lara.prd.fr/benchmarks/trafficlightsrecognition

WPI 資料集：交通燈、行人和車道檢測的資料集。

http://computing.wpi.edu/dataset.html

相關報導：

https://medium.com/datadriveninvestor/the-50-best-public-datasets-for-machine-learning-d80e9f030279