最新的AI會“殺死”程式設計嗎？

大資料文摘授權轉載自資料派THU

現在，AI可以使用任何語言進行編碼，而無需額外的培訓。

 

2017年，有研究人員問：人工智慧能否在2040年之前編寫出大多數程式碼？測試人員現在正在使用OpenAI的GPT-3已經可以使用任何語言進行編碼。機器主導的編碼幾乎就差臨門一腳了。

 

GPT-3接受了數千億個單詞的訓練，或者說基本上整個網際網路都參與了訓練，這就是為什麼它可以使用CSS，JSX，Python等任何你能說出名字的語言進行編碼的原因。

此外，GPT-3無需對各種語言任務進行“訓練”，因為其訓練資料包羅永珍。相反，當你給出瑣碎的指令時，網路會被手頭上的任務限制住。

 

GPT-n的演變

GPT透過將有監督學習與無監督的預訓練相結合（或將無監督步驟的引數用作有監督步驟的起點），實現了語言任務的最先進水平。與下一代相比，GPT很小。它僅利用了一臺8CPU機器在幾千本書上進行訓練。

 

GPT-2極大地擴充套件了內容，包含10倍的引數，並加入了10倍以上的訓練資料。儘管如此，該資料集還是相對有限的，它專門使用“至少運用了3個karma的Reddit出站連結”進行訓練。GPT-2被描述為一個“類似變色龍”的合成文字生成器，但在諸如回答問題，總結或翻譯之類的下游任務中並不是最先進的。

 

（照片來自Hans-Jurgen Mager）

 

GPT-3是AI世界中最新，最強大的工具，它在一系列任務中達到了最先進的水平。它的主要突破是消除了針對特定任務微調的需求。在大小方面，該模型再次大幅擴充套件，達到了1,750億個引數，是其前身規模的116倍。

然而，GPT-3完全不需要訓練（零次學習的例子），單次學習或多次學習會使它喪失原本優秀的效能。

 

進化還是死亡

情況是這樣：測試人員正在使用GPT-3來生成能掌握必要繁瑣知識的有效程式碼從按鈕到資料表，甚至重新建立Google主頁。這些示例都是透過零樣本學習完成的。

 

除了AI的飛速發展外，另外兩個主要的技術趨勢也使程式設計工作在未來不穩定的現實變得更為嚴峻：無程式碼和AutoML。

 

無程式碼是指視覺化工具，使任何人都可以輕鬆構建新產品，無論是網站，設計，資料分析還是模型。WordPress，Wix和Shopify是無程式碼工具的典範，它使數以百萬計的人能夠自己做事，而不必僱用開發人員或設計師。

 

第二個趨勢是AutoML，即自動機器學習，它大大縮短了將AI投入生產的時間。

 

諸如Apteo之類的工具結合了這些趨勢，使任何人都可以部署AI模型而無需任何編碼技能。

 

GPT-3將引發另一波無程式碼和AutoML工具的浪潮。許多潛在的僱主會選擇這些工具，而不是僱用昂貴的程式設計師。

 

自然地，技能最差的程式設計師將是最先離開的人群，而專家將享有更長的工作安全性-與任何領域一樣。

 

不僅僅是程式碼—GPT-3適用於任何語言任務

要將GPT-3定向到特定的語言任務，只需簡單地把你希望實現的示例提供給它。因此，您可以指導GPT-3編寫程式碼，也可以指導它編寫詩歌，音樂，社交媒體評論或任何其他文字。

 

例如，如果您要生成新聞文章，則可以輸入諸如“美國衛理公會同意歷史性分裂”之類的標題，以及諸如“反對同性婚姻的人將構成自己的宗派”之類的副標題。

 

輸入這些，GPT-3產生以下結果：

 

“經過兩天的激烈辯論，衛理公會聯合會達成了歷史性的分裂-預期將以新教派的建立而告終，根據《華盛頓郵報》的說法，該教派將是“神學上和社會上的保守派”。參加5月教堂年度大會的大多數代表投票表決，加強了對LGBTQ神職人員排序的禁令，並制定了新規則，將“紀律”主持同性婚禮的神職人員。但是那些反對這些措施的人有一個新計劃：他們說到2020年他們將組成一個單獨的教派，稱他們的教會為基督教衛理公會派教徒……”

 

只有12％的人類正確地指出這是由AI編寫的。88％被騙了。

 

就像人類一樣，GPT-3可以僅透過一個例子就學會新單詞。例如，給定上下文：

 

“ Burringo”是具有非常快的加速度的汽車。一個使用Burringo單詞的句子的示例是：

GPT-3輸出：

 

在我們的車庫中，有一個父親每天開車去工作的Burringo。

 

這些結果令人激動。請記住，人工智慧的發展必然的，因此對當前效能的任何批評都將化為烏有。

 

不僅僅是語言—GPT應用於影像

GPT可以編寫程式碼，或者可以編寫任何東西，但是它也可以生成影像。

 

這怎麼可能？

 

可以在畫素序列而不是文字編碼上訓練相同的模型體系結構，從而生成新的影像而不是新的文字。實際上，它在這方面如此出色以至於可以與頂級CNN競爭。

 

我之所以提及這一點，是因為它表明GPT（及下一代）不僅具有某一天取代編碼器的潛力，而且鑑於其通用性，還可以取代整個行業。

 

結論

GPT-3令人難以置信的效能已經使許多人相信超級智慧比我們想象的要近，或者至少，人工智慧生成程式碼比我們想象的要近。它會產生創造性的、有見地的、深刻甚至美麗的內容。有關GPT-3的更多創造性示例（並且如果您需要更相信它的強大，請檢視Gwern的這篇文章）：

相關報導：