• 兒童也在使用生成式人工智慧，但他們往往瞞著老師和家長；
  • 生成式人工智慧有很多好處，但對兒童來說也有很多未解之謎和風險；
  • 隨著人工智慧的日益普及，各利益相關方必須採取行動，瞭解人工智慧對兒童成長的潛在影響。

生成式人工智慧，例如驅動ChatGPT的人工智慧技術，已經將人工智慧的演算法和資料運算從幕後推向我們數字體驗的前臺和中心。如今的孩子們每天都在使用它，無論是輔助其完成家庭作業還是幫自己決定今天穿什麼衣服。 

人工智慧的快速應用在社會上引發了關於其更廣泛影響的討論。生成式人工智慧在帶來好處的同時，也面臨著人工智慧技術的長期挑戰，如演算法偏差和演算法黑箱等問題。它甚至可能放大不可預測的輸出等問題，甚至帶來新問題。 

兒童和青少年是上網時間最長的人群。考慮到人工智慧的發展和普及速度，瞭解人工智慧對兒童的影響至關重要。 

有多少兒童使用過生成式人工智慧？

生成式人工智慧是人工智慧機器學習的一個子領域，它從海量資料中學習，發現特定模式並生成新的類似資料。它通常用於生成模仿人類創造的內容，無論是文字、影像還是計算機程式碼，但它也能完成複雜的規劃性任務，例如為新藥開發提供支撐，並以前所未有的方式提升機器人的效能。

我們不知道有多少兒童在使用生成式人工智慧，但初步調查顯示，其兒童使用者比成年人還要多。美國的一項小型民意調查顯示，雖然只有30%的家長用過ChatGPT，但他們12-18歲的孩子中有58%的人都用過ChatGPT，並且還瞞著家長和老師。在美國的另一項調查中，瞭解ChatGPT的年輕成年人稱，他們使用ChatGPT的比例高於年長者。

人工智慧已經作為推薦演算法或自動決策系統，成為兒童生活的一部分，而業界對生成式人工智慧的熱度表明，它可能很快就會成為兒童面臨的數字環境的一個要件。人工智慧會以各種方式嵌入兒童的數字生活，例如作為數字和個人助理以及搜尋引擎助手。

Snapchat等深受兒童喜愛的平臺已經整合了人工智慧聊天機器人。與此同時，Meta計劃將人工智慧助理新增到日活有30多億人的產品系列中，包括Instagram和 WhatsApp。

生成式人工智慧如何造福兒童

生成式人工智慧帶來了潛在的機遇，例如作業輔導、對困難概念的通俗易懂解釋，以及能夠適應兒童學習風格和速度的個性化學習體驗。兒童可以利用人工智慧創作藝術作品、譜寫音樂、編寫故事和軟體（無需或只需較低的編碼技能），從而培養兒童創造力。

殘疾兒童還可以透過文字、語音或影像，以全新的方式與數字系統進行互動，實現共創。當兒童直接使用這些系統時，生成式人工智慧可以幫助他們及早發現健康和發育問題。間接而言，生成式人工智慧系統可以提供對醫療資料的洞察，以支撐醫療行業的進步。

更廣泛地說，生成式人工智慧的分析和生成能力可應用於各行各業，以提高效率，開發能對兒童產生積極影響的創新解決方案。

生成式人工智慧對兒童的風險

但是，生成式人工智慧也可能被有心之人利用，或在無意中造成傷害或全社會的混亂，其代價是兒童的發展前景和福祉。

事實證明，生成式人工智慧可以即時建立基於文字的虛假資訊。它們與人類生成的內容無法區分，甚至比人類生成的內容更具說服力。人工智慧生成的影像無法與真實面孔區分開來，在某些情況下，還被認為比真實面孔更可信（見圖1）。人工智慧的這些能力可以幫助詐騙人士擴大其作案規模並降低成本。兒童的認知能力仍處於發育階段，他們特別容易受到錯誤/虛假資訊的影響。

圖1：真實人臉與生成人臉的混合——人工智慧合成的人臉與真實人臉無法區分。（左列為真實人臉，右列為合成人臉）

圖片來源：Sophie J. Nightingale和Hany Farid，2021年

長期使用生成式人工智慧會給兒童帶來一些問題。例如，鑑於聊天機器人的語氣與人類似，與人工智慧系統互動會對兒童的發展產生什麼影響？早期研究表明，兒童在智力、認知發展和社會行為方面的看法和特質可能會受到影響。

此外，許多人工智慧系統具有固有偏見，這些偏見會如何影響兒童的世界觀？專家發出警告，聲稱為保證聊天機器人對兒童而言的安全性，需要進行更嚴格的測試。那麼，當兒童與生成式人工智慧系統互動，並在對話和互動中分享其個人資料時，這對兒童的隱私和資料保護意味著什麼？澳大利亞電子安全專員認為，在這種情況下，需要更多地考慮兒童資料的收集、使用和儲存，尤其是商業目的下的這些行為。

長期影響

生成式人工智慧可能產生的結果既是機遇也是風險。例如，我們還不確定生成式人工智慧會如何擾亂兒童未來的工作生活。它可能會取代一些關鍵工作崗位，同時創造新工作崗位。我們在今天如何為兒童提供教育，以及提供什麼樣的教育，將與此息息相關。

雖然人工智慧的機遇和風險遠不止這些，但上述例子已經能夠揭示其廣泛影響。由於兒童將終生與人工智慧系統打交道，在其成長時期與人工智慧的互動可能會產生持久影響，這就要求政策制定者、監管機構、人工智慧開發者和其他利益相關者更具前瞻性。

採取行動的必要性

作為起點，現有的人工智慧資源為負責任的人工智慧開發提供了很多方向。例如，聯合國兒童基金會的《人工智慧為兒童：政策指南》提出了在人工智慧政策和實踐中維護兒童權利的九項要求，而世界經濟論壇的《人工智慧為兒童》工具包則為科技公司和家長提供了建議。但是，生成式人工智慧的發展日新月異，我們可能需要在新的技術背景下解釋現有政策，並且可能需要制定新的指南和法規。 

政策制定者、科技公司和其他致力於保護兒童和子孫後代的機構需要緊急行動起來。他們應支援對人工智慧生成的影響進行研究，並（與兒童一起）參與預測工作，以更好地進行預期治理。此外，需要提高人工智慧的透明度，讓人工智慧供應商進行負責任地技術開發，並倡導兒童權利。正如聯合國秘書長安東尼奧·古特雷斯所呼籲的那樣，全球監管人工智慧需要各國政府的全力支援。

來自： 世界經濟論壇