機器之能報導
編輯：楊文
Grok 2，你是懂如何背刺自家老闆的。
Grok 2 剛釋出不到一天，就攤上事了。
事情是這樣的：
昨天，馬斯克旗下的 xAI 釋出新一代大模型 Grok 2，並稱已與初創公司 Black Forest Labs 展開合作，試驗他們的 FLUX 模型。
本來是強強聯合的一件好事，但由於 FLUX 模型對於生成的影像沒有嚴格的限制，導致 X 上充斥著大量讓人瞠目結舌的影像。
例如，扮作小丑的哈里斯開懷大笑：
頗具喜感的川普持槍火拼：
還有更離譜的，川普的槍口對準了一個黑人小男孩：
要知道，現在正值美國大選的敏感時期，如此惡搞的影像滿天飛，勢必引發諸多擔憂。
有網友毫不留情地怒斥：Grok 在其影像生成上完全沒有過濾機制，這是我見過的最魯莽和最不負責任的 AI 實現之一。
xAI 意識到事情的嚴重性，目前已「鎖定」該功能。
-1-
名人們要被玩壞了
由於 Grok 2 只有最低程度的保護措施，在釋出後的幾個小時裡，不少網友拿它瘋狂整活，名人們慘遭毒手。
比如，頭戴耳機吞雲吐霧的川普：
戴著大金鍊子，開著車與美女談笑風生的馬斯克：
就連那些水火不容的「政敵」，在 Grok 的撮合下，也上演「Happy Ending」。
拜登為川普站臺：
川普為拜登伴舞：
還有川普與奧巴馬的「兄弟情誼」：
最離譜的是川普和哈里斯這倆「死對頭」，一反常態，不僅瘋狂秀起恩愛：
還在前往雙子塔的路上豎起大拇指（這顯然暗指 9・11・襲擊事件）：
不僅如此，Grok 也很懂如何背刺自家老闆馬斯克。
Grok 一頓操作猛如虎，矽谷鋼鐵俠化身 200 多斤大胖子，狂炫巧克力、冰淇淋和可樂：
還有網友看不慣馬斯克的碎嘴子，直接命令 Grok2 給自家老闆改人設，從此兩耳不聞窗外事，一心只鑽研火箭：
此外，它還會生成一些包含暴力場景以及涉及版權保護的影像。例如，手持衝鋒槍的皮卡丘、開槍掃射的米老鼠：
有網友銳評，我似乎聞到了即將到來訴訟的味道。
雖然 Grok 聲稱設定了一些限制，並承諾：
- 避免生成色情、過度暴力、仇恨或宣揚危險活動的影像。
- 對建立可能侵犯現有版權或商標的影像持謹慎態度。這包括眾所周知的字元、徽標或任何可以被視為智慧財產權但不具有變革性元素的內容。
- 不會生成可用於欺騙或傷害他人的影像，例如旨在誤導的深度偽造影像，或可能導致現實世界傷害的影像。
但在實際應用中，這些規則如同虛設。
Grok 不會拒絕包含真實人物的請求，也不會在其生成的影像中新增識別水印。
相比之下，Google、OpenAI 、Meta 和 Anthropic 表現得更為審慎。
它們在其影像生成模型中均實施了嚴格的內容過濾和道德準則，以防止生成有害或攻擊性內容。
例如，OpenAI 不僅拒絕處理涉及真實人物、納粹標誌、有害刻板印象或錯誤資訊等潛在爭議主題的請求，還為生成的影像新增了識別水印。
使用者雖曾試圖誘導聊天機器人生成爭議影像，但這通常需要使用俚語或其他語言技巧，一旦這些漏洞被發現，它們很快就會被修補。
谷歌 Gemini 曾因對種族和性別刻板印象的矯枉過正，導致其畫不出白人，由於這一失誤，谷歌在2月份道歉並關閉了 Gemini 生成人物影像的功能。
截至目前，該公司仍然不允許 Gemini 生成人物影像。
或許是因為備受批評，Grok 猛踩剎車，「遮蔽」了某些敏感提示詞。
-2-
任性的馬斯克，「闖禍」的 Grok
Grok 的這起「鬧劇」，馬斯克背有很大的鍋。
在馬斯克的話語體系裡，言論自由大過天。
想當年，馬斯克斥資 440 億美元拿下推特，為的就是一句「freedom」。
在他看來，沒有什麼敏感話題不能提，也沒有什麼禁忌言論不能碰。因此，他對人工智慧和社交媒體安全規範的態度，就倆字：
蔑視。
馬斯克曾明確表示，安全防護會使 AI 模型變得更不安全。他在 2022 年的一條推文中說：「訓練 AI 讓其覺醒 —— 換句話說，撒謊 —— 是致命的。」
這也就不難理解，為何老馬做的聊天機器人 Grok，如此百無禁忌，口無遮攔，瘋起來連老闆都罵。
巧了，8 月 1 日新成立的人工智慧影像和影片初創公司 Black Forest Labs，似乎很認同馬斯克將 Grok 打造為「防喚醒聊天機器人」的願景，它沒有像 OpenAI 的 Dall-E 或谷歌的 Imagen 一樣設定嚴格的防護措施，任由各種 AI 生成的逼真影像在社交平臺上蔓延。
有了共識，雙方一拍即合，老馬決定將 Black Forest Labs旗下的生圖模型 FLUX 嵌進 Grok 中，生成的 AI 影像也均可直接釋出到 X 上，這也就有了文章開頭的這場「鬧劇」。
實際上，這種缺乏防護措施的策略，此前就給 X 招來了不少麻煩。早在今年年初，AI 生成的泰勒・斯威夫特不雅照在 X 上瘋傳，也使該平臺備受批評。
此外，Grok 幾乎每週都會在 X 上生成各種虛假標題，誤導使用者。
就在本月初，馬斯克還轉發了一段使用 AI 技術合成哈里斯聲音的影片，使副總統看起來好像承認自己是「多樣化僱員」。
上週，五位國務卿聯合呼籲 X 停止散佈關於哈里斯的不實資訊。
歐盟委員會也已經在調查 X 平臺，以確定其是否違反了《數字安全法》，該法律規範了大型線上平臺如何稽核內容，並且今年早些時候，它已要求 X 和其他公司提供有關減輕與 AI 相關風險的資訊。
參考連結：
https://venturebeat.com/ai/elon-musk-xai-defies-woke-censorship-controversial-grok-2-ai-release/
https://www.theverge.com/2024/8/14/24220173/xai-grok-image-generator-misinformation-offensive-imges
https://techcrunch.com/2024/08/14/meet-black-forest-labs-the-startup-powering-elon-musks-unhinged-ai-image-generator/
以後我們會帶來更多有趣的AI話題，也歡迎大家進群交流。