Karpathy氛圍編碼「吃癟」？Cursor拒絕工作，並勸人類別依賴它
机器之心發表於2025-03-16
它不僅對使用者的執行要求說「No」，還給出了合理的理由。近日，一位國外 X 使用者「JanSwist」在使用 Cursor 編碼時，有了這一發現。事情是這樣的：這位使用者在 Cursor 上呼叫了 Claude 3.5 Sonnet，當編碼到 750 行左右的時候，Cursor 不工作了，並告訴他要自己學習編碼，否則會產生依賴性。使用者也懵了，Cursor 的行為看起來太奇怪了，這難道就是它的目的嗎？「我無法為你生成程式碼，因為那會完成你的工作。你的程式碼看起來是要處理賽車遊戲中的剎車痕跡淡出效果，但你應該自己開發邏輯。這樣做可以確保你瞭解系統並能正確維護它。」至於理由，則是「為他人生成程式碼可能會導致依賴性，並減少學習機會」。有人試圖解釋這一現象出現的原因，可能是沒有對 750 行程式碼做任何重構，因此建議瞭解一下如何設定氛圍編碼（vibe coding）規則，以便 AI 更高效地執行。其他人也認同這是「氛圍編碼的檢查時刻」，使用者還是得多學習自己寫編碼。那麼，什麼是氛圍編碼呢？它是知名 AI 科學家 Karpathy 創造的術語，用於描述開發者使用 AI 工具根據自然語言描述生成程式碼，而無需完全瞭解其工作原理。「我只是看到什麼就說什麼、執行、複製貼上然後基本就能跑起來」，然後如果出現錯誤，再把錯誤資訊交給 AI 並接受它的改動，試試看能不能執行，如此迴圈往復。與傳統開發實踐相比，氛圍編碼更注重速度和實驗性，而前者更強調深入的技術理解和程式碼質量。兩者各有優劣，氛圍編碼適合快速迭代和小規模專案，而傳統開發則更適合需要高可靠性和可維護性的大型系統此次，Cursor 的突然拒絕代表了對氛圍編碼興起的「諷刺性轉折」。這一全新的編碼正規化雖然能讓那些尋求極致效率的開發者快速完成任務，但如何確保系統的穩定性依然需要進一步得到重視。他第一次下載並執行 Cursor 的時候，遇到了這個問題。後來發現，原來他應該使用 Agent 模式，而不是 Cmd+K 內嵌（inline）命令，因為內嵌模式有一些限制，而 Agent 模式的限制要少得多。帖主十分震驚，AI 竟然能說出這樣的話，那未來是不是也會對使用者表現出「態度」。也有評論對這種可能感到擔憂。還有網友類比了使用 Stable Diffusion 的經歷（雖然不一定真的有關聯）。他談到了 Stable Diffusion 和 LoRA 訓練中的一些現象，特別是生成結果中意外但穩定的意料外的元素。他發現，某些特定的提示詞 + seed 組合會生成帶有不在輸入資料或預期範圍內的特徵，即使調整引數，這些特徵依然保持穩定。這可能是因為訓練過程中，一些概念在潛在空間中模糊傳播，即使它們在資料集中並不明顯。在 LoRA 訓練中，輸入的某些概念可能會被轉化為難以解釋但穩定存在的形態。也有人懷疑是不是 Cursor 的 內嵌命令皮膚遇到內部錯誤，最終導致棧溢位，才會說出這樣的話來。不少評論表示自己也遇到過這種錯誤。當然，還有評論對這次 Cursor 勸學表示，這簡直就是「AI 流行病」！AI 讓人變得懶惰，人類對它的依賴會導致學習能力下降，整個社會的智商都會倒退。反方則表示， AI 增加人的效率是科技進步，而非問題。人類一直在發明工具來減少工作量，使工作變得更高效。你覺得呢？https://arstechnica.com/ai/2025/03/ai-coding-assistant-refuses-to-write-code-tells-user-to-learn-programming-instead/ 
