人工智慧是當今科技領域最受矚目的技術之一，尤其是自從chatgpt3.5的推出後，受關注程度更是大大升高。人工智慧的應用範圍覆蓋了許多不同的領域。然而，雖然人工智慧有許多優點，但同樣的也存在一定的不可迴避性的問題，這需要我們認真對待。
現在的人工智慧大多是基於機器學習的神經網路，從大量的資料集中提取特徵和規律，從而做出預測和決策。這樣做有好處同樣也有弊端：
因為神經網路模型是基於提取到的特徵對測試集進行打分和分類，這種模式就代表著神經網路不像透過一堆條件判斷寫出來的分類程式一樣死板。就比如自然語言處理（NLP）在服務型的聊天機器人，你可以透過判斷使用者輸入的句子裡面的關鍵字，做出應答，但是這樣不覺得很死板嗎？而且在功能不斷增加的情況下，程式也會變得越來越龐大，越來越難以維護。神經網路就可以很好的解決這個問題。而在圖片的分類和識別上，想要僅僅透過條件判斷的程式實現這個功能更是異想天開，然而神經網路卻可以做到。
同樣的，弊端也是顯而易見，而這個弊端也是神經網路的好處帶來的附加品。機器學習是從資料中提取特徵，再利用這些特徵對測試集進行打分和分類，固然可以完成一些很難得任務，但只要是這個模式，在面臨複雜多變的打分和分類的正確率就不可能是100%（就算你在你的測試集和驗證集跑出來都是100%那也只是說明你的測試集和驗證集沒有足夠大，大到讓你的模型犯錯的程度）。然而如果這一次的打分和分類的錯誤會造成非常嚴重的後果，亦或者關乎人命呢？
所以我認為在人工智慧的應用場景應該滿足一下的兩點：
1. 在人工智慧出現連續錯誤的時候，造成的不良影響很小或根本沒有影響。
2. 在連續錯誤會有嚴重後果時，一次錯誤如果影響不大，需要有神經網路以外的東西給神經網路反饋，讓神經網路知道自己錯了，並及時進行改正。
以上內容僅僅是個人的一些思考和見解，如果大家覺得有不對的地方歡迎指正。