演算法社會:“碼農”翻身為“編碼精英”帶來的思考?

banq發表於2022-02-15

該文來自doi.org的社會學年度回顧出版,原文點選標題,以下是摘要:

將海量資料集與用計算機程式碼編寫的流程或演算法相結合,以對它們進行分類、組織、提取或挖掘,這已經在幾乎每一個主要的社會機構中取得了進展。

本文獻提出了三點思考:

  • 首先,一個新職業階層的興起,我們稱之為編碼精英。該組織通過對數字生產方式的技術控制以及從新近被邊緣化或無報酬的勞動力——網路社會中榨取勞動力,鞏固了權力。
  • 其次,我們表明,數學優化技術在教育、醫學、信貸和金融以及刑事司法等不同領域的實施加強了決策制定的精算邏輯的主導地位,可能會改變社會再生產和流動性的途徑,但也會引起那些被如此治理的人的抵制。
  • 第三,我們探討了數字通訊中同樣普遍的演算法中介如何改變人們互動、聯絡和思考的方式。最後,我們對人工智慧最瘋狂的承諾提出警告,但承認演算法過程、社會結構和主觀性之間日益緊密的耦合。

將“噪音”和“認知偏見”作為我們當前努力方向,也許是整個理性主義知識分子階層(分散在幾個學科中)的一部分。它似乎將人類接入參與是這些機構的最大問題。

很長一段時間以來,這種觀點不僅在學術界,而且在公共話語中都有很大影響。

演算法決策的現實是,決策往往是可笑和荒謬的錯誤(有時是危險的),而這些對人類來說是非常明顯的。

許多人指出使用“學習”和“智慧”作為術語來指代這些演算法,實際上:在大型資料集中發現統計模式的機制是錯誤的。

演算法是有效的,它們絕對不是“聰明的”。他們不會成為更好的法官。也許預測演算法可用於重新培訓人類專家,讓他們深入瞭解資料中的模式

 

相關文章