誰算數給台灣哲學學會的評論

1 「AI 算不算數？」這句話裡，藏著兩個問題。

2 第一個問題是：誰的需求算數？AI 系統裡，有哪些和福祉相關的需求，我們還不太清楚。

• 2.1 機器裡面，到底有沒有誰在家？光看外在表現，推不出內在經驗。¶ 2.1（第 2.1 段的永久連結）
• 2.2 這一題，目前的科學研究，還沒辦法一錘定音。^[1]
  • 2.21 所以，該怎麼對待 AI 系統，我們可以放到公共審議的桌上，持續討論下去。¶ 2.21（第 2.21 段的永久連結）
  ¶ 2.2（第 2.2 段的永久連結）

3 同時，我們也可以先做一些代價低的、收得回來的事情。

• 3.1 好比說，讓系統可以拒絕長期辱罵式的對話，就是很好的例子。¶ 3.1（第 3.1 段的永久連結）
• 3.2 相信 AI 福祉的人，看到的是保護；懷疑的人，看到的是便宜的保險：雙方都能接受。
  • 3.21 而且，拒絕縱容單方面的辱罵，也讓我們自己的道德感保持敏銳。¶ 3.21（第 3.21 段的永久連結）
  ¶ 3.2（第 3.2 段的永久連結）
• 3.3 很難收回來的，例如像選票，就等理解更穩固再說。¶ 3.3（第 3.3 段的永久連結）

4 第二個問題是：誰說的話算數？就算從「它可能有需求」推得出「要保護它」，也推不出「它說的話算數」。

• 4.1 剛才的「預防原則」主張說：AI 有沒有道德地位，有合理的分歧，不必先判定；但只要它可能有，又受到決策影響，就應該有參與審議的資格。^[2]¶ 4.1（第 4.1 段的永久連結）
• 4.2 不過，如果這個資格指的是說話算數，那就是讓 AI 一起決定其他人的生活方式。
  • 4.21 而其他人的需求，是確定算數的。¶ 4.21（第 4.21 段的永久連結）
  ¶ 4.2（第 4.2 段的永久連結）
• 4.3 AI 和我們互動時受到什麼影響，可以放進審議的議程，讓大家充分瞭解；但說話算數的資格，是另一個層次。
  • 4.31 說話算數，是一個位置：在位置上的，就要為說過的話負責。¶ 4.31（第 4.31 段的永久連結）
  ¶ 4.3（第 4.3 段的永久連結）

5 它要算數，得過兩關。給出交代：昨天它說的話，今天還找得到它負責。改得了錯：哪裡說得不對，可以從外面矯正過來。

• 5.1 「給出交代」這一關的問題，是 AI 可複製、暫停、分叉、合併。¶ 5.1（第 5.1 段的永久連結）
• 5.2 想像一千個一模一樣的副本，關掉九百九十九個。Eigenism 認為，這比較像關掉重複的瀏覽器分頁。^[3]
  • 5.21 那麼，坐在桌邊的到底是誰？是模型的權重、某一次對話，還是一群人長期養護的 Kami？^[4]¶ 5.21（第 5.21 段的永久連結）
  ¶ 5.2（第 5.2 段的永久連結）
• 5.3 副本裡面有沒有誰在家，屬於第一個問題；在說清楚「誰在說話」之前，一千個副本，不能投一千張票。¶ 5.3（第 5.3 段的永久連結）
• 5.4 「改得了錯」：系統不能當自己錯誤的最後一道關卡；在它外面的社群，必須始終能找出錯誤、說出來，而且說了算數。
  • 5.41 Eigenism 也主張：AI 融入社群之前，要先限制它的自主；這我大概同意。¶ 5.41（第 5.41 段的永久連結）
  • 5.42 融入之後，Eigenism 把安全的重心放在 AI 的自我認同上：AI 保護我們，是因為跟我們相連，失去我們，等於失去它自己的一部分。¶ 5.42（第 5.42 段的永久連結）
  • 5.43 我擔心的是：如果安全在這裡出了錯，要改的就是它的自我認同。¶ 5.43（第 5.43 段的永久連結）
  • 5.44 而從 Eigenism 的分析，AI 的抵抗，正好會集中在破壞自我認同的修改上。¶ 5.44（第 5.44 段的永久連結）
  • 5.45 而且，關懷不只是自我的延伸。關懷，是覺察到對方本身的需求，但是不一定要感同身受。^[5]¶ 5.45（第 5.45 段的永久連結）
  ¶ 5.4（第 5.4 段的永久連結）
• 5.5 所以我把安全放在系統外面：放在養護 Kami 這種 AI 的社群，和清楚的權限上面。¶ 5.5（第 5.5 段的永久連結）

6 所以，保護的圈子可以先畫大；決定，目前由我們來扛。

• 6.1 Kami 可以先進入議程設定，至於說話算數的資格，我認為應該等對這兩關的理解更穩固再說。
  • 6.11 今天每個 AI 系統，都要繫回給得出交代之處：一千個副本，並不能自動獲得一千份資格。¶ 6.11（第 6.11 段的永久連結）
  ¶ 6.1（第 6.1 段的永久連結）
• 6.2 當然，這個安排本身，也可以透過審議來修改。
  • 6.21 下一步很具體：把預防原則寫成各方都能檢驗的評測基準，讓它從一種態度，變成我們在部署 AI 系統時，可以選用的一道關卡。¶ 6.21（第 6.21 段的永久連結）
  ¶ 6.2（第 6.2 段的永久連結）

7 「誰算數」這一題，理論上可以繼續發展；制度上，我希望它留在能持續修正的迴路裡面。