核心詞彙
對齊大會(Alignment Assembly)。 一種結構化的審議程序,由隨機選出且在統計上具代表性的公民群體,使用 AI 輔助的意義建構工具針對特定政策問題進行審議,並產出召集機關已預先承諾呈交給立法機關的建議。2024 年台灣的深偽對齊大會是本書的主要案例。
有界性(Boundedness)。 一種設計原則,主張人工智慧系統應服務於特定的社群、特定的地點、並基於特定的目的,而不企圖擴展到超出該社群需要的範圍。源自於「地神」的隱喻。與無邊界最佳化相反。
搭橋指數(Bridge index)。 團結力(第七章)的公開主指標。追蹤共同決策是否展現出真實的跨群體參與和共同背書,而非各自獨立的分裂孤島。
搭橋地圖(Bridging map)。 一種視覺化呈現,展示參與者在哪些地方達成一致、在哪些地方存在分歧,以及哪些表面的分歧在深入審視後消弭。由 Polis 等工具產出。為覺察力的工具。
關懷循環(Care cycle)。 由前四力構成的回饋迴圈:覺察力 → 負責力 → 勝任力 → 回應力 → 再回到覺察力。每個階段都會產生資訊與義務,並提供給下一個階段。
關懷漂白(Care-washing)。 使用關懷語言——如「我們關心使用者」、「社群優先」——來掩蓋榨取式實踐的做法。是漂綠(greenwashing)在公民領域的對等詞。
關懷赤字(Caring deficit)。 哲學家 Joan Tronto 的術語,指由於人們的時間面臨過多要求,導致無法對孩童、長者以及彼此提供足夠照料的結構性狀態。這並非自然狀態,而是關於如何組織工作、市場和公共生活的政治選擇所產生的結果。
仁工智慧(Civic AI)。 作為公民基礎建設進行設計與治理的人工智慧——覺察特定社群、對特定關係負責、並受限於其所服務人民的需求。是旨在無限規模化之榨取式人工智慧的替代方案。
公民關懷授權條款(Civic Care Licence)。 載明已部署地神的範疇、同意規則、資料保留限制、可攜性要求以及關閉義務的公開規則手冊。是參與契約的機器可執行表達形式。
資料是石油(Data as oil)。 榨取式的典範,將集體文化、語言與默會知識視為可被開採、精煉並鎖在專有 API 後的資源。具有消耗性且無法再生。
資料是土壤(Data as soil)。 修復式的替代方案,將資料視為需要照料和耕耘的社群資產。人工智慧模型被移入在地脈絡中,並由產生這些資料的社群來治理。具有再生性。
參與契約(Engagement contract)。 載明誰對什麼負責、擁有何種權限、期限多長、以及在失敗時會發生什麼事的公開協議。是負責力(第四章)的核心產物。
地熱引擎(Geothermal engine)。 一個比喻,主張不把兩極化視為需要撲滅的火災,而是將其視為能源——利用分歧的熱度,藉由放大重疊而非激怒來激發共同創作。
地神(Kami)。 源自日本神道教傳統的概念,描述與特定地點(如一條河、一片樹林、一座山)相關的守護靈。在本書中用作設計隱喻,指有界、在地、特定目的的人工智慧系統,用以服務其社群,並在其關懷不再被需要時退場。
關懷地神(Kami of Care)。 依據「關懷六力」原則設計的人工智慧系統:有界、在地、覺察特定社群、透過參與契約負責,並具備退場就緒度。是奇點願景的解毒劑。
默會(默會知識,Mohui)。 默會知識——存在於人類實踐者的雙手與習慣中、無法輕易寫成手冊記錄的知識。這是「公共師傅」模式旨在捕捉與傳遞的知識。
觀點收據(Perspective receipt)。 一種記錄,讓每位貢獻者能夠尋找並驗證其輸入是如何在摘要或決策中被呈現。這是一種覺察力工具,透過讓過程透明化來建立信任。
⿻多元宇宙(Plurality)。 主張人工智慧應增進跨越人類差異的合作,而非抹平這些差異的願景。這是相對於由上而下管理之單一中心化「奇點」的水平式替代方案,主張由許多有界的在地智慧照料其所屬社群,而非由單一中心化智慧從上方統治。
特權式不負責(Privileged irresponsibility)。 哲學家 Joan Tronto 的術語,指允許有權勢者逃避關懷勞動的結構性安排。三種常見的免除關懷通行證:「保護通行證」(因安全考量免除關懷責任)、「生產通行證」(因賺錢免除家庭/社群關懷)以及「自力更生通行證」(每個人都應透過市場安排自己的照護)。
公共師傅(Public Master)。 一種人工智慧作為數位學徒與人類師傅並肩工作的典範,透過觀察和記錄決策軌跡來進行學習。由中介在地機構作為公共資產來治理,而非由垂直壟斷企業所擁有。
關係健康(Relational health)。 仁工智慧旨在支持、而榨取式人工智慧傾向於削弱的人類連結品質。包含三種關係類型:人與人(AI 如何中介人類關係)、人與 AI(直接互動),以及 AI 與 AI(互通性與聯邦式安全)。
代表性落差(Representation gap)。 覺察力(第三章)的公開主指標。追蹤哪些實質受影響的群體仍缺席,或在記錄中明顯被低度代表。
滿足化系統(Satisficer)。 尋求妥善滿足需求、而非朝向單一最大值進行最佳化的系統。與最佳化系統(optimiser)相對。關懷倫理傾向於支持滿足化設計。
奇點(Singularity)。 單一、中心化、無邊界的超級智慧從上方對人類進行最佳化的願景。是本書主要的對立替代對象。
關懷六力(6-Pack of Care)。 將關懷倫理轉化為人工智慧治理中體制實踐的六項設計原則:覺察力(第三章)、負責力(第四章)、勝任力(第五章)、回應力(第六章)、團結力(第七章)與共生力(第八章)。不是一種消費性產品,而是需要被鍛鍊的肌肉。
厚對齊(Thick alignment)。 Alondra Nelson 借鑒 Clifford Geertz 的概念,指人工智慧對齊應介入人類價值的完整社會脈絡——文化距離、權力關係、社群特有的需求——而非僅僅滿足陳述的偏好。與薄對齊相對。
薄對齊(Thin alignment)。 一種狹隘、技術性的人工智慧對齊方法,聚焦於讓目標函數正確,而不去觸碰型塑人類價值的深層意義、語境與權力。
失利下的信任(或稱損失下的信任,Trust-under-loss)。 回應力(第六章)的公開主指標。在發生不良結果並嘗試修復之後,受影響者是否覺得系統比原先更值得信任,而不是更不值得?
罕見的共識(Uncommon ground)。 即使是初始觀點不同的人仍能覺得合理的想法。它既非中位數的平均值,亦非勉強湊合的共識立場,而是獲得跨群體背書的提案。為運作良好的搭橋審議流程之產出。