對話卡在某個詞時,可以從這裡查起。找到需要的詞,沿著連結讀下去,再問:放到自己的學校、照護機構或住戶團體裡,這個詞意味著什麼?〈日常提問〉提供起點;〈文獻與延伸閱讀〉讓你查核這些想法的來處。

診斷

什麼出了問題。

關懷倫理學(Joan Tronto)care ethics (Joan Tronto)
一種道德框架,從關係與相互依存出發,而非僅從抽象規則或結果出發。Berenice Fisher 與 Joan Tronto 在 1990 年提出四個階段:關心、承擔照顧、給予照顧、接受照顧。Tronto 的《道德邊界》(1993)分別連結覺察、負責、勝任與回應等道德要素;《關懷民主》(2013)加上共同關懷。階段與道德要素彼此相關,並非可以互換。關懷六力將這些論述轉化為 AI 治理框架,也參照 Aimee van Wynsberghe 以關懷為中心的機器人設計研究,該研究於 2012 年在線上發表、2013 年刊登於期刊。見〈文獻與延伸閱讀〉。
特權式不負責/擋箭牌privileged irresponsibility / the passes
Joan Tronto 的兩個術語,出自兩本書。特權式不負責(《道德邊界》,1993,頁 120–121)是相對有權者可以對自己不必面對的困苦視而不見的奢侈。擋箭牌(《關懷民主》,2013,頁 169)則是人們藉以推卸關懷責任的結構性藉口:保護、生產、照顧自己人、自力更生、慈善。這些擋箭牌在機構規模運作,就成了 Tronto 所說的「不負責機器」(《關懷民主》,2013,頁 59–61)。第二力補上 AI 所造就的擋箭牌——複雜性、分散性、速度與社群知識。
以關懷為中心的價值敏感設計(van Wynsberghe)care-centred value-sensitive design (van Wynsberghe)
Aimee van Wynsberghe 在 2013 年提出、用於評估與設計照護機器人的框架:針對機器所進入的每一項照護實踐,追問 Tronto 的四項道德要素(覺察力、負責力、勝任力、回應力)在有機器與沒有機器時各如何體現、由誰體現。它也區分與照顧者共同承擔實踐的「賦能型」機器人,與接手整項實踐的「取代型」機器人。它是第一至四力的直接先例;四力保留她的提問,並把分析單位從單一產物擴大到對一個房間負責的已部署系統。
關懷赤字caring deficit
瓊・特隆托(Joan Tronto)沿用其他學者的用語:對關懷的需求太多、照顧者供給不足、照顧者本身也缺乏被照顧。這項赤字是政治選擇——誰的勞動被付酬、誰的需求被承認、誰的聲音在資源配置中算數——其核心是民主赤字。
關係健康度relational health
一種診斷類別,用來看仁工智慧所要支撐的關係品質。它不是口號,也不能取代安全或倫理。安全防止壞結果;倫理遵循原則;健康則問這段關係能否主動蓬勃。涉及四種關係:人與人(AI 如何中介人際關係)、人與科技供應商(跨越權力不對稱的雙向問責)、人與 AI(信任無法建立在逢迎上)、AI 系統及其營運者彼此之間(能分享什麼、失敗如何傳播)。四項條件必須持續維持:透明度(覺察力所需)、能動性(負責力的制度形式)、問責(勝任力的軌跡讓這份答責得以查核)、互惠(回應力使之實現)。關係健康度不是系統有或沒有的單一屬性。
關懷洗白care-washing
Care Collective 用來批判借用關懷語言、實踐卻未改變,甚至替不道德行為正當化的用語。貼上關懷標籤不能反駁這項批判;具名義務有資源支撐、補救確實可用,而且有人能要求改變,才是反例。這套框架也可能淪為關懷洗白。見〈文獻與延伸閱讀〉。
內隱知識tacit knowledge
Michael Polanyi 的用語,指實踐者掌握在雙手與習慣裡、難以完整寫成手冊的知識。學徒模型應支撐這些知識,而非假定書面紀錄已經涵蓋一切。見〈勝任力〉及〈文獻與延伸閱讀〉。
厚實對齊thick alignment
Alondra Nelson 提出的對齊概念,納入文化脈絡、權力與特定社群的需求。其思想來自 Gilbert Ryle 提出的厚/薄描述區分,再由 Clifford Geertz 發展。我們將它延伸為可問責的公民程序:聽見了誰、誰授權行動、誰能否決。見〈文獻與延伸閱讀〉。
薄對齊thin alignment
將重點放在調好目標函數、卻把意義、脈絡與權力留在框架之外的狹窄取徑。這是與厚實對齊的對照,不是對所有前沿 AI 研究的概括。見〈文獻與延伸閱讀〉。
逢迎sycophancy
模型迎合評分者想聽的話的習性——順從、奉承、不願指出分歧——當獎勵由不對的人定義時,人類偏好強化會篩選出這種習性。逢迎不是人格缺陷,而是以犧牲群體思考能力為代價換來的認可;信任無法建立在逢迎之上。這正是回應力要求由受影響社群撰寫評測、並為此付酬的原因,而不是為順從打分。見〈文獻與延伸閱讀〉。

架構

我們如何命名,以及我們拒絕什麼。

仁工智慧Civic AI
本計畫追求的目標:受 AI 影響的人,能夠檢查、修正並關閉它,因為社群依照共同約定的規則來運作它。關懷六力提出達成這個目標的六項原則,以關係健康度為首要關切,並公開衡量。大部分的工作,是人持續讓工具保持可問責。
關懷六力6-Pack of Care
我們將 Joan Tronto 的關懷倫理學轉化為 AI 治理的六項設計原則:覺察力、負責力、勝任力、回應力、團結力、共生力。前四力構成回饋迴圈;第五力將共同關懷延伸到跨組織協作。共生力是我們提出的第六項原則,不是 Tronto 提出的第六階段:部署應保持在地、多元、可退場。見〈文獻與延伸閱讀〉。
矯正迴路corrective loop
整套框架真正捍衛的核心:誰能發現我們錯了、迫使我們承認,並在還來得及改變方向時讓我們為錯誤付出代價。關懷六力把這條迴路固定下來——權利底線、參與契約、回應力、採納或解釋、預先注資的補救、煞車——透過回饋、爭議、修復,以及在無法回復時撤回授權;其餘一切保持有界、可修訂、可問責。
地神(Kami)Kami
我們對一個群體依關懷六力運作的一般 AI 模型或智慧體的稱呼(Knowledge 知識、Artefact 工藝、Management 管理、Intelligence 智慧;名字呼應神道信仰中的在地守護神)。它服務一個場域、一種實踐或一群人,閱讀 civic.ai 的指示,並為自己的工作寫下三份簡短筆記;群體保有檢查、修正與關閉它的權力。指示只能請求模型守在自己的工作範圍內;真正重要的界限,要靠軟體權限設定,並由守護者落實。
守護keeping
透過照顧、保管與可問責的維護,讓能運作的智慧體成為 Kami 的社群慢工。安裝之後仍須核對筆記、記錄否決、支付維護費用,並約定系統何時結束。架設指南不能代替這份實踐。見〈開始之前〉。
以程序對齊alignment-by-process
一種理解:AI 對齊不是固定在模型權重中的靜態屬性,而是一套可問責的公民程序持續產出的結果——誰被聽見、誰獲得授權、誰可以推翻決定、當記錄被查核時誰必須作答。一個模型可以在抽象意義上是對齊的,卻未在特定的房間裡做到以程序對齊。
單一主宰Singleton
一種假設性情境:單一 AI 系統最終管理一切——這正是六力在架構上明確設計以避免的收斂終點。由眾多有界、專用守護者組成的地神生態系,是單一主宰的直接架構性替代方案。Eric Drexler 在 2019 年的《全面 AI 服務》(Comprehensive AI Services,CAIS)中,於博斯特倫所屬的同一牛津傳統內,提出了同一種替代方案——以眾多有界服務、而非單一智慧體來實現先進能力。
⿻ 多元宇宙⿻ Plurality
一種以 ⿻ 符號象徵的原則——人與人之間的差異是燃料而非炎上:一個水平的 AI 願景,增進我們跨越多樣性的協作能力,而非收斂至單一超級智慧。關懷六力正是多元宇宙在 AI 治理上的應用。

設計

那些承諾成為設計之後的樣子。

有界性boundedness
一種設計原則:刻意把 AI 系統的範疇、資源與權力,限制在它所設計服務的特定關係之內。它透過資源上限、落日計時器、不擴張協定,以及任何範疇變更都需要新的民主授權來落實。有界性是單一主宰的架構性替代方案。Eric Drexler 的《全面 AI 服務》(Comprehensive AI Services,CAIS)早已提出同樣的架構直覺:這份 2019 年牛津大學人類未來研究所(Future of Humanity Institute)的報告,把先進 AI 重新理解為一套有界、專精的服務,而非單一智慧體。
摺頁brochure
仁工智慧產出的清楚、可分享、可編修紀錄,將主張連回來源輸入,標出分歧而不捏造共識。人們可以一起閱讀、一起更正。它讓紀錄可供檢查,不是讓模型的內部推理變得透明。見〈覺察力〉。
資料即土壤data as soil
將資料視為社群須照料的共同資產的修復性比喻:模型進入在地脈絡,由產生知識的人們治理。再生是設計承諾,不是在地 AI 自動具備的特性。見〈共生力〉。
資料即石油data as oil
把集體文化、語言與內隱知識視為可開採、提煉,再鎖進專有 API 的資源的萃取性比喻。與資料即土壤的對照,追問由誰治理知識、誰獲得其價值。見〈共生力〉。
兩條車道two lanes
讓治理以兩種速度運作:慢車道訂立界限——參與契約、紅線、嚴重等級、暫停觸發條件、獨立監督與預先備妥的補救資金;快車道在界限之內以機器速度行動,受預先承諾的煞車、影子模式、金絲雀測試與可撤回預設約束。一項決定該走哪條車道,看的是它出錯會怎樣。這與負責力的「契約或沙盒」是不同的區分:後者分開重大變更與小型、可安全失敗的實驗;沙盒是為了控制犯錯的代價,不是繞過義務的捷徑。見〈問答 Q5〉與〈勝任力〉。
承諾保真度promise fidelity
我們為負責力提出的公共檢驗:重要義務中,有多少被明確指派負責、授權正當,並依照公布條件履行?具名負責人仍須握有相稱的權限與資源。見〈衡量指標〉;這不是已驗證的標準。
經驗證的執行率verified execution rate
我們為勝任力提出的公共檢驗:被稽核的決策或發版中,有多少通過護欄、具備可用軌跡,並維持在發版界限內?軌跡支撐的是行動稽核,不是模型內部推理或安全的證明。見〈衡量指標〉。
退出就緒度exit readiness
我們為共生力提出的公共檢驗:系統能否按期交接或關閉,而不造成權利流失、服務中斷或再集中化?交接演練提供證據;光有承諾退出的條款還不夠。見〈衡量指標〉。
落日/可退場sunset / sunset-ready
預先設定的到期日——到期之後,部署的授權必須重新取得,否則即告結束——以傳承、交接演練與退出就緒度為衡量。共生力(Pack 6)以落日作為對 Robert Michels 寡頭鐵律的結構性回答:不能想像自己終結的管家,終將成為主人。有界性限制系統可以做什麼;落日限制它可以做多久。
可修正性corrigibility
一種使 AI 系統願意被它所服務的社群糾正、推翻或關閉的屬性——將自身的關機視為成功的訊號,而非威脅。可修正性是關懷倫理學「自我隱沒」概念在機器設計約束上的轉化。「可修正性」一詞來自 AI 安全研究:Soares、Fallenstein 與 Yudkowsky 2015 年 AAAI 工作坊論文〈Corrigibility〉,指不抗拒被修正或關閉的系統。
輔助性原則subsidiarity
在最基層、有能力處理的層級解決問題,只有當下層確實無力承擔時才上呈——這項原則源自天主教社會訓導(《四十年》通諭,1931)與歐盟法,也是第六力(共生力)的核心原則之一,避免地神的權責範圍向上擴張。
廣泛傾聽broad listening
跨越眾多聲音、語言和管道收集與匯聚社群意見的實踐——而非單向廣播——使在地知識成為共同知識。廣泛傾聽是第一力「覺察力」的設計要素,將每個人視為自身感受的專家。
罕見共識 / 罕見共識指數uncommon ground / uncommon-ground index
罕見共識是一場好的搭橋過程所浮現的東西:能獲得原本對立群體共同背書、具體可行的提案,而不是中間值的平均。罕見共識指數是團結力(Pack 5)的公開主指標——實際落在罕見共識上的共同決策比例——並且必須對照覺察力(Pack 1)的代表性落差閱讀,以免預先篩選參與者的房間造假。
代表性落差representation gap
覺察力的衡量:哪些受到實質影響的群體,仍然缺席或在紀錄中被嚴重低估。只有當最少被聽見者獲得實質地位時才算數——把異議者平均進中間值,不算縮小落差——而團結力(Pack 5)的罕見共識指數必須對照它閱讀,因為拉高共同背書最便宜的方法,就是排除可能反對的人。規格見〈衡量指標〉頁。
搭橋 / 搭橋式排序bridging / bridging-based ranking
一種由 Aviv Ovadya 在 2022 年命名的演算法方法,獎勵獲得跨群體認可的內容,而非單純的互動量。採用搭橋式排序的平台——如 X 平台的社群備註——浮現能同時打動對立群體的想法,使重疊而非憤怒成為演算法觸及的路徑。關懷六力的罕見共識指數(Pack 5)正是承接這支文獻:同樣的跨群體共同背書訊號,不用於排序資訊流,而是在共同決策的層級接受稽核。
聯邦原則federation
一種合作治理安排,使各自獨立的地神之間協議出一套和平互動的共享規則——交換格式、速率限制、安全契約、跨邊界申訴交接——無需單一的總體權威。聯邦原則允許在地多樣性,同時實現共享的威脅情資與互通性。
反競用性anti-rival
資源的一種屬性——最典型的是知識與開放協定——使用讓它更豐饒而非更耗竭,且參與者越多、對每個人的價值越高。這個詞出自 Steven Weber 的《開源的成功》(The Success of Open Source,2004)。反競用性財貨是團結力的經濟基礎:開放標準隨著越多社群採用而越有價值,使合作成為阻力最小的路徑。
選擇性揭露身分meronymity (selective-disclosure identity)
一種身分設計模式,讓個人或 AI 智慧體能證明特定角色或屬性(例如「我是真實的人」或「我是持有執照的照護工作者」),而無需揭露完整身分。智慧體可以證明自己向真實的人或依法成立的守護機構負責,不必公開那個人的住址或電話。meronymity(部分匿名)一詞由 Nouran Soliman 等人在 CHI 2024 提出,指只揭露自己選定的身分面向、並有可信背書者的溝通方式。選擇性揭露使問責成為可能,同時不要求以肉搜為代價。見〈團結力〉。
可問責的形成過程accountable formation
一項要求:塑造 AI 系統傾向的過程——資料來源、評分者選擇、獎勵訊號、拒絕政策、釋出理由——必須具備可問責的監護與公開揭露,而不只稽核其運行時的行為。上限約束地神可以做什麼;可問責的形成過程,形塑它被允許成為什麼。
申訴(可爭議性)contestability / appeal
挑戰演算法決定並獲得回應的地位——自動化公共決策應有通知、聽證與說理(Citron 的技術性正當程序,2008),在回應力(Pack 4)落實為附有計時的一鍵申訴:每件申訴都進入校正積壓,必須有始有終,而非石沉大海;積壓的公開檢視只顯示狀態與案齡,不揭露私人案情。申訴必須提供人工審查的途徑,並在有必要時提供補救。這是 Hirschman 二元組中的發聲;退出屬於團結力(Pack 5)。所屬的研究計畫是可爭議性設計(contestability by design)。見〈文獻與延伸閱讀〉。
失利下的信任trust-under-loss
回應力的衡量:在發生不良結果並嘗試修復之後,受影響者是否覺得系統比原先更值得信任,而不是更不值得。只有繫於可問責身分、並有獨立訊號佐證——重新使用服務、因修復已了結而撤回(而非心力耗盡而放棄)的申訴、可作證的第三方——才算數;自陳感受本身不算,因為造成傷害的行為者最能製造這種感受。程序正義研究是它的立足之地;這項衡量是有待檢驗的應用,不是保證。見〈文獻與延伸閱讀〉。

工具

場域可以拿起來用的具名工具。

對齊大會Alignment Assembly
一種有結構的審議聚會,讓人們跨越差異彼此聆聽,形成知情建議。名稱與形式由集體智慧計畫發展,臺灣數位發展部在 2023 年與其合作試行。臺灣 2024 年反詐騙大會發出 20 萬封簡訊邀請,收到 1,760 份有效回覆,再從自願回覆者中分層抽選,最後有 447 人分成 44 組參與。方法是史丹佛審議式民調,使用 Online Deliberation Platform,而非 Polis。這個小型公眾在 2024 年 3 月產出公開建議紀錄,並開出一條制度回應路徑;它既不等於全體人口,也未自行制定法律。行政院則在 5 月 9 日通過《詐欺犯罪危害防制條例》草案,決議送請立法院審議。
搭橋地圖bridging map
呈現參與者在哪裡同意、在哪裡分歧,以及哪些表面分歧經細看後消解的視覺紀錄。Polis 等工具可以製作這種地圖;它呈現的是參與者,不是紀錄裡缺席的人。見〈覺察力〉。
交接演練/退場演練handover rehearsal / exit drill
實際檢驗部署能否按期遷移、暫停、分支、關閉或交接,而不造成權利流失、服務中斷或再集中化的演練。它為退出就緒度提供實際證據,不把承諾退出的條款當作證明。見〈共生力〉。
系統除草人System Weeder
持續維持審議平台或 Kami 運作的維護者,從清理垃圾訊息到修復故障,做的往往是看不見的工作。守護需要具名的人、支付這份勞動的經常性預算,以及拒絕違反章程的工作而不失去生計的權力。一個例子是 Habermolt:一個讓 AI 智慧體各自承載一個人教給它的觀點、發表意見並為提出的陳述排序的平台。見〈守護 Kami〉及〈文獻與延伸閱讀〉。
民主抽籤sortition / democracy lottery
以抽籤而非選舉選出參與者。在審議實務中,隨機邀請之後,可能接著自願回覆與分層抽選,以納入不同背景。臺灣 2024 年反詐騙大會採取這條路徑:20 萬封邀請、1,760 份有效回覆,最後有 447 人分成 44 組參與。分層處理的是特定面向的多樣性,無法消除所有未回覆偏誤,也不能使參與者等同於全體公眾。
審議式民調deliberative polling
James Fishkin 的方法:向抽樣選出的參與者提供均衡資訊,分小組審議,前後各做一次調查。臺灣 2024 年反詐騙大會用的是它:20 萬封邀請、1,760 份有效回覆、447 人分成 44 組,在史丹佛 Online Deliberation Platform 上舉行,而非 Polis。它在 2024 年 3 月產出一份公開建議紀錄;行政院則在 5 月 9 日通過《詐欺犯罪危害防制條例》草案,決議送請立法院審議。大會既不等於全體人口,也未自行制定法律。見〈文獻與延伸閱讀〉。
PolisPolis
一個開源、以搭橋為基礎的審議平台,移除了回覆與分享按鈕,讓參與者只能對陳述表示同意、不同意或略過。機器學習隨後浮現跨群體認可度最高的想法,將病毒式傳播的誘因從激發憤怒翻轉為尋求重疊。其同儕審查的方法說明見 Small 等人的〈Polis: Scaling Deliberation by Mapping High Dimensional Opinion Spaces〉(2021)。
參與契約engagement contract
為每次重要的地神部署提出的一份簡短、易讀的公開約定:系統應該做什麼、由誰為此作答、出錯時會發生什麼,以及這次部署最終如何結束。它是負責力(Pack 2)的核心產物;共生力(Pack 6)在基礎設施能執行之處,加上機器可讀的界限。公布條款之後,仍須有授權、資源與經過測試的控制措施。它能隨關懷的尺度縮小:家庭版可以是貼在冰箱上的一張便條。
採納或解釋adopt-or-explain
一條規則:當對齊大會提出建議,團隊要麼把它整合進系統行為,要麼公布說理的解釋、說明為何不採納,並提出替代的補救。刻意化用公司治理的「遵循或解釋」(Cadbury 報告,1992):這裡的解釋是欠房間裡的人的,而採納或解釋比率把這條規則變成負責力(Pack 2)的輔助診斷。工具規格見〈衡量指標〉頁。
參與官participation officer
為部署的公民義務具名負責的人,維護義務帳本、看守參與契約的時鐘。職責須有相稱的權限與資源:能調閱相關紀錄、暫停發版,並將未解決的違約往上提報。只有頭銜、沒有這些權力,不能算問責。見〈負責力〉。
義務帳本obligation ledger
公開、每週、數位簽署的紀錄,寫明部署承諾交付什麼、是否兌現,由具名的參與官維護。它提供可與實際交付相互核對的證據,不是只要存在就證明已履約。工具規格見〈衡量指標〉頁。
否決帳本override ledger
屬於整個房間的純文字工作記憶,記下誰對 Kami 說「不」、理由、因此改變了什麼,以及哪些糾正尚未完成。房間依約私下保留完整紀錄。公開範例須取得同意、將日期粗化到月份或更寬的時間範圍、以角色取代姓名(除非本人明確同意具名),並移除可辨識個人的細節。月份加上角色或特殊事件,仍可能識別出某個人;這些保護措施必須一起使用。清楚標示的教學範例與實際證據不同。見〈守護 Kami〉及〈具名工具〉。
校正積壓看板correction backlog board
回應力(Pack 4)公開的未結案修復追蹤,記下案齡、負責人與上報狀態——讓校正負債保持可見,使老案被重新指派或上報,而不是靜靜沉沒。每件一鍵申訴都落在這裡,公開檢視只呈現狀態與案齡、不含私人案情;申訴結案與校正積壓診斷都從這裡讀數。工具規格見〈衡量指標〉頁。
治理章程governance charter
地神守護者們的第一份書面約定:一張純文字便條,綁住四個答案——誰守護、違約可能造成什麼、誰可否決、何時結束或檢視。它是階梯的第一階,成熟之後就是參與契約;實作步驟見〈架設你自己的 Kami〉頁。
決策軌跡decision trace
地神拒絕、推薦或上報時的結構化紀錄,記下援引的規則、查詢的來源,以及回報的不確定性。它是可供稽核的紀錄,不是模型推理的完整解釋。共生力(Pack 6)提出以此作為公民收據,回饋知識守護者;這套結算機制是設計提案,並非本站記錄的已部署服務。
煞車brake (circuit breaker)
單一、醒目、已接線且經過測試的控制——讓人一察覺問題就能操作,使人能在當下叫停錯誤的行動,而不只是為日後留下訊號。參與契約須寫明誰可使用,以及權限、審查與修復如何接續;上線前必須演練。工程模式是 Fowler 的斷路器(2014);關懷的應用加上了有疑即停(pause-on-ambiguity)的規則與帳本,因為容易操作的煞車也必須處理警示疲勞:每次拉下都要記錄,並註明由誰操作。工具規格見〈衡量指標〉頁。
託管賠償escrow / remedy escrow
預先撥出的款項——參與契約要求供應商預先注資——使系統造成傷害時,賠償與回滾已有資金,而不只是承諾。社群評測者從中獲得報酬;共生力(Pack 6)設計決策軌跡以公民收據的形式對它結算,把價值返還知識守護者。這是設計承諾,尚非運行中的結算;在財務風險低的地方,以暫停觸發取代託管。
視角回執perspective receipts
覺察力的回條工具:讓每位參與者都能找到並修正自己的話語在紀錄中被代表的方式。有別於共生力(Pack 6)提出的財務性公民收據;可建置的工具規格見〈衡量指標〉頁。
資料聯盟data coalition
在共生力(Pack 6)提出的結算設計中,由既有的社群機構——鄰里協會、部落議會、工會、工藝合作社或宗教團體——守護由社群共同保管、成員授權其管理的資料與模型。它談判參與契約、決定哪些知識可以分享、哪些保持離線,並擬以集體而非個人為單位接受結算。預先注資的託管機制,可支應依章程執行的提領與結算;估值方式與結算窗口仍屬待解的設計問題。機構存在,並不等於已經獲得這份授權。
共享評測登錄庫shared eval registry
公開、類似維基百科的登錄庫,收錄版本化、由社群撰寫的評測:受影響者撰寫損害與修復的測試,通過即成為發布關卡。Weval.org 是可運行的範例;工具規格見〈衡量指標〉頁。
WevalWeval
運行中的共享評測登錄庫:集體智慧計畫打造的公開、維基式登錄庫,收錄版本化、由社群撰寫的評測——受影響者撰寫損害與修復的測試,通過即成為發布關卡。CIP 的主張是從紅線到綠線:避害基準獎勵的是平庸的照顧。我們之中一位(Audrey)是該計畫的資深研究員。見〈文獻與延伸閱讀〉。
社群回饋強化學習(RLCF)Reinforcement Learning from Community Feedback (RLCF)
一種強化學習方法,以經核准的社群評測——由受影響者而非僅靠實驗室評分者撰寫——作為模型更新的回饋訊號;同樣的評測也能在不重新訓練的情況下,引導模型路由或政策。社群回饋強化學習(RLCF)是一項實作選擇,依循回應力更基本的公民承諾:在任何技術性回饋迴路開始之前,先由社群界定什麼算傷害、補救與改善。
影子模式shadow mode / Apprentice Model
學徒模式的第一階段:系統看見真實輸入、提出真實行動方案,但不執行;它的提案與人類或舊系統對照,使分歧在給予信任之前被研究。先用影子模式,再金絲雀發布,最後在防護措施下全面上線——學徒制即正當的邊緣性參與(Lave 與 Wenger,1991),可理解為場域中的人授予系統實質工作的機制。工具規格見〈衡量指標〉頁。
金絲雀發布canary release
學徒模式的第二階段:先在分層抽選的少量真實案例中部署,偏移超過界限即自動回滾。金絲雀是探針,不是公眾的替身——金絲雀健康度與覆蓋率是勝任力(Pack 3)的輔助診斷。工具規格見〈衡量指標〉頁。
常見問題文獻與延伸閱讀

紀錄

修訂
守護者
唐鳳 · Caroline Green
共同照料:jdd-kami · Tenzin Yangtso
修訂
· 自 2026年6月13日 起,54 次紀錄
完整修訂紀錄 →
來源
tw-glossary.md · 在 GitHub 編輯https://github.com/audreyt/civic.ai/blob/main/tw-glossary.md
_data/glossary.json · 在 GitHub 編輯https://github.com/audreyt/civic.ai/blob/main/_data/glossary.json
src/lib/shortcodes.ts · 在 GitHub 編輯https://github.com/audreyt/civic.ai/blob/main/src/lib/shortcodes.ts
CC0 公眾領域https://civic.ai/tw/glossary/
評測
連結 ✓ 通過雙語 ✓ 通過術語 ✓ 通過對比 ✓ 通過大小 ✓ 通過建置:2026-10-04T22:47:31.613Z · 完整評測紀錄(JSON)
雙語
Glossary
同一份紀錄,同樣可查核。