ケアの6パックコミック — Civic AI

聴いてくれる

守ってくれる

すぐ忘れるあいまいな理想ではなく具体的でちゃんと守られる

人気や力のある人だけではなく小さく弱い人の話も

方法を見守る

結果を測る

大事なことを無視するものさしではなくみんなで考えたみんなのためのものさしで

「信じてよ」ではなくやり方が透明で意見にすぐに応える

みんなが得する

その場に合う

みんなに１つのやり方ではなくみんなで考えみんなのための多くのやり方を全部

0か100かの総取りの争いではなくみんなが前より良くなったねと思えるように

概要。Nicky Case が描いた「ケアの6つの力」全体図。

問題：政府は統治される人々の必要としていることに耳を傾ける必要があります。しかし今、市民が政治に関われる最も一般的な方法は次の2つです……

数年に一度の一問だけの選択方式

ご近所と対面で話すのは今でも素晴らしい。でも、わたしたちの身近なバブル"だけ"に限られていて、全市民とは話せない。では、全市民にスケールできる仕組みを考案するとしたら？次のようなことができるのは？

同意できなくても建設的でいられて

合意できる事実や価値観を浮かびあがらせて

ニュースやSNSの何でもありの怒鳴り合い（過激な声ほど勝つ）

〇悪いやつ〇もっと悪いやつ〇勝てないひと

解決策を作りだすのを助けてくれる

Pack 1: AttentivenessProblem

NOT: 人気や力のある人だけ　

市民会議は陪審制のようなもの——

市民を統計的に代表する人たちが集まり、関連することをとことん話し合います。集会は開催するには通常なら高コストだけど、シビック・テックを使うことでより多くの会議を開くことを可能にしました、そう、より多くの決定ができるように!

台湾が pol.is を使ってUber を参入させるか・どう参入させるかを決めた例を考えてみよう：

SNSでの有害な自我が表れるのを避けるため、 pol.is には「共有」ボタンや「返信」ボタンさえもありません。人々は意見を出し、他の人たちは「賛成」、「反対」、「わからない」で投票します。

そのデータからどんな集団ができているのかが分かり

「安全が最優先」

このように、技術はみんなの声を置き換えてしまうのでなく、声を拡張する！デジタルなファシリテーターが支援することで、より上手に合意も反対もでき、問題を解決します。そう、一緒に。

BUT: あらゆるコミュニティの声

「Uberは車両とIDを表示すべき」

分断を橋渡しする案を浮かびあがらせました

Pack 1: AttentivenessSolution

巨大な計画には大勢が必要…でも大勢が関わると、責任のなすりつけ合いも大きくなる。

みんなの責任となると、結局誰も責任を負わない。

給与で買える物を買ってるだけ！

市場が求める物を売ってるだけ

市場で決まっている給与を従業員に払っているだけ

有権者が望む物を与えているだけ

たとえば：2024年、台湾のFacebookは生成AI での詐欺で氾濫。台湾出身で知られるNVIDIA CEOのジェンスン・フアンのディープフェイク動画にひとびとは騙され、数百万ドルを奪われました。Facebookの返答は？「広告は当社が作ったのではないし、アルゴリズムが表示しただけ」。責任は取りませんでした。

わたしは、命令されるように、インセンティブに、みんなのするようにただ従っているだけです

少しでも邪悪ではないほうに投票しているだけ

Pack 2: ResponsibilityProblem

NOT: 曖昧な約束

監査可能な「エンゲージメント契約」が必要。それぞれ次のことを命じる：

このタスクに責任を持つ一人（または少数の人）は誰か？

何をすべきか？

なぜやるのか？目的を忘れなければタスクは意味を保ち、責任者が自分で判断できる…

どうやるかは本人に委ねられるべき。こうすればマイクロマネジメントなしに責任を持たせられる。人間の自律性を守ろう！

台湾の事例に戻ります：市民集会が責任を引き受け、詐欺防止と検閲回避を両立する、85%以上が賛同する法律案を捻り出しました。その法律は公正でありながらも具体的な責任を、広告主とプラットフォームに課すものでした。

結果：1年以内にディープフェイク詐欺は94%減少！

こうして責任と自律性の両方が守られる！

BUT: 明確なコミットメント

いつすべきか？

Pack 2: ResponsibilitySolution

近代的な多くの国では、生活の大半はインターネット上で起きる——文化、ニュース、政治、品物やサービスの購入、友だちづくり。

ゆえに: ネットを動かすアルゴリズムによって、私たちの生活は動かされています。最初は「アルゴリズム」も単純でした：

投稿は新しいものから古いものの順

証明: 読む人に任された

そして、雑多な情報の中を突き抜けて表示することができるように、アルゴリズムは複雑化。ユーザーには理解できませんでしたが、コーダーには理解できました……だいたいのところは

ええっと… これは高評価投票数の対数を時間で割り引くのかな？

※これは2008年のredditのアルゴリズム！

でも今、機械学習の時代——プログラムは設計されるのではなく「育てられる」—— 誰も生活を動かすアルゴリズムを理解していません。

悟りとは自己認識でなく自己“不”認識。あまりに広大な精神ゆえ、それ自身さえ真の名を語れない。

Pack 3: CompetenceProblem

みんなに影響するアルゴリズムはみんなが検証できるべき！

Xのコミュニティノート（旧Twitter のBirdwatch）で考えてみましょう。普段は意見が合わない人どうしが合意する点を強調する仕組みです。これまでのところ、「ファクトチェック」のプラットフォームで、アメリカで政治的立場の異なる幅広い人々から正味プラスの評価を得た、広く使われている唯一のプラットフォームです！

その理由の１つには、誰もがアルゴリズムのどの部分も確認できる。ユーザーは、入力を全て見ることができます（例えば、ユーザー作成のノート）。

ユーザーはノートが正しく分析されているかを確認できます（コードは無料・公開）。

最後に、ユーザーは出力も確認できる：提案されてくるノートが確かに「意見の違う人でも合意している」という点を。

コミュニティノートは多くの例のただの一例にすぎません！要するに、プロセスを信頼するには、プロセスを確認できねばならないということです。

NOT：「とにかく信じろ（笑）」

BUT：誰もがプロセスを確認できる

Pack 3: CompetenceSolution

航海士にコンパスが要るように、社会にも進む方向を測る手段が要る。そこで指標を使う！でも残念ながら、指標はしばしば壊れている。

例えば、政治家は「平均所得は上昇」と言うかもしれません…

でも「平均」は、上位層で大きく伸びている一方、下位層では停滞・下落する事実を覆い隠します。

これと同じように、現代メディア（ひいては文化・政治）を動かすアルゴリズムやAIは、悪名高い失敗を抱えた指標を使っています。

クリックベイト

レイジベイトによる炎上

では、私たちが大切にするもの——「コンパス」——を、惑わされずに測るには？

コメント数

ユーザーの高評価

クリック数

チャットボットのおべっか現象

Pack 4: ResponsivenessProblem

NOT: 私たちを惑わす指標　

BUT: 私たちが私たちのために作る指標

①わたしたちが本当に大切にしていることを測る

②複数の方法で測る

③指標をこまめに見直す

Weval.org を見てみよう。 AIチャットボット向けの多様な評価が集められていて市民による、市民のための設計されています。

１つ１つの大切にしている価値は、頑健性のため、多様な方法で測られます。

そして、フィードバックループもあります：評価自体を評価し、改善します。

業界は主にAIの能力を測りますが、Weval は人々が大切にするものを測ります。・誠実さ・文化的な流暢さ・対立の解消・メンタルヘルスのベストプラクティス ……などなど！

このようにすると価値にのっとった「コンパス」を設計して技術を導くことができるのです！

私達のための

私達による

Pack 4: ResponsivenessSolution

人が違うものを求めるとき、私たちは「マイナス・サム」や「ゼロ・サム」思考に傾きがち。

それはどういう意味？想像してください。二人の料理人が同じオレンジを欲しがっています

奪い合いをすることもできます。すると、両方とも損をします——「ネガティブサム」です。

半分ずつ分けるほうがまし。でもそれは「私の得＝あなたの損」を前提としています。多く取れば相手は減る。合計はゼロ——「ゼロサム」

でも、二人とも得することはできない？つまり、「ポジティブ・サム」です。いつも可能とは限りませんが、もしこの種の機会を逃すとすると惜しいです。では「できるだけウィン・ウィン」に近づくには？

※このオレンジの物語はフォレット(1925)、フィッシャー＆ユーリー(1981)、コヴィー(1984)から。

あなたの勝ち

わたしの負け

わたしの勝ち

あなたの負け

Pack 5: SolidarityProblem

NOT: 確実な相互破壊

少し引いて考えてみましょう。欲しい「WHAT」の背後にあるなぜ（WHY）欲しいのかを問う？そのうえで——両方の「WHY」を満たす新しい「WHAT」を作れないか？

例えば、二人の料理人は、お互いに告げます……

……そして気づきます。二人とも必要としていることを100%満たせて、無駄もないことに！

オレンジのリキュールを作りたい

リキュール用に皮とゼストが要る

オレンジ果汁が要る

ジュース用に果肉が要る

そう、たしかにこれは作り話めいていますが、ウィン・ウィンは現実でも見つかることがあります！数年前、台湾はタイムゾーン変更を巡り激論になりました。

でも、pol.is と開放政府連絡⼈(Participation Officer)の助けで、互いのWHYを満たす新しいWHATを発見しました。科学者・芸術家を呼ぶという目的をために「ゴールドカード」で在留資格をあたえるというWHATでした。

このようにして、より良い議論はウィン・ウィンへ導くのです！

BUT: できるだけウィン・ウィンに

維持派: 変更には経済的に高い代償

独自性追求

創作する方ようこそ！

変更派：独自性を持つのに必要

経済性両立するには???

Pack 5: SolidaritySolution

社会のすべてを一つのカゴにまとめるな！

現代の文化・ニュース・政治は、一握りの多国籍企業のプラットフォームを通ります。

しかも、中央集権的プラットフォームが壊れなかったとしても、「成功」でさえ悪いことになりえます：教会や地域コミュニティという「分厚い中間層」を欠いた、味気ない画一的文化をつくりだします。

でも、これは「単一障害点」を生みます！それが事故だとしても強欲だとしても、これらは私たちを裏切り可能性があります。

Pack 6: SymbiosisProblem

ユーザーのために戦おう！地域の自律を守る技術を求めよう。最近の例を3つ…

「子どものことを考えろ」は権威主義者が支配を広げる常套句。これに対して、ROOST.tools は、オープンソースのツール（中央集権的支配なし！）を作る非営利団体で、各組織が各プラットフォーム上で児童虐待を検知・防止するのに役立っています。

gpt-oss-safeguard はオープンソースのAIで「自分独自のポリシーを持ち込む」(Bring Your Own Policy)ことができます。コミュニティのルールと価値観をこれに伝えれば、人間のモデレーターを置き換えるのではなく、コミュニティを守るのを支援します。

そして最後に、この本自体も「この場の精神（Kami）」の恩恵を受けています：クラウド上の企業的粗製品でなく、一つの関係を見守り一台の特定のノートPCでローカルに動く Kamiです。

本書の他の全ての原則とともにこの原則によって、力を一点に集中させず人々のあいだで力を分かち合う、そんな未来を築くことができる。

長寿と繁栄を！

NOT: 画一的を迫る支配者

BUT: 地域の人々のための地域の解決策

人々のコミュニティにAIを入れて繁栄する方法

Pack 6: SymbiosisSolution

イラスト：Nicky Case（CC0）。日本語テキストは暫定訳です。原資料は GitHub を参照。

ホーム第1章：注意深さ

A research output of the Oxford Institute for Ethics in AI, Accelerator Fellowship Programme.

⓪ Audrey Tang and Caroline Green. CC0 (public domain). Illustration by Nicky Case. All comics. Glossary.

Co-written with jdd-kami, cultivated by Tenzin Yangtso — the GitHub commit log has full authorship details.