主流 AI 願景及其不安
我們常從大型 AI 公司和矽谷人士那裡聽到的 AI 願景，往往聚焦於以同質化規模盡可能快地自動化一切，建造立方公里級的資料中心，裡面都是同一套東西的複製品，大概也跑著同一套東西。人們甚至興奮地談論一個我們全都失業、不用工作、AI 替我們做所有事的未來。
我注意到很多人對此感到非常不安。我想我確實理解原因。有這樣一種願景：我們不再被工作需要，大家都領全民基本收入（UBI）。而其中一個挑戰當然是，如果你假設政治體制是善意的、是為公共利益服務的，那你當然會拿到 UBI。
而且，我認為人類心理深處有一些東西——我們不只是想當消費者。我們不只是想不斷地接收東西、觀看東西、享受東西。我們想要真正在世界中擁有能動性。我們想要有一個角色。我們想要自己採取的行動具有意義，對我們在乎的人和事產生影響。
AI 作為「心靈的腳踏車」
這是一種更能最大化人機協作的 AI——AI 能和我們一起做的事，而不是完全獨立於我們之外。這樣的 AI 更務實，更能根據人們的偏好、人們正在做的事，以及世界邊緣正在發生的各種有趣事物來客製化。我認為這在「兩年內擴張到十兆美元」的意義上，確實更難規模化。但我覺得這是大多數人會更認同的模式。
我最感興趣的 AI 類型之一，是真正為與使用者合作而優化的 AI，基本上是盡可能賦能人機協作——當心靈的腳踏車，而不是一輛你只需要在裡面睡著的車。
有界授權與委託
很多時候，人們和代理程式（agent）合作時，會把它們想成小精靈：我們給它指示，然後它就跑去做自己的事。如果你直接把私鑰給其中一個，即使你告訴它去幫你買咖啡，它也可能被網路上的什麼東西騙了。
思考如何界定權限，思考在什麼情況下你希望它自己做事、什麼情況下你需要人類確認、需要什麼樣的人類確認，甚至可能需要什麼樣的來自獨立模型的確認——這真的很重要。
隱私與「影子 LLM」
金錢是一種很自然會想到有限委託的對象。另一個重要的是隱私。
有一類 AI 公民科技，我們甚至談得還不夠多：如果你能對多人的資訊進行隱私計算，你可以想像一個你自己的「LLM 影子」，被放進一個盒子裡，它能看到來自其他人、來自組織的各種機密資訊。它能輸出一個決策——就那一個決策——基於那些機密資訊，而且它無法洩露任何其他東西。
所以你可以想像，透過這樣做，你其實解決了分散式決策的一大難題：決策者無法知道秘密，因為他們人數太多了。而也許有了對的密碼學，現在他們可以了。這能讓即使是大群體中的互動也有更高的頻寬。
社群翻譯
我發現 AI 可以幫上忙的方式之一，是在不同社群之間實現更深層的翻譯——這些社群各自產出對彼此有價值的東西，但說話和理解的風格非常不同。我現在能做的是，基本上把那些東西放進一個機器人裡，讓機器人用我理解的風格解釋給我聽。如果我有問題，它可以回答。突然間，我就能更好地理解他們提出的所有演算法，也能直接跳到我認為重要的部分。
我認為我們可以做更多——打造真正為此設計的 AI：把一個社群產生的見解、工作、數位和資訊成果，真正變得對其他人和其他社群更有用，讓他們能以自己的方式與之互動。對我來說，這絕對是這一切技術中最正面的東西之一。
抵抗 AI 單一文化
AI 目前的開發和推出方式所面臨的挑戰之一，是它非常同質化。大家都透過少數幾個模型說話，即使是開源模型，基本上也都是蒸餾那些模型或前代模型的輸出來訓練的。每個人都用同樣的資料集。這就有一種風險，會大規模地抹平這個世界——那些存在於極少量 AI 程式碼和 AI 資料中的傾向，開始對整個世界施加巨大的影響力，開始把整個世界拉向同一個方向。
多元協作的未來
我想看到的世界，是一個我們持續看到多樣性的世界，人們自由地朝不同方向表達不同想法，同時仍然能彼此合作。我認為，在那樣的世界裡，AI 的樣貌不是大家都透過少數幾個東西交流，而是你會看到更多人機混合的作品，真正感覺像是許多不同人對自己想往哪裡去、想讓社群往哪裡去、想讓世界往哪裡去的不同想法的表達。
我希望的一件事，是有更多的軟體被寫出來，真正讓人機協作變成一件很容易、很自然的事。我們現在有一個單體式模型，或者最多大概二十個，實際上更像三個。你可以用聊天機器人和它對話，你可以把它變成代理程式，然後它就去做事。基本上都是同一種介面裡的同一種工作。
所以這可以是，比如說，當 AI 在運作時，讓你能很容易地持續表達你想要做出什麼不同。這可以是一個根據你提供的回饋即時更新的 AI。這可以是更好的微調工具，讓那變得更正常。我覺得，基本上就是把很多目前是大家預期都在同一個位置的硬軌道，變成能更好地適應不同人群的方式。