加了Buff的AI+Crypto敘事，「可驗(yàn)證AI」了解一下

原文作者：@lukedelphi
原文編譯：zhouzhou，BlockBeats

編者按：隨著最近 AI 在加密貨幣領(lǐng)域的影響力不斷提高，市場(chǎng)開始聚焦于 AI 的可驗(yàn)證性問題。本文中多位加密與 AI 領(lǐng)域的專家分析了去中心化、區(qū)塊鏈和零知識(shí)證明等技術(shù)如何應(yīng)對(duì) AI 模型可能被濫用的風(fēng)險(xiǎn)，并探討了推理驗(yàn)證、閉源模型及邊緣設(shè)備推理等未來趨勢(shì)。

以下為原文內(nèi)容（為便于閱讀理解，原內(nèi)容有所整編）：

最近為 Delphi Digital 的 AI 月度活動(dòng)錄制了一場(chǎng)圓桌討論，邀請(qǐng)了四位專注于加密與 AI 領(lǐng)域的創(chuàng)始人，共同探討了可驗(yàn)證 AI 的話題，以下內(nèi)容是一些關(guān)鍵要點(diǎn)。

嘉賓：colingagich、ryanmcnutty33、immorriv 和 Iridium Eagleemy。

未來，AI 模型將成為一種軟實(shí)力，它們的經(jīng)濟(jì)應(yīng)用越廣泛、越集中，濫用的機(jī)會(huì)也就越多。無論模型輸出是否被操控，單是感受到這種可能性就已十分有害。

如果我們對(duì) AI 模型的看法變得和對(duì)社交媒體算法一樣，我們將面臨很大麻煩，去中心化、區(qū)塊鏈和可驗(yàn)證性是解決這一問題的關(guān)鍵。由于 AI 本質(zhì)上是一個(gè)黑箱，我們需要找到方法使 AI 的過程可證明或可驗(yàn)證，以確保其未被篡改。

這正是可驗(yàn)證推理所要解決的問題，盡管討論的嘉賓對(duì)問題達(dá)成了一致，但他們?cè)诮鉀Q方案上卻采取了不同的路徑。

更具體地說，可驗(yàn)證推理包括：我的問題或輸入沒有被篡改；我使用的模型是我所承諾的那個(gè)；輸出以原樣提供，沒有被修改。實(shí)際上，這一定義來自 @Shaughnessy119，但我很喜歡它的簡(jiǎn)潔性。

在目前的 truth terminal 案例中這會(huì)有很大的幫助。

使用零知識(shí)證明來驗(yàn)證模型輸出，毫無疑問，ZK 是最安全的方法。然而，它也帶來了一些權(quán)衡，計(jì)算成本增加了 100 到 1000 倍。此外，并非所有內(nèi)容都能輕松轉(zhuǎn)換為電路，因此需要對(duì)某些函數(shù)（如 sigmoid）進(jìn)行近似處理，并可能會(huì)有浮點(diǎn)近似損失。

關(guān)于計(jì)算開銷，許多團(tuán)隊(duì)正在努力改進(jìn)最先進(jìn)的 ZK 技術(shù)，以顯著降低開銷。盡管大型語言模型體積龐大，但大多數(shù)金融應(yīng)用案例可能相對(duì)較小，例如資本配置模型，這樣開銷就變得微不足道。受信執(zhí)行環(huán)境（TEEs）適合那些對(duì)最大安全性要求較低，但對(duì)成本或模型大小更為敏感的應(yīng)用場(chǎng)景。

Ambient 的 Travis 談到了他們?nèi)绾斡?jì)劃在一個(gè)非常大的分片模型上驗(yàn)證推理，這并不是一個(gè)通用問題，而是針對(duì)一個(gè)特定模型的解決方案。不過，由于 Ambient 仍處于隱秘階段，這項(xiàng)工作暫時(shí)保密，我們需要關(guān)注即將發(fā)布的論文。

optimistic method，即在推理時(shí)不生成證明，而是讓執(zhí)行推理的節(jié)點(diǎn)質(zhì)押代幣，若被質(zhì)疑并發(fā)現(xiàn)不當(dāng)操作則扣除質(zhì)押代幣，這得到了嘉賓們的一些反對(duì)意見。

首先，要實(shí)現(xiàn)這一點(diǎn)，需要確定性輸出，而為了達(dá)到這一目標(biāo)，需要做出一些妥協(xié)，例如確保所有節(jié)點(diǎn)使用相同的隨機(jī)種子。其次，如果面臨 100 億美元的風(fēng)險(xiǎn)，多少質(zhì)押才足以確保經(jīng)濟(jì)安全？這個(gè)問題最終仍然沒有明確答案，這凸顯了讓消費(fèi)者選擇是否愿意支付完整證明費(fèi)用的重要性。

關(guān)于閉源模型的問題，inference labs 和 aizel network 都能提供支持。這引發(fā)了一些哲學(xué)上的爭(zhēng)論，信任無須需要了解正在運(yùn)行的模型，因此私有模型是不受歡迎的，與可驗(yàn)證 AI 相悖。然而，在某些情況下，了解模型的內(nèi)部工作原理可能導(dǎo)致被操控，而解決這一問題的唯一方法有時(shí)就是將模型設(shè)為閉源。閉源模型如果經(jīng)過 100 次或 1000 次驗(yàn)證后仍然可靠，盡管無法訪問其權(quán)重，這也足以讓人產(chǎn)生信心。

最后，我們討論了由于隱私、延遲和帶寬等問題，AI 推理是否會(huì)轉(zhuǎn)向邊緣設(shè)備（如手機(jī)和筆記本電腦）。大家達(dá)成的共識(shí)是，這種轉(zhuǎn)變正在到來，但還需要幾次迭代。

對(duì)于大型模型來說，空間、計(jì)算需求和網(wǎng)絡(luò)要求都是問題。不過，模型正在變得更小，設(shè)備也越來越強(qiáng)大，因此這種轉(zhuǎn)變似乎正在發(fā)生，只是還沒有完全到來。然而，當(dāng)前如果能夠使推理過程保持私密，那么我們?nèi)匀豢梢垣@得本地推理的許多好處，而不會(huì)面臨失敗模式。

「原文鏈接」

歡迎加入律動(dòng) BlockBeats 官方社群：

Telegram 訂閱群：https://t.me/theblockbeats

Telegram 交流群：https://t.me/BlockBeats_App

Twitter 官方賬號(hào)：https://twitter.com/BlockBeatsAsia