去中心化 AI 的開源革命會(huì)創(chuàng)造核威懾下的和平嗎？

作者： Tom Shaughnessy 、 Michael Rinko 、 Pondering Durian

編譯：思維怪怪，BlockBeats?

?

譯者注：在《廣場與高塔》一書中，作者尼爾·弗格森詳細(xì)探討了歷史上權(quán)力如何在中心化權(quán)力結(jié)構(gòu)（高塔）和去中心化網(wǎng)絡(luò)（廣場）之間不斷轉(zhuǎn)移。通過分析歷史事件，弗格森揭示了網(wǎng)絡(luò)在政治、經(jīng)濟(jì)和社會(huì)變革中的重要作用，強(qiáng)調(diào)了現(xiàn)代社會(huì)中網(wǎng)絡(luò)力量的增長。

以弗格森的觀點(diǎn)為背景，本期 Delphi 播客圍繞中心化與去中心化 AI 兩種技術(shù)發(fā)展路徑展開了激烈對話。四位嘉賓首先剖析了信任與隱私在 AI 采用中的重要性，并細(xì)致區(qū)分了不同類型的 AI 和其背后的激勵(lì)結(jié)構(gòu)。討論進(jìn)一步觸及了消費(fèi)者在便捷性與隱私保護(hù)之間的選擇權(quán)問題，以及中心化權(quán)力所帶來的脆弱性和安全隱患。

討論的核心問題之一是如何構(gòu)建一個(gè)去中心化的 AI 競品，特別是在當(dāng)前高度集中的技術(shù)范式下。嘉賓們分析了現(xiàn)有的規(guī)模模型及其局限性，并討論了開源解決方案的潛力。他們認(rèn)為，隨著國家安全的考量和經(jīng)濟(jì)價(jià)值捕獲的需求，分布式方法的重要性日益凸顯。

此外，播客還討論了經(jīng)濟(jì)價(jià)值捕獲和分銷在 AI 商業(yè)模式中的作用，以及大公司與小公司在分銷渠道上的護(hù)城河問題。通過對 Open AI 與 Meta 不同商業(yè)模式的對比，嘉賓們詳細(xì)闡述了去中心化 AI 和加密貨幣的顛覆潛力，特別是在信任和確定性執(zhí)行方面的優(yōu)勢。最后，他們展望了 AI 在區(qū)塊鏈上的金融化潛力，并指出 AI Agent 的廣泛應(yīng)用將成為這一領(lǐng)域?qū)崿F(xiàn)指數(shù)級增長的催化劑。

文章很長，建議收藏。

TL ; DR

• Delphi 研究員 Michael Rinko 認(rèn)為資本主義為技術(shù)發(fā)展提供了很好的激勵(lì)機(jī)制。私營公司通過開發(fā)有用且對人們安全的產(chǎn)品來獲得豐厚的回報(bào)。因此，把 AI 這項(xiàng)技術(shù)交給私營部門并不像人們想象的那樣糟糕。各個(gè)私營部門中的競爭對手會(huì)為了成為最有用的技術(shù)提供者而互相競爭，最終將這些技術(shù)以最安全的方式提供給消費(fèi)者。相反，如果讓這項(xiàng)技術(shù)完全開放，有些人會(huì)利用這些技術(shù)來進(jìn)行惡意活動(dòng)，而目前還沒有找到有效的方法來阻止他們。最好的辦法是提供某種受控的訪問，這正是私營部門所能做的。
• Gensyn 聯(lián)創(chuàng) Ben Fielding 認(rèn)為資本主義奏效的前提是可審計(jì)性。如果沒有審計(jì)機(jī)制，公司可能會(huì)在追求利潤的過程中做出對世界有害的事情。開源模型則可以在不影響公司開發(fā)模型能力的情況下實(shí)現(xiàn)可審計(jì)性。此外，討論 AI 的危險(xiǎn)時(shí)不應(yīng)該涉及它在未來理論上可能做的事情，因?yàn)槿魏慰赡苄远际谴嬖诘摹?/li>
• Ambient 聯(lián)創(chuàng) Travis Good 認(rèn)為大公司將不得不轉(zhuǎn)向更分布式的 AI 發(fā)展范式，以實(shí)現(xiàn)規(guī)?；?。當(dāng)前的范式成本高昂且難以達(dá)到超大規(guī)模，他們必須在某個(gè)節(jié)點(diǎn)上進(jìn)行轉(zhuǎn)變，而這種轉(zhuǎn)變對他們來說是非常昂貴的。模型的擴(kuò)展本身不會(huì)停止，但我們成功管理和部署這些模型的能力會(huì)在模型性能下降之前就開始下降。
• Delphi 研究員 Pondering Durian 認(rèn)為，目前資本市場和大公司之間存在一個(gè)反身循環(huán)。大公司獲得了很多廉價(jià)資金，所以有很大的火力去追求規(guī)模法則。但大問題在于，大公司是否有足夠的收入來證明持續(xù)投資的合理性？如果不能，人們就會(huì)停止為它們提供資金， Google 、 Amazon 和 Facebook 都會(huì)受到嚴(yán)重打擊，它們將無法建立那些 1000 億的集群。
• Ben Fielding 認(rèn)為大模型公司真正的護(hù)城河是實(shí)際的分發(fā)能力。 OpenAI 將試圖提供利用智能進(jìn)行分發(fā)的軟件，但很快，所有擁有分發(fā)能力的公司都會(huì)想要脫離 OpenAI 。 Meta 認(rèn)識到他們的護(hù)城河是他們將這些模型分發(fā)給用戶的能力。他們能夠?qū)⑦@些模型應(yīng)用于實(shí)際的現(xiàn)實(shí)世界中，而不僅僅是試圖從模型本身賺錢。所以他們驅(qū)動(dòng)開源模型，不是出于利他主義，而是為了實(shí)際的戰(zhàn)略收益。
• Michael Rinko 認(rèn)為加密能為 AI 解決的問題有三點(diǎn)：第一，加密是無信任的。在加密中你不必信任任何人，我認(rèn)為這對 AI 來說是一個(gè)很有吸引力的特性。第二，加密是確定性的?，F(xiàn)實(shí)世界是隨機(jī)的，充滿不確定性，但 AI 不喜歡這種不確定性，它會(huì)更喜歡確定性執(zhí)行，加密提供了這一點(diǎn)。第三， AI 可以通過加密實(shí)現(xiàn)超級資本主義。加密可以將任何東西金融化， AI 可以利用這一點(diǎn)來積累資源。 AI Agent 的廣泛應(yīng)用將成為加密實(shí)現(xiàn)指數(shù)級增長的催化劑。

Tommy ：我是 Delphi Ventures 的創(chuàng)始合伙人 Tommy，很高興今天能主持這場關(guān)于加密 AI 與中心化 AI 的討論。我邀請到了四位業(yè)內(nèi)頂尖的專家，讓他們來介紹自己。首先是 Gensyn 的聯(lián)合創(chuàng)始人 Ben Fielding。Gensyn 致力于通過去中心化計(jì)算推動(dòng)機(jī)器學(xué)習(xí)的邊界。我們還有 Ambient 的聯(lián)合創(chuàng)始人 Travis Good，他們專注于世界級的開源模型，也是我們的投資組合公司。這兩位代表加密 AI 陣營。

Delphi 方面有高級市場分析師 Michael Runco ，他在 2024 年 2 月撰寫了 Delphi 的首份 AI 報(bào)告《 The Real Merge 》。還有匿名分析師 PD ，他撰寫了關(guān)于中心化與去中心化 AI 的精彩報(bào)告《 The Tower & the Square 》。這也是我們今天討論的主題。

讓我們按這個(gè)順序做個(gè)簡短的自我介紹， Ben 先開始吧。

Ben Fielding ：謝謝邀請。我是 Gensyn 的聯(lián)合創(chuàng)始人，Gensyn 是一個(gè)機(jī)器學(xué)習(xí)計(jì)算協(xié)議。你可以把我們看作是一個(gè)協(xié)議層，有點(diǎn)像早期的網(wǎng)絡(luò)協(xié)議，能夠覆蓋具備機(jī)器學(xué)習(xí)能力的硬件，并允許它被用于全球任何機(jī)器學(xué)習(xí)訓(xùn)練任務(wù)。我們的理念是，不再局限于使用 AWS 或谷歌云這樣的資源來訓(xùn)練模型，而是可以利用全球任何設(shè)備。你可以直接將模型發(fā)送到單個(gè)設(shè)備，或是選擇一部分設(shè)備組成任意規(guī)模的計(jì)算集群。這將機(jī)器學(xué)習(xí)計(jì)算變成了一種類似電力的商品，而不是必須從某人那里租用和預(yù)定時(shí)間的 GPU。它變成了一種始終可用的交易市場。

Tommy ：很有幫助。Travis，輪到你了。

Travis Good ：好的，我是 Travis，Ambient 的聯(lián)合創(chuàng)始人。我的教育背景是 IT 博士，過去十年一直專注于 AI 相關(guān)的行業(yè)應(yīng)用，包括與藥物發(fā)現(xiàn)和關(guān)鍵基礎(chǔ)設(shè)施相關(guān)的項(xiàng)目。

Michael Rinko ：大家好，我是 Michael，Delphi 的分析師，主要關(guān)注市場分析，但也涉及其他領(lǐng)域。正如 Tommy 所說，我?guī)讉€(gè)月前寫了一份關(guān)于 AI 的報(bào)告，今天很高興能和大家討論這個(gè)話題。PD，你來介紹一下自己吧。

Pondering Durian ：大家好，我是 Pondering Durian，Delphi 研究團(tuán)隊(duì)的一員，主要負(fù)責(zé)研究和投資消費(fèi)者互聯(lián)網(wǎng)、企業(yè)軟件和加密領(lǐng)域。很高興能參與這次討論，期待與大家交流。

中心化與去中心化 AI 的對比

Tommy ：PD，能不能先介紹一下你的報(bào)告內(nèi)容？這是我們今天討論的起點(diǎn)。

Pondering Durian ：好的。報(bào)告的標(biāo)題是《The Tower & the Square》，是對斯坦福歷史學(xué)家 Niall Ferguson 的書的致敬，他在書中探討了層級和網(wǎng)絡(luò)之間的動(dòng)態(tài)關(guān)系。我認(rèn)為過去 30 年是網(wǎng)絡(luò)崛起的故事，從全球化、自由化、資本主義到互聯(lián)網(wǎng)、加密貨幣和社交媒體等，都是網(wǎng)絡(luò)崛起的表現(xiàn)。然而，在過去五年里，傳統(tǒng)層級結(jié)構(gòu)又重新顯現(xiàn)，國家和企業(yè)重新占據(jù)主導(dǎo)地位。而 AI 的出現(xiàn)似乎在目前的形態(tài)下確實(shí)是一個(gè)相當(dāng)大的中心化力量。因此，擺在我們面前的真正問題是，未來是少數(shù)西海岸巨頭控制的數(shù)萬億參數(shù)模型，還是各種形態(tài)和規(guī)模的去中心化模型的世界？兩種觀點(diǎn)都有很好的論據(jù)，這就是我們今天要討論的內(nèi)容。

Tommy ：Ben 或 Travis，你們誰先開始？作為更傾向開源陣營的一方，你們的觀點(diǎn)是什么?

Travis Good ：好的，我來復(fù)述一下 PD 的觀點(diǎn)，看看理解得對不對。你提到我們已經(jīng)看到這個(gè)領(lǐng)域出現(xiàn)了大規(guī)模整合，實(shí)現(xiàn)了垂直擴(kuò)展，這給閉源 AI 帶來了明顯的優(yōu)勢。我基本同意這個(gè)判斷。

然后你提出了兩種可能性：我們是要面對閉源陣營推出的萬億參數(shù)基礎(chǔ)模型，還是會(huì)出現(xiàn)大量不同的模型？我想補(bǔ)充一點(diǎn)，還有第三種可能：開源陣營也可以開發(fā)自己的萬億級參數(shù)模型，在能力上與閉源模型一較高下。

我可以這樣大致概括你的觀點(diǎn)嗎？

Pondering Durian ：是的，你說得很好。目前我們看到垂直整合的產(chǎn)品在能力上遙遙領(lǐng)先，但這些模式并沒有證明自己像 Web2 時(shí)代那樣具有粘性。所以目前看起來閉源玩家似乎占據(jù)優(yōu)勢，但未來如何還有待觀察。我認(rèn)為去中心化 AI 和開源社區(qū)有一套可行的方案，可以在大規(guī)模模型以及整個(gè)技術(shù)棧的各個(gè)層面提供替代選擇。

Travis Good ：完全同意。我認(rèn)為在這個(gè)時(shí)候，可能有必要區(qū)分什么是理想的，什么是可能的。在閉源 AI 的可取性方面，我想和大家一起思考一下，歡迎大家隨時(shí)插話。很多人可能聽過這個(gè)觀點(diǎn)，我們都是「賽博格」。我們的生活已被計(jì)算機(jī)深度介入，不斷從各種設(shè)備獲取信息。我們已是「增強(qiáng)人類」。我認(rèn)為 AI 或 AGI 將成為我們未來的「協(xié)處理器」，我們會(huì)不斷與之互動(dòng)來提升自己。未來它甚至可能直接與我們的大腦集成。

那么問題來了：你希望這個(gè)「協(xié)處理器」值得信賴嗎？我很難相信這些垂直整合的「監(jiān)視資本家」能提供可靠方案。從個(gè)人角度看，讓這些曾濫用用戶和客戶的公司掌控我們的思維，似乎極其危險(xiǎn)。我們不接受 NSA 企圖在我們所有加密通信中植入后門的 Clipper 芯片，我們也不應(yīng)該接受閉源公司試圖介入我們和這個(gè)幫助我們思考的思維協(xié)處理器之間。

這是我對個(gè)人層面的看法。在談社會(huì)層面前，我先停下來，聽聽大家的想法。

Ben Fielding ：我完全同意這種未來觀。我認(rèn)為機(jī)器學(xué)習(xí)和 AI 作為人類能力的增強(qiáng)是最明顯的發(fā)展方向。

其實(shí)，我們已經(jīng)在經(jīng)歷這種技術(shù)進(jìn)步了。比如，看看我們?nèi)绾问褂没ヂ?lián)網(wǎng)，以及那些在共享知識庫環(huán)境中成長起來的一代人。雖然我沒有具體的參考資料，但有研究表明，我們記憶信息的方式已經(jīng)發(fā)生了變化，現(xiàn)在我們更多的是記住如何通過 Google 等工具獲取信息，而不是信息本身。我認(rèn)為這種趨勢會(huì)繼續(xù)，人類會(huì)圍繞這種新工具學(xué)習(xí)，最終與之完全融合。我同意，不應(yīng)由某個(gè)單一實(shí)體控制這種工具，我們不希望這個(gè)實(shí)體擁有對我們大腦中內(nèi)容的審查能力。

我認(rèn)為，從激勵(lì)系統(tǒng)的角度來看，這些企業(yè)并沒有做什么惡意的事情，它們只是追求利潤，這是我們對企業(yè)的期望，也是系統(tǒng)設(shè)計(jì)的初衷。但我們現(xiàn)在需要思考的是，如何在保留這種激勵(lì)機(jī)制的同時(shí)，通過小的調(diào)整，避免過多的權(quán)力集中在一個(gè)地方。歷史上我們已經(jīng)看到了壟斷的負(fù)面影響，尤其是在某些領(lǐng)域，這種影響是非常嚴(yán)重的。而在 AI 領(lǐng)域，這種影響可能會(huì)被進(jìn)一步放大，因?yàn)樗苯佑绊懙饺藗兊乃季S。你可以說，這種情況在社交媒體上已經(jīng)發(fā)生了，而 AI 將是這種影響的更深一層。因此，我完全同意你所說的觀點(diǎn)，這也是我們對未來世界的看法。

Michael Rinko :?我想從另一個(gè)角度提出一些觀點(diǎn)，扮演一下「反方辯手」的角色。

我認(rèn)為關(guān)于這個(gè)話題的一個(gè)挑戰(zhàn)是，大家討論的具體是什么類型的 AI ？我們是在談?wù)摤F(xiàn)在的 AI ，比如聊天機(jī)器人或 ChatGPT ，還是未來幾年可能出現(xiàn)的通用人工智能（ AGI ），或者是能夠統(tǒng)治世界、殖民銀河系的人工超級智能呢？

不同類型的 AI 所面臨的權(quán)衡和激勵(lì)機(jī)制是不同的。我認(rèn)為最容易理解的是現(xiàn)在我們面臨的情況：如何利用當(dāng)前的技術(shù)構(gòu)建一個(gè)盡可能安全的世界。毫無疑問，當(dāng)前閉源 AI 可能是我們管理這項(xiàng)技術(shù)的最安全方式，并且對于可預(yù)見的未來來說也是如此。我會(huì)列出幾個(gè)觀點(diǎn)，希望聽聽你們的反應(yīng)。我認(rèn)為，當(dāng)你提到激勵(lì)機(jī)制時(shí)，這引起了我的一些思考。

實(shí)際上，我認(rèn)為資本主義和我們當(dāng)前的經(jīng)濟(jì)體制提供了很好的激勵(lì)機(jī)制。公司通過開發(fā)有用且對人們安全的產(chǎn)品來獲得豐厚的回報(bào)。如果你開發(fā)的產(chǎn)品不夠有用，或者對人們造成了傷害，你就賺不到很多錢。換句話說，從根本上講，當(dāng)前的激勵(lì)機(jī)制似乎是有效的。我們每年創(chuàng)造了大量財(cái)富，不平等現(xiàn)象有所下降，這些指標(biāo)總體上顯示世界在不斷進(jìn)步，我認(rèn)為這很大程度上歸功于資本主義，通過這種獎(jiǎng)勵(lì)機(jī)制，鼓勵(lì)人們以安全的方式解決問題。

我看不出 AI 會(huì)使資本主義失效。所以，我認(rèn)為把這項(xiàng)技術(shù)交給私營部門并不像人們想象的那樣糟糕，因?yàn)檫@只是信任資本主義能夠發(fā)揮作用。各個(gè)私營部門中的競爭對手會(huì)為了成為最有用的技術(shù)提供者而互相競爭，最終將這些技術(shù)以最安全的方式提供給消費(fèi)者。如果你相信這一基本原則，那么通常來說，就會(huì)出現(xiàn)以最安全的方式提供的最佳解決方案，這就是一個(gè)良好的未來。

相反，如果讓這項(xiàng)技術(shù)完全開放，任何有電腦和互聯(lián)網(wǎng)的人都可以創(chuàng)建和傳播這些 AI 。那么，雖然可能不是現(xiàn)在，但在未來的某個(gè)時(shí)刻，這些 AI 可能會(huì)造成重大損害和傷害。世界上有些人會(huì)利用這些技術(shù)來進(jìn)行惡意活動(dòng)，而我們目前還沒有找到有效的方法來阻止他們。我認(rèn)為，最好的辦法可能是某種受控的訪問，這正是私營部門所能提供的。

AI 采納中的消費(fèi)者偏好與安全問題

Pondering Durian :?我可以插一句嗎？我想補(bǔ)充一點(diǎn)，因?yàn)槲艺J(rèn)為關(guān)于資本主義和安全的論點(diǎn)很好，但我也想提到，隨著時(shí)間的推移，每一代消費(fèi)者基本上都選擇了便利而不是理想的隱私解決方案。所以，實(shí)際上，在接下來的三到五年里，我更擔(dān)心的是，每個(gè)消費(fèi)者的口袋里都有一部蘋果 iPhone，大家都在使用 Google，他們有這個(gè)美妙的 Google 套件，這個(gè)套件將與 AI 集成在一起。如果認(rèn)為這些由大公司運(yùn)營的協(xié)處理器不會(huì)自動(dòng)通過最簡單的方式被消費(fèi)者所接受，并逐漸成為默認(rèn)解決方案，實(shí)在有點(diǎn)過于理想化了。

這些產(chǎn)品會(huì)非常好，正如 Michael 所說的那樣。因此，你可能會(huì)滑向一個(gè)危險(xiǎn)的坡道，因?yàn)檫@些自然優(yōu)勢，用戶會(huì)傾向于選擇這些產(chǎn)品，即使從社會(huì)層面來看，這些產(chǎn)品并不理想。這是我想補(bǔ)充的一點(diǎn)。

Ben Fielding :?是的，我同意這種發(fā)展趨勢，特別是對用戶而言，僅靠意識形態(tài)理由來推動(dòng)某種產(chǎn)品的采用在大規(guī)模應(yīng)用中并不奏效，這可能只會(huì)吸引一小部分用戶，但不會(huì)廣泛傳播。我的上一家初創(chuàng)公司專注于消費(fèi)者隱私，我非常明確地學(xué)習(xí)到了這個(gè)教訓(xùn)，而且學(xué)得很辛苦。

但回到 Michael 的觀點(diǎn)，當(dāng)你提出另一種選擇的危險(xiǎn)性時(shí)，你的論點(diǎn)是基于當(dāng)前的現(xiàn)實(shí)，但很快就跳到了未來可能發(fā)生的事情。我認(rèn)為，每當(dāng)我們討論 AI 的危險(xiǎn)時(shí)，總是會(huì)涉及它在未來理論上可能做的事情，我們進(jìn)入了一個(gè)無限的可能性空間。如果我們現(xiàn)在考慮這個(gè)系統(tǒng)實(shí)際能做的危險(xiǎn)，而不是未來的假設(shè)能力，這樣的討論會(huì)更有意義。否則，我們會(huì)失去反駁的能力，因?yàn)槿魏慰赡苄远际谴嬖诘摹?/p>

關(guān)于資本主義解決這些負(fù)面影響的問題，我同意，前提是要有審計(jì)性。如果沒有審計(jì)性，如果公司可以在追求利潤的過程中做出對世界有害的事情，而這種行為從未影響到它的利潤，我認(rèn)為作為一個(gè)經(jīng)濟(jì)理性行為者，這家公司可能會(huì)這樣做。因此，我們必須在系統(tǒng)中引入某種審計(jì)機(jī)制，以發(fā)現(xiàn)這些問題。

你可以從政府監(jiān)管的角度來解決這個(gè)問題，或者可以采用另一種方式，即開放開發(fā)某些技術(shù)。我認(rèn)為后者對世界更好，因?yàn)槲覀兛梢栽诓挥绊懝鹃_發(fā)模型能力的情況下實(shí)現(xiàn)審計(jì)性。特別是，當(dāng)模型的價(jià)值并不完全體現(xiàn)在它的架構(gòu)上，而是在其他地方時(shí)，這一點(diǎn)尤為重要。目前我們?nèi)栽谔剿鳈C(jī)器學(xué)習(xí)模型的真正價(jià)值所在。我個(gè)人認(rèn)為，價(jià)值在于分發(fā)能力，但實(shí)際上我們在這個(gè)問題上一直在探索和調(diào)整。我認(rèn)為模型的架構(gòu)本身可以是開放的，但在數(shù)據(jù)和應(yīng)用等其他領(lǐng)域可能存在專有價(jià)值。

Travis Good :?我想插話，補(bǔ)充一下你的觀點(diǎn)，同時(shí)也稍微表達(dá)一下不同的看法。我在做一些筆記，Michael，你首先談到了激勵(lì)機(jī)制以及它們的良好效果。我認(rèn)為普通消費(fèi)者可能會(huì)不同意你的看法。

Cory Doctorow 談到了互聯(lián)網(wǎng)的「大衰退」，任何使用過 Google 的人都知道，與過去相比，它的用戶體驗(yàn)變得很糟糕。對企業(yè)來說，廣告體驗(yàn)也是很差的。衰退發(fā)生在去中介化的參與者，比如 Google ，開始過多地占據(jù)了蛋糕的一部分。我們從對 Google 的訴訟中了解到，它實(shí)際上操控了游戲規(guī)則，使廣告價(jià)格上漲，對用戶提供了很難找到有用結(jié)果的體驗(yàn)。而且，他們對此并沒有受到實(shí)際的懲罰。我們需要更深入地探討原因，或許是因?yàn)楣拘袨榈牟划?dāng)監(jiān)管或缺乏監(jiān)管，可能是因?yàn)閼T性，但最終我們得出的情況遠(yuǎn)未達(dá)到資本主義的最優(yōu)狀態(tài)。

我們實(shí)際上得到了一個(gè)所謂的「寡頭最優(yōu)」?fàn)顟B(tài)，監(jiān)控資本主義者獲得了豐厚的回報(bào)，而幾乎所有其他商業(yè)類型都受到了影響。例如，我不認(rèn)為新聞媒體對 Facebook 多年來的處理方式感到滿意。所以，我認(rèn)為，要了解未來的趨勢，只需看看過去的經(jīng)歷。例如，看看青少年抑郁癥的上升，以及 Facebook 算法的操控，所有這些濫用行為都可以作為借鑒。

Michael Rinko :?我認(rèn)為你提出了一些很好的觀點(diǎn)，Travis，我會(huì)回應(yīng)其中的一些。我們可能只是觀點(diǎn)不同，我對技術(shù)的發(fā)展持非常樂觀的態(tài)度。我認(rèn)為，縱觀人類歷史，技術(shù)的進(jìn)步總體上改善了人們的生活。如果你把一百年前的人帶到今天，他們會(huì)發(fā)現(xiàn)能夠即時(shí)發(fā)送短信、視頻通話、叫車到家門口、點(diǎn)餐送上門，簡直就是純粹的魔法。

所以，雖然青少年抑郁等副作用確實(shí)存在，但這些問題相比技術(shù)帶來的巨大好處，只是一個(gè)小部分。 AI 也不會(huì)例外。此外，關(guān)于未來可能的危險(xiǎn)，我承認(rèn)這確實(shí)是一個(gè)問題。 AI 特別難以理解，即使是頂尖實(shí)驗(yàn)室也無法完全理解為什么模型會(huì)做出某些行為。

而且，如果你看看歷史上那些雙重用途或具有危險(xiǎn)性的技術(shù)，比如原子彈，你可以通過測試來判斷它的危險(xiǎn)性。如果它爆炸了，那顯然是危險(xiǎn)的，不應(yīng)該被釋放；如果不爆炸，那它就不起作用，也不危險(xiǎn)。而對于這些模型，我們無法明確界定它們的作用范圍，所以是否應(yīng)該發(fā)布它們的問題非常模糊。這使得監(jiān)管機(jī)構(gòu)或頂尖專家很難設(shè)定安全措施。我想知道你們對此有何看法。

Travis Good :?Ben，你要先回應(yīng)嗎？

Ben Fielding :?簡單回應(yīng)一下，你提到了樂觀主義，但我們不知道這些技術(shù)將來會(huì)如何呈現(xiàn)自己，所以假設(shè)它們會(huì)帶來負(fù)面的情況。當(dāng)然，樂觀的立場是它們目前沒有負(fù)面影響。我們不知道未來是否會(huì)有不好的結(jié)果，但樂觀地看，應(yīng)該沒問題。然而，當(dāng)涉及到模型本身及其未來的表現(xiàn)時(shí)，樂觀態(tài)度就變得悲觀了。

Tommy :?PD，我也想聽聽你的看法。

Pondering Durian :?對，回到 Travis 的觀點(diǎn)，不可否認(rèn)的是，市場集中度在過去幾十年里急劇上升。消費(fèi)者因?yàn)殡y以找到所需的信息，而需要某種形式的內(nèi)容策劃。這實(shí)際上就是 Ben Thompson 在過去近二十年里所主張的，如果你在線上聚合需求，那么供應(yīng)就會(huì)隨之而來。因此，圍繞這些「圍墻花園」形成了網(wǎng)絡(luò)效應(yīng)，因?yàn)樗鼈兊牟邉澞芰軓?qiáng)。

這些公司通過其特權(quán)位置，形成了數(shù)據(jù)壟斷和現(xiàn)金流壟斷，賦予了它們巨大的市場權(quán)力，隨著時(shí)間的推移，這些權(quán)力逐漸變得更具剝削性，而不是網(wǎng)絡(luò)初期的增長階段。由于 AI 更像是一種延續(xù)性的技術(shù)而非顛覆性技術(shù)，它實(shí)際上進(jìn)一步鞏固了這些市場權(quán)力，除非我們有不同的解決方案。

要成為主導(dǎo)的基礎(chǔ)模型，現(xiàn)在的關(guān)鍵因素是人才、數(shù)據(jù)分布和資本。從主導(dǎo) Web2 時(shí)代產(chǎn)生的網(wǎng)絡(luò)效應(yīng)和用戶來看，這些實(shí)體在 AI 新時(shí)代中處于非常有利的位置?？紤]到計(jì)算成本的高昂和它們所擁有的專有數(shù)據(jù)集，從我的角度來看，雖然這可能不是最理想的社會(huì)狀態(tài)，但這是我們當(dāng)前系統(tǒng)的現(xiàn)實(shí)。

我不認(rèn)為資本主義是壞的，但現(xiàn)在有四五家公司確實(shí)擁有很大的市場權(quán)力。看看 S & P 500 指數(shù)，五家公司占據(jù)了 30% 的份額，而且還在增加，這確實(shí)是一個(gè)問題。在下一代互聯(lián)網(wǎng)中，去中心化的趨勢可能不會(huì)出現(xiàn)，反而會(huì)進(jìn)一步集中。因此，這一點(diǎn)值得關(guān)注，因?yàn)槲覀兯鶆?chuàng)建的系統(tǒng)中確實(shí)存在著推動(dòng)幾家公司擁有大量市場權(quán)力的結(jié)構(gòu)性逆風(fēng)。

Travis Good :?安全性問題經(jīng)常被提到，我不想跳太遠(yuǎn)到未來，但我確實(shí)想指出一些關(guān)于當(dāng)前配置的威脅模型的問題。現(xiàn)在我們有四家公司掌握所有數(shù)據(jù)，未來它們會(huì)擁有更強(qiáng)的 AI 能力。我認(rèn)為這是一個(gè)非常糟糕的威脅模型。

首先，這些公司都曾被黑客入侵。例如，微軟在多次審計(jì)中未能保護(hù)關(guān)鍵的國家安全數(shù)據(jù)，甚至丟失了本應(yīng)無法被盜的硬件密鑰。集中所有數(shù)據(jù)和這些模型的能力，使這些公司成為每個(gè)國家、獨(dú)立黑客組織等的最具吸引力的攻擊目標(biāo)。如果這些權(quán)力更為分散，我們有可信的開源競爭者來執(zhí)行某些功能，這種情況可能會(huì)有所改善。

Michael Rinko :?Travis，我可以插一句嗎？

Travis Good :?當(dāng)然。

Michael Rinko :?你提到當(dāng)前技術(shù)狀態(tài)下的寡頭壟斷，未來的 AI 技術(shù)世界中數(shù)據(jù)集中會(huì)有什么不同？如果這些寡頭繼續(xù)存在，會(huì)有何進(jìn)展？

Travis Good :?讓我具體說明一下。現(xiàn)在 ChatGPT 已經(jīng)集成到各種應(yīng)用中，如 Notion、Evernote、電子表格等。它在許多程序中代表用戶行事的能力意味著數(shù)據(jù)積累量驚人。結(jié)合通過監(jiān)控資本主義獲取的數(shù)據(jù)，所有從手機(jī)、網(wǎng)站 cookies 等處收集的信號，產(chǎn)生了一份詳細(xì)的個(gè)人情報(bào)檔案。這種數(shù)據(jù)集中形成了巨大的國家安全威脅，例如幾年前美國政府的背景調(diào)查提供商被黑客入侵，導(dǎo)致安全清單被盜，這是一場災(zāi)難。

我們從許多內(nèi)部人士那里得知，這些公司的安全性非常糟糕，政府的安全性也很差。如果我們認(rèn)為這是健康的范式，那我們就陷入了一個(gè)非常脆弱的局面。

Tommy :?我覺得目前兩方觀點(diǎn)似乎一方是意識形態(tài)上的，比如加密 AI 更注重消費(fèi)者偏好、隱私和未來的好處。而另一方是現(xiàn)實(shí)主義的，比如中心化 AI 擁有最多的數(shù)據(jù)、硬件和人才，更直觀的使用體驗(yàn)。Ben 或 Travis 能否描述一下如何建立一個(gè)實(shí)際的競爭替代方案？

去中心化 AI 的優(yōu)勢與潛力

Travis Good :?我認(rèn)為這是一個(gè)很好的問題，它涉及到什么是理想的和什么是可能的。因此，我很樂意先嘗試回答一下，然后再交給你，Ben。從可能性角度來看，我認(rèn)為重要的是要注意到，機(jī)器學(xué)習(xí)（ML）并不是一個(gè)嚴(yán)格的科學(xué)領(lǐng)域，實(shí)際上任何人都可以對其做出貢獻(xiàn)，而且已經(jīng)有很多貢獻(xiàn)是對之前范式的相對簡單的改動(dòng)。所以，ML 的進(jìn)入門檻相對較低。

這對未來的開源能力來說是個(gè)好兆頭，因?yàn)殡S著計(jì)算成本越來越低，人們將有能力在更大的規(guī)模上進(jìn)行實(shí)驗(yàn)和創(chuàng)新。我認(rèn)為世界各地的人才將會(huì)在這個(gè)領(lǐng)域中動(dòng)員起來，投身于這項(xiàng)事業(yè)。我還認(rèn)為，許多國家的政府會(huì)意識到，他們希望在新的經(jīng)濟(jì)范式中保持競爭力，因此他們會(huì)資助很多這方面的研究。全球的研究機(jī)構(gòu)也會(huì)集中精力在這個(gè)領(lǐng)域建立能力。

目前我們還沒有完全到達(dá)這一點(diǎn)，我們有一些模型大致接近前幾代模型，但我認(rèn)為未來非常光明，因?yàn)槿澜绲娜瞬艑⒉粌H僅集中在舊金山，而是應(yīng)用于解決這一具有巨大經(jīng)濟(jì)回報(bào)的挑戰(zhàn)。

Tommy :?是的，這非常有幫助。Ben，我想聽聽你的看法，你對 Travis 的想法有什么補(bǔ)充嗎？

Ben Fielding :?我認(rèn)為我們討論的兩種觀點(diǎn)有些模糊，因?yàn)殡p方基本上都在說我們想要的是高水平的正常資本主義行為和競爭。但目前「塔式模型」的發(fā)展方向是，大型模型構(gòu)建者的激勵(lì)機(jī)制是阻止這種競爭發(fā)生。他們不一定希望有那種程度的競爭，ML 底層的資源在很大程度上可以被控制，以阻止過多的競爭發(fā)生。

但正如 Travis 所說， ML 本身并不難。所需的專家知識已經(jīng)被去中心化了，學(xué)術(shù)出版物已經(jīng)實(shí)現(xiàn)了這一點(diǎn)，你可以獲取這些論文，至少在 OpenAI 開始集中研究人員去構(gòu)建模型之前，你可以獲得代碼來實(shí)現(xiàn)這些模型。但接下來你會(huì)遇到數(shù)據(jù)訓(xùn)練模型的瓶頸，這在很大程度上也已經(jīng)被開放了，因?yàn)榛ヂ?lián)網(wǎng)上有大量的開放數(shù)據(jù)，盡管我們可能會(huì)遇到版權(quán)問題，但作為個(gè)體，你仍然可以獲得大量數(shù)據(jù)來訓(xùn)練這些模型。

接下來是計(jì)算資源的限制，計(jì)算資源是更容易被控制的。如果你擁有無限的資源，你可以占有這有限的資源的大部分，并將其鎖定。這些模型構(gòu)建者還擁有最大的云服務(wù)生態(tài)系統(tǒng)，這意味著他們能夠控制資源的供應(yīng)和使用成本。

如果我們展望未來， ML 將成為依賴于電力的東西，最終是電力轉(zhuǎn)換為知識轉(zhuǎn)化。你需要特定的硬件來實(shí)現(xiàn)這一點(diǎn)，所以硬件資源是可以被捕獲的。如果讓這種情況繼續(xù)發(fā)展，大公司將通過捕獲底層資源來控制利潤，這不是我們想要的結(jié)果。

如果是實(shí)際競爭的價(jià)值傳遞到最終用戶，那么讓它變得盡可能開放是好的。但這并不是完全開放的競爭，而是對資源的捕獲和租賃，而這并不是資本主義的良好結(jié)果，我們希望的是實(shí)際的價(jià)值創(chuàng)造。

最終，模型通過使用會(huì)被不斷削弱，這意味著模型本身無法長期保持其競爭優(yōu)勢。我們需要找到其他方式來保持競爭力，比如通過建立生態(tài)系統(tǒng)，讓更多人參與其中，實(shí)際競爭提供價(jià)值的界面，而不是資源的捕獲。這樣， ML 的真正價(jià)值在于用戶層面，提供實(shí)際改善生活的東西，并通過前端競爭推動(dòng)技術(shù)的不斷發(fā)展。這樣，背后可以是一個(gè)完全開放的生態(tài)系統(tǒng)，提供更豐富的競爭和更好的結(jié)果。

Travis Good :?首先，我認(rèn)為 Ben 所說的非常出色，他比我更清晰地表達(dá)了許多觀點(diǎn)。其次，我想從歷史的角度評論一下目前的可能性。我們在 AI 計(jì)算數(shù)據(jù)中心看到的大規(guī)模增長有點(diǎn)像一個(gè)意外的淘金熱。如果 ChatGPT 從未發(fā)布，我們可能不會(huì)看到這種對特定范式的模型訓(xùn)練的關(guān)注。

現(xiàn)在，這已經(jīng)成為范式，大玩家們都被鎖定在這個(gè)模式中。這對他們來說是一個(gè)容易進(jìn)入的模式，因?yàn)橘Y本投入產(chǎn)出相對明確。訓(xùn)練方法和秘密配方相對簡單，問題是，哪些資本主義激勵(lì)機(jī)制可以對抗這種情況。我認(rèn)為，分布式訓(xùn)練或高效訓(xùn)練的形式，能夠利用長尾計(jì)算資源的訓(xùn)練將會(huì)出現(xiàn)，因?yàn)樗鼈兙哂芯薮蟮慕?jīng)濟(jì)價(jià)值。

只要我們能防止 Ben 提到的最壞情況發(fā)生，比如通過監(jiān)管鎖定所有計(jì)算資源，我們就可以期待有開源、對消費(fèi)者友好的分布式訓(xùn)練解決方案的出現(xiàn)。最近，我們已經(jīng)看到了一些巨大的進(jìn)展，比如不需要矩陣乘法的訓(xùn)練技術(shù)，這顯著降低了數(shù)據(jù)共享的需求。還有其他許多論文在繞過當(dāng)前范式的帶寬限制。雖然我們還沒有完全實(shí)現(xiàn)，但我預(yù)計(jì)在一年內(nèi)，我們會(huì)看到三種有力的替代大數(shù)據(jù)中心范式的方案，這將為開源努力增添一些動(dòng)力。

AGI 的發(fā)展路徑辯論

Michael Rinko :?我認(rèn)為你們都提出了非常有說服力的觀點(diǎn)。對我來說，現(xiàn)在的一個(gè)大問題是，規(guī)模法則是否成立？你是看好還是看衰規(guī)模法則？讓我來解釋一下這兩種情況。如果你看好規(guī)模法則，那么你會(huì)盡可能多地積累計(jì)算資源，并希望通過擴(kuò)展這些模型來獲得越來越強(qiáng)大的模型。如果你看衰規(guī)模法則，那么你認(rèn)為在某個(gè)節(jié)點(diǎn)上，計(jì)算和損失之間的關(guān)系會(huì)中斷或至少平穩(wěn)下來。你可能認(rèn)為這些模型可以被簡化，或者你認(rèn)為當(dāng)前的深度學(xué)習(xí)范式是錯(cuò)誤的，AGI（通用人工智能）將來自于一種與當(dāng)前模型完全不同的方法。

我沒有非常明確的看法，但在我看來，有兩種截然不同的陣營。 Open AI 和 Anthropic 以及 Google 是規(guī)模法則的堅(jiān)定支持者，自從 GPT -3 論文發(fā)表后，這些公司一直在盡可能多地積累計(jì)算資源，認(rèn)為規(guī)模是通向 AGI 的關(guān)鍵。而另一邊，包括許多加密 AI 領(lǐng)域的人和 Meta 的頂級研究人員則認(rèn)為， LLM （大型語言模型）不會(huì)帶來 AGI ，我們需要新的方法。你們怎么看待這個(gè)問題？因?yàn)槿绻_實(shí)是規(guī)模和計(jì)算資源決定一切，那么我不知道如何擊敗那些大公司。所以我們似乎都暗中下注，僅靠擴(kuò)展模型無法解決問題，因?yàn)槟菢游覀兙瓦M(jìn)入了一個(gè)無法贏得的資源競賽。

Ben Fielding :?我不認(rèn)為規(guī)模的問題只指向中心化的方法。我認(rèn)為，這里有一個(gè)不同的轉(zhuǎn)折。你想一想規(guī)模，意味著什么？我能否在一定數(shù)量的設(shè)備上創(chuàng)建模型，我能否創(chuàng)造更多的設(shè)備并在其上創(chuàng)建模型？我們目前處于一個(gè)蠻力擴(kuò)展的范式，即以最中心化、最容易建模的方式投入計(jì)算資源，我們獲得了快速的勝利，展示了可能性。這就像是機(jī)器學(xué)習(xí)的尖端，讓世界意識到類似 ChatGPT 這樣的東西實(shí)際上是可能的。但接下來會(huì)發(fā)生什么呢？一旦證明了這一點(diǎn)，接下來會(huì)有一波改進(jìn)浪潮。這已經(jīng)不再是一個(gè)研究問題，而是一個(gè)執(zhí)行、工程、性能優(yōu)化的問題。因此，后續(xù)會(huì)有一個(gè)巨大的浪潮，將這些模型商品化、縮小、量化、壓縮、稀疏化，使其運(yùn)行得更快、更容易。

你需要有實(shí)際的證據(jù)來證明這是可能的，需要大量的計(jì)算資源來實(shí)現(xiàn)這種可能性。但隨后所有的產(chǎn)品都可以以不同的方式，更小的方式構(gòu)建。蠻力的方法本身已經(jīng)開始碰壁。

Michael Rinko :?為什么會(huì)碰壁？

Ben Fielding :?數(shù)據(jù)中心空間和足夠多的設(shè)備互聯(lián)規(guī)模變得越來越困難。我曾認(rèn)為這是資金問題，你需要越來越多的錢來實(shí)現(xiàn)這一點(diǎn)。我曾經(jīng)向 Meta 的一位高管提到這一點(diǎn)，他笑著說，基本上我們有無限的資金，不是資金問題，而是地理位置的問題。地球上沒有那么多地方可以建造能夠維持這種規(guī)?；ミB設(shè)備的數(shù)據(jù)中心，這使得超大規(guī)模的數(shù)據(jù)中心轉(zhuǎn)向了水平擴(kuò)展的路線。

現(xiàn)在你會(huì)看到一波論文說，嘿，其實(shí)我們可以做多節(jié)點(diǎn)、多數(shù)據(jù)中心建模。試想一下，這意味著什么？谷歌可以在三個(gè)數(shù)據(jù)中心上進(jìn)行這種建模，但如果有人能在四個(gè)、五個(gè)數(shù)據(jù)中心上進(jìn)行建模呢？最終，這種擴(kuò)展的極限是將全球所有的設(shè)備連接起來，這需要跨公司合作。所以，單個(gè)公司與其他所有公司競爭是不可能勝出的。如果你能建立一個(gè)讓這種連接發(fā)生的層，那將是最終的擴(kuò)展勝利。

Michael Rinko :?我明白了。我想確保我理解這一點(diǎn)，因?yàn)檫@是一個(gè)重要的問題。你是說我們不能讓數(shù)據(jù)中心比現(xiàn)在更大，還是說我們不能在一般情況下建造更多的數(shù)據(jù)中心，因?yàn)殡娏Σ蛔慊蛘咂渌颍?/p>

Ben Fielding :?不是不能建造更多的數(shù)據(jù)中心，而是會(huì)有遞減效益。找到能夠支持所需電力和冷卻需求的地理位置，符合當(dāng)?shù)卦胍舴ㄒ?guī)，并能容納足夠多設(shè)備的地點(diǎn)變得越來越難。這導(dǎo)致超大規(guī)模公司在爭奪地球上剩余的適合地點(diǎn)。某種程度上，這會(huì)有一個(gè)邏輯終點(diǎn)。

如果你能激勵(lì)人們在世界各地建造這些數(shù)據(jù)中心，而不僅僅是在單一地點(diǎn)，那么你就可以將這些設(shè)備連接起來，創(chuàng)建一個(gè)更大的集群。這會(huì)帶來一些負(fù)面影響，比如這些分布更廣的小型集群之間的通信速度較慢，但這不是一個(gè)不可逾越的問題，而是一個(gè)我們可以通過工程手段解決的問題。我們有豐富的互聯(lián)網(wǎng)歷史來克服這些問題，比如延遲問題和分布式系統(tǒng)工作。

Travis Good :?我認(rèn)為這個(gè)問題有兩個(gè)答案，Ben 提供了其中之一，我有一個(gè)可能你不同意的觀點(diǎn)。我認(rèn)為一個(gè)答案是，大公司將不得不轉(zhuǎn)向更分布式的范式，以實(shí)現(xiàn)規(guī)?；＿@將減慢它們的速度，因?yàn)樗鼈儸F(xiàn)在處于錯(cuò)誤的范式中。當(dāng)前的范式成本高昂且難以達(dá)到超大規(guī)模，他們必須在某個(gè)節(jié)點(diǎn)上進(jìn)行轉(zhuǎn)變，而這種轉(zhuǎn)變對他們來說是非常昂貴的。

另一個(gè)問題是，即使我們解決了這個(gè)問題，并且可以無限制地?cái)U(kuò)大規(guī)模，模型能力是否會(huì)達(dá)到一個(gè)平臺期？這是一個(gè)關(guān)于模型能力與資源的關(guān)系的問題。我認(rèn)為這個(gè)問題與模型的對齊有關(guān)。以安全關(guān)鍵應(yīng)用為例，黃金標(biāo)準(zhǔn)是形式化驗(yàn)證系統(tǒng)，即你必須數(shù)學(xué)證明系統(tǒng)在特定條件下的行為。這在大型語言模型中是非常困難的，因?yàn)槊看闻c模型交互都會(huì)創(chuàng)建一個(gè)功能上不同的路徑。

我認(rèn)為擴(kuò)展本身不會(huì)停止，但我們成功管理和部署這些模型的能力會(huì)在模型性能下降之前就開始下降。我認(rèn)為我們已經(jīng)到了這個(gè)節(jié)點(diǎn)。

Michael Rinko :?我們現(xiàn)在不理解模型為什么會(huì)輸出某些結(jié)果。

Ben Fielding :?我們在技術(shù)上遇到了這個(gè)問題，我們正逐步進(jìn)入一個(gè)概率世界。自動(dòng)駕駛汽車是一個(gè)很好的例子，我們知道它們在統(tǒng)計(jì)上比人類駕駛更安全。但因?yàn)樗鼈兪歉怕市缘?，我們在接受它們?huì)做出安全選擇時(shí)存在社會(huì)障礙。我們需要從形式化的邏輯轉(zhuǎn)向概率性的邏輯，從整體上看，這對人類是有利的。

Travis Good :?我認(rèn)為這是一個(gè)非常合理的觀點(diǎn)，但我想補(bǔ)充一點(diǎn)，就是在接受這些主張的情況下，如果 AGI 可能會(huì)做出極其危險(xiǎn)的事情，那么一個(gè)錯(cuò)誤可能會(huì)對文明造成災(zāi)難性的后果。問題是，如果我想部署一個(gè)系統(tǒng)，而有 30% 的可能性因?yàn)槲矣羞@個(gè)無限的 API 攻擊面，這個(gè)系統(tǒng)會(huì)對文明造成災(zāi)難性的壞結(jié)果，我能按照你的模型部署它嗎？我的答案是絕對不行，然后整個(gè)發(fā)展曲線會(huì)在大家嘗試做基礎(chǔ)研究，找出如何實(shí)現(xiàn)超對齊之前停滯一段時(shí)間。這是我的思維模型。

Ben Fielding :?這需要假設(shè)可能會(huì)發(fā)生一些巨大的負(fù)面結(jié)果。目前沒有實(shí)際的例子表明模型現(xiàn)在能夠做什么。例子總是說，如果模型將來能夠做什么。這總是一個(gè)可能性，這是概率模型的特點(diǎn)。我們需要接受一個(gè)事實(shí)，即可能會(huì)有非常高影響、但概率非常低的負(fù)面結(jié)果，作為人類，我們在與世界互動(dòng)時(shí)本來就是在處理概率問題。我們需要從更加命令式的技術(shù)轉(zhuǎn)向概率性的技術(shù)。

Pondering Durian :?我感覺這個(gè)話題很快會(huì)陷入 AGI 和超對齊的討論。因此，回到封閉與開放的問題上來。

Tommy :?感謝你把話題拉回到正軌。

Pondering Durian :?我的觀點(diǎn)是，目前資本市場和超大規(guī)模公司之間存在一個(gè)反身循環(huán)。它們獲得了很多廉價(jià)資金，顯然它們有 4000 億美元的資產(chǎn)負(fù)債表，產(chǎn)生了 1.5% 的 GDP 現(xiàn)金流，預(yù)計(jì)將花費(fèi) 1 萬億美元在資本支出上。所以它們確實(shí)有很大的火力去追求 Michael 所說的規(guī)模法則。大問題是，是否有足夠的收入來證明持續(xù)投資的合理性？每一代模型帶來的最大價(jià)值捕獲，以及它們能否從企業(yè)和初創(chuàng)公司中獲得下一個(gè) 1000 億的收入，因?yàn)檫@些公司使用并依賴于它們的模型。如果不能，人們就會(huì)停止為它們提供資金，Google、Amazon 和 Facebook 都會(huì)受到嚴(yán)重打擊，它們將無法建立那些 1000 億的集群。

我認(rèn)為這里的金融限制是關(guān)鍵問題。所以問題在于這些集中模型的資本支出能否得到回報(bào)。這涉及到大型基礎(chǔ)模型的最終護(hù)城河是什么，以及這些分布式系統(tǒng)能多快趕上或這些分布式訓(xùn)練運(yùn)行能多快趕上，還有在非常高端領(lǐng)域的價(jià)值捕獲有多少與被商品化的部分相比。我想聽聽 Ben 和 Travis 對此問題的看法，因?yàn)閷ξ襾碚f，這似乎是我們正在處理的算法，即這些大規(guī)模前期投資的回報(bào)能帶它們走多遠(yuǎn)，涉及到規(guī)模法則的問題。

經(jīng)濟(jì)價(jià)值捕捉與分配

Travis Good :?我可以快速回答。我認(rèn)為這是一個(gè)雪球模型。我曾向你們大多數(shù)人表達(dá)過我的觀點(diǎn)，即我認(rèn)為 AI 是一種經(jīng)濟(jì)替代技術(shù)?；旧希珹I 模型越強(qiáng)大，它們替代的經(jīng)濟(jì)工作越多，它們就越有價(jià)值。回到 PD 的觀點(diǎn)，問題是是否會(huì)有一個(gè)時(shí)刻，人們認(rèn)為這個(gè)雪球不會(huì)繼續(xù)滾動(dòng)下去，人們會(huì)膽怯，不愿意再投入更多資本支出，因?yàn)樗麄冋J(rèn)為已經(jīng)達(dá)到了回報(bào)遞減的點(diǎn)。我實(shí)際上認(rèn)為這個(gè)時(shí)刻可能是當(dāng)我們遇到真正的對齊問題時(shí)，因?yàn)槲覀儗?shí)際上沒有一個(gè)好的機(jī)器學(xué)習(xí)理論來解決這些問題。

然后我想評論一下開放和封閉源代碼的事情。我實(shí)際上認(rèn)為在一個(gè)安全研究是公開的世界中， AI 的經(jīng)濟(jì)價(jià)值會(huì)更高。因?yàn)檫@減少了任何人對安全研究的現(xiàn)狀不知情的風(fēng)險(xiǎn)，也減少了國家和機(jī)構(gòu)沒有采取正確保護(hù)措施的風(fēng)險(xiǎn)。讓這些信息盡可能廣泛地傳播對每個(gè)人都有利。

Michael Rinko :?那么我們能否將你剛才所說的與核彈競賽相比？你會(huì)希望當(dāng)時(shí)的基礎(chǔ)研究是開源的、廣泛傳播的嗎？當(dāng)時(shí)有一種觀點(diǎn)，甚至一些頂級科學(xué)家認(rèn)為，如果每個(gè)人都知道最新的研究狀態(tài)，那么這會(huì)像是一種相互確保摧毀的局面，我們都會(huì)擁有同樣的東西，都會(huì)同時(shí)把槍口對準(zhǔn)對方，這會(huì)帶來最安全的世界。而另一方則認(rèn)為我們需要先行一步，我們需要先到達(dá)終點(diǎn)，然后把大槍對準(zhǔn)對方，這樣無論對方做什么，我們都能取得勝利。我實(shí)際上認(rèn)為這是一個(gè)很好的類比，它可能不是完美的，但在目前的 AGI 競賽中，這是一個(gè)很好的對比。

Travis Good :?我很高興你問這個(gè)問題，因?yàn)槲覍?shí)際上認(rèn)為這是一個(gè)絕對錯(cuò)誤的類比。讓我解釋一下。首先，我們需要從歷史上看實(shí)際發(fā)生了什么。我們認(rèn)為我們有一條通往軍事優(yōu)勢和統(tǒng)治地位的路線，但現(xiàn)實(shí)是這些技術(shù)幾乎立即泄露了。我們可能有這種完全改變權(quán)力平衡的愿望，但現(xiàn)實(shí)卻重新建立了權(quán)力平衡。所以我會(huì)問那些追求這種策略的人，是否真的認(rèn)為這是一個(gè)現(xiàn)實(shí)的目標(biāo)。

其次，機(jī)器學(xué)習(xí)研究的性質(zhì)與物理研究如此根本不同，以至于這個(gè)類比完全站不住腳。具體來說，我認(rèn)為有兩種范式可以看：一種是機(jī)構(gòu)范式，即你可以控制一小部分合格的科學(xué)家，這可以由國家控制。另一種是網(wǎng)絡(luò)連接范式，即你有一個(gè)極其廣泛分布的知識基礎(chǔ)，進(jìn)入這個(gè)領(lǐng)域所需的技能門檻相對較低，只要你給他們計(jì)算資源，世界各地有很多人都可以參與。因此，從網(wǎng)絡(luò)分析的角度來看，試圖在機(jī)器學(xué)習(xí)上實(shí)施機(jī)構(gòu)模型的想法是完全可笑的。如果你遵循這種政策，你實(shí)際上是在將所有美國的機(jī)器學(xué)習(xí)研究鎖定三年，這對公眾獲取經(jīng)濟(jì)利益是巨大的損失，然后四年后，或者甚至更快，這些技術(shù)會(huì)被外國政府偷走。所以你會(huì)進(jìn)行很多安全措施，但不會(huì)帶來任何好處。

Ben Fielding :?僅從核武器的例子來看，我們最終達(dá)到了相互確保摧毀的狀態(tài)。你假設(shè)開放的方式會(huì)不利，但實(shí)際上如果是開放的，我們可能會(huì)在沒有使用這些技術(shù)的情況下實(shí)現(xiàn)相互確保摧毀。是否需要有一個(gè)證明點(diǎn)來展示這一優(yōu)勢？或者我們是否可以跳過中間的階段，直接達(dá)到相互確保摧毀的狀態(tài)，而不需要經(jīng)歷對世界非常有害的中間過程？

Michael Rinko :?我認(rèn)為你們都提出了很好的觀點(diǎn)。我同意核武器的出現(xiàn)直接促成了長期和平時(shí)期。自二戰(zhàn)以來，我們避免了大規(guī)模戰(zhàn)爭，很大程度上是因?yàn)楝F(xiàn)在可以摧毀整個(gè)國家。我認(rèn)為這是一個(gè)有用的威懾力量，現(xiàn)在多方擁有這種力量。你可以說，如果每個(gè)人都有 AGI，那么這將帶來最安全的世界。但我認(rèn)為這不是一個(gè)教訓(xùn)。如果我們回到核武器，如果你把這種邏輯延伸出去，你希望每個(gè)國家都有核武器嗎？你希望哈馬斯現(xiàn)在有核武器嗎？你希望阿富汗的塔利班擁有核武器嗎？

歷史上有許多危險(xiǎn)時(shí)刻，例如有一個(gè)俄羅斯?jié)撏系能姽?，他認(rèn)為第三次世界大戰(zhàn)已經(jīng)爆發(fā)，他有權(quán)決定是否向美國發(fā)射核彈。他決定不發(fā)射。這只是一個(gè)人，但如果你把這種能力擴(kuò)展到許多人，按下按鈕的幾率就會(huì)增加。所以，我認(rèn)為核武器的一個(gè)救贖之處在于它們真的很難制造。我同意你的觀點(diǎn)， Travis ，這些模型并不難制造。所以我認(rèn)為這個(gè)類比在某些方面是有問題的，但總體來說，你仍然希望限制這些超級強(qiáng)大的、潛在破壞性的技術(shù)，只讓少數(shù)人掌握。

Travis Good :?我同意你的觀點(diǎn)。

Pondering Durian :?或者你只需要確保自己保持領(lǐng)先，對吧？無論是軍事能力還是網(wǎng)絡(luò)能力，總是會(huì)有潛在的攻擊向量，但如果你能保持領(lǐng)先一步，那么你就能應(yīng)對這些威脅。比如哈馬斯發(fā)射了那些火箭，但以色列有鐵穹防御系統(tǒng)。威脅模型在不斷演變，但防御也在不斷進(jìn)步。此外，我認(rèn)為世界的富裕程度與戰(zhàn)爭意愿之間存在相關(guān)性。富裕的人通常對戰(zhàn)爭或破壞的興趣較小。富裕的民主國家之間從未發(fā)生過戰(zhàn)爭。這既有意識形態(tài)的原因，也有富裕的原因。如果 AI 的好處能夠有效地滲透到全球經(jīng)濟(jì)中，并且這些好處不只歸于微軟的股東，那么我們實(shí)際上可以有一個(gè)很好的結(jié)果，但這確實(shí)是一個(gè)非常難以把握的平衡點(diǎn)。我同意存在許多威脅，情況可能會(huì)完全出錯(cuò)，但我也認(rèn)為，總體來說，讓這種技術(shù)在良好的管理下傳播是最優(yōu)的結(jié)果。

Ben Fielding :?聽起來我們都同意這一點(diǎn)，因?yàn)樵谶@種觀點(diǎn)下，國家最優(yōu)的做法就是重金投資這一領(lǐng)域，與其他國家一起保持領(lǐng)先。國家需要通過資助技術(shù)和努力來保持領(lǐng)先，而不是通過拉后腿。這通常是國防研究的做法，投入大量資金探索下一代前沿技術(shù)，這通常是有益的。

Michael Rinko :?現(xiàn)在商業(yè)領(lǐng)域遠(yuǎn)遠(yuǎn)領(lǐng)先于政府，這種情況如何運(yùn)作？

Travis Good :?這里有兩件事，我認(rèn)為我們需要理清。對于我來說，這也是為什么我在談?wù)?AGI 時(shí)總是有點(diǎn)激動(dòng)，因?yàn)槲艺J(rèn)為 AGI 主要是一個(gè)經(jīng)濟(jì)范式，是勞動(dòng)力替代技術(shù)。它有一些軍事應(yīng)用。

Michael Rinko :?但軍事是世界上最大的「公司」。他們雇用了比任何公司更多的人，所以顯然存在雙重用途。

Travis Good :?我同意存在雙重用途，但每當(dāng)你考慮關(guān)閉這樣的技術(shù)時(shí)，你必須考慮其硬實(shí)力和軟實(shí)力的方面。讓我給你設(shè)想一個(gè)場景，讓你思考一下其影響。如果我們完全鎖定 AGI，只讓軍方使用，否認(rèn)所有人經(jīng)濟(jì)利益，我們實(shí)際上會(huì)失去在經(jīng)濟(jì)上的競爭力。我們的軍事實(shí)力取決于我們的經(jīng)濟(jì)能力。如果我們債務(wù)纏身，或者在利用 AGI 技術(shù)上遠(yuǎn)遠(yuǎn)落后于其他國家，我們實(shí)際上會(huì)輸?shù)羧魏螒?zhàn)爭。最終，一個(gè)同時(shí)研究軍事應(yīng)用并在更廣泛經(jīng)濟(jì)中部署的國家會(huì)勝出。

Michael Rinko :?我同意這個(gè)結(jié)論。我也許對 AI 或 AGI 有不同的看法，對我來說，我們在構(gòu)建的是智能，智能是所有事物的輸入。如果你有無限的智能，就像電力一樣，你不知道你會(huì)用它做什么，它只是一種世界上的力量。認(rèn)為 AI 不會(huì)有雙重用途是瘋狂的，政府肯定會(huì)對此感興趣，而且已經(jīng)在關(guān)注。回到 PD 最初的問題，關(guān)于這些模型的收入能否趕上支出，我認(rèn)為更重要的是關(guān)注能力是否會(huì)達(dá)到平臺期。只要這些前沿實(shí)驗(yàn)室，比如 OpenAI，每年都能推出更先進(jìn)的模型，炒作繼續(xù)，收入就會(huì)趕上。我們已經(jīng)看到，有報(bào)道稱 OpenAI 現(xiàn)在的年收入達(dá)到了 20-30 億美元，這是一個(gè)前所未有的增長。但最終，政府會(huì)介入并直接資助這些實(shí)驗(yàn)室，因?yàn)檫@將成為一個(gè)國家安全問題。政府不會(huì)關(guān)注收入，而是關(guān)注模型的能力，因?yàn)檫@是國家安全的角度。

Pondering Durian :?但這是一個(gè)不同的論點(diǎn)。我們討論的是市場力量。如果你認(rèn)為政府會(huì)介入，那么整個(gè)動(dòng)態(tài)就會(huì)改變，資本市場的動(dòng)態(tài)實(shí)際上會(huì)被拋到一邊。你可以向任何用戶征稅，并將其用于軍事應(yīng)用。但我的觀點(diǎn)是，這不是關(guān)于能力的問題，而是關(guān)于相對于更便宜的選擇的能力問題。如果我是投資者，我不會(huì)繼續(xù)向 OpenAI 和微軟投入 1000 億、1 萬億去追求下一代模型。如果他們沒有捕獲任何價(jià)值，那么投資者不會(huì)這樣做。所以我的觀點(diǎn)是，能力問題不是絕對的，而是相對的。與其他所有人的能力相比，以及實(shí)現(xiàn)這些能力所需的成本問題。

Ben Fielding :?我認(rèn)為護(hù)城河的問題是很多大型 AI 公司面臨的一個(gè)重要問題。我們看著 OpenAI 試圖找出他們的護(hù)城河，他們似乎仍在摸索中。是這個(gè)生態(tài)系統(tǒng)嗎？是 ChatGPT 嗎？很可能不是。是他們建立生態(tài)系統(tǒng)的能力嗎？可能是。我認(rèn)為這是一個(gè)推動(dòng)盈利公司的戰(zhàn)略角度走向開放的機(jī)制，這也是 Meta 在做的事情。

Meta 認(rèn)識到他們的護(hù)城河是他們將這些模型分發(fā)給用戶的能力。他們能夠?qū)⑦@些模型應(yīng)用于實(shí)際的現(xiàn)實(shí)世界中，而不僅僅是試圖從模型本身賺錢。所以他們驅(qū)動(dòng)開源模型，不是出于利他主義，而是為了實(shí)際的戰(zhàn)略收益。 Meta 通過將模型商品化來補(bǔ)充他們的產(chǎn)品，即使他們是唯一擁有社交網(wǎng)絡(luò)分發(fā)能力的人。這推動(dòng)了技術(shù)本身的開放，但也允許 Meta 繼續(xù)捕獲其他資源。

我們看到的趨勢是，真正重要的是實(shí)際的分發(fā)能力。 OpenAI 將試圖提供利用智能進(jìn)行分發(fā)的軟件，但很快，所有擁有分發(fā)能力的公司都會(huì)想要脫離 OpenAI 。如果技術(shù)本身沒有真正的護(hù)城河，他們會(huì)被驅(qū)使這樣做。賺的錢越多，他們就越會(huì)想把這些帶入內(nèi)部。而阻止這一切發(fā)生的，除了捕獲底層資源，比如計(jì)算資源或監(jiān)管角度之外，似乎并不多。

Pondering Durian :?Ben，我覺得你之前說的一點(diǎn)我很同意，也很正確，即這是一個(gè)分發(fā)游戲。不幸的現(xiàn)實(shí)是，這五六家公司已經(jīng)在分發(fā)上贏了。我們實(shí)際上在思考如何提供一個(gè)基礎(chǔ)設(shè)施層。但如果你認(rèn)為分發(fā)是最終的護(hù)城河，那么你是否實(shí)際上在同意我的觀點(diǎn)？

Travis Good :?我有一個(gè)答案，如果你不介意，Ben。我認(rèn)為我們必須引入一個(gè)社會(huì)摩擦的模型。你必須考慮當(dāng) OpenAI 采取行動(dòng)時(shí)會(huì)發(fā)生什么。以醫(yī)療編碼員為例，他們聽醫(yī)生的記錄，查看文件，然后找出適當(dāng)?shù)谋ｋU(xiǎn)編碼。這是一項(xiàng)乏味的工作，但如果你的工作效率高，能賺很多錢。假設(shè) OpenAI 進(jìn)入并突然將整個(gè)醫(yī)療編碼領(lǐng)域收購了，這是可能的，他們有很好的模型，無限關(guān)注的模型可能比人更擅長這項(xiàng)工作。那么，當(dāng)整個(gè)職業(yè)消失時(shí)，社會(huì)會(huì)發(fā)生什么？人們會(huì)對這些公司非常敵視，這會(huì)損害它們的分發(fā)。人們會(huì)尋找替代品，因?yàn)槊總€(gè)人都在考慮自己的護(hù)城河，他們會(huì)開始計(jì)算，如果我把所有的數(shù)據(jù)和工作流程都交給 OpenAI，明天我的商業(yè)模式可能會(huì)變成他們的商業(yè)模式。

Pondering Durian :?但 Travis，每個(gè)人仍然使用 Amazon，每個(gè)人仍然使用 Facebook，每個(gè)人仍然使用 Google。這就是問題所在。我同意你的觀點(diǎn)，但消費(fèi)者不在乎，因?yàn)?Amazon 給他們提供了最便宜的產(chǎn)品。

Ben Fielding :?你的意思是創(chuàng)新者的窘境作為一個(gè)概念已經(jīng)不存在了嗎？因?yàn)檫@意味著這些公司將永遠(yuǎn)保持領(lǐng)先地位。

Pondering Durian :?不，我只是不清楚系統(tǒng)如何改變。目前看來，AI 似乎只是讓現(xiàn)有公司的產(chǎn)品和分發(fā)更好，Meta 可以增強(qiáng)他們的產(chǎn)品，Google 也可以增強(qiáng)他們的產(chǎn)品。

Travis Good :?讓我從不同的角度來談?wù)勥@個(gè)問題。想象一下，現(xiàn)在的公司非常低效，因?yàn)樗鼈兪菫榱私M織人類而配置的。但未來的公司將被配置為組織代理，即小團(tuán)隊(duì)和大量代理。因此，有一個(gè)論點(diǎn)是，大型玩家實(shí)際上是過時(shí)的。如果將 AI 技術(shù)賦予那些能夠正確組織的較小、更靈活的公司，他們將勝出。

Pondering Durian :?我完全同意，這是一個(gè)非常有趣的范式。但事實(shí)是那些最終更靈活的玩家贏得了勝利嗎？還是說大公司擁有現(xiàn)有的現(xiàn)金流和分發(fā)能力，它們會(huì)大幅縮減員工。因此，這可能就是創(chuàng)新者的窘境，縮減員工規(guī)模或減少員工數(shù)量是不可行的，所以新玩家會(huì)出現(xiàn)，帶來創(chuàng)造力和代理人以及人類的結(jié)合。但現(xiàn)實(shí)中，我認(rèn)為你會(huì)遇到一些社會(huì)約束，比如價(jià)值的捕獲和分配。

Michael Rinko :?我認(rèn)為我們現(xiàn)在在進(jìn)行一段非常有趣的討論。我認(rèn)為重要的是要思考誰能持續(xù)推動(dòng)這個(gè)飛輪，誰能不斷獲取資金并投入計(jì)算，支付頂級研究人員并保持飛輪運(yùn)轉(zhuǎn)。我有一些想法，想聽聽你們的看法。Ben，我認(rèn)為 Meta 的例子非常有趣，我認(rèn)為 Meta 實(shí)際上是一個(gè)很好的例子，說明收入的重要性。Meta 投入大量資金訓(xùn)練這些模型，然后免費(fèi)贈(zèng)送。他們花費(fèi)了數(shù)百萬美元，然后免費(fèi)給你使用，不收取一分錢。我認(rèn)為在某個(gè)節(jié)點(diǎn)，如果你使用 API 達(dá)到一定次數(shù)，他們會(huì)收費(fèi)，但一開始是完全免費(fèi)的。他們現(xiàn)在沒有從中賺到任何錢。

Pondering Durian :?但 Michael，這不是慈善，他們這樣做是因?yàn)樗麄儾幌胍蕾?Google 和 Apple。Mark 已經(jīng)被 ATT 燒過一次，他不想再經(jīng)歷那樣的事情。

Michael Rinko :?我理解這個(gè)賭注，但這是一個(gè)大賭注，因?yàn)樗麄冞€沒有從中賺到任何錢。

Ben Fielding :?這通過 API 應(yīng)用于 Meta 的產(chǎn)品中。

去中心化 AI 和加密的潛在顛覆

Pondering Durian :?是的，但他們?nèi)绾螐闹匈嶅X？Michael，你實(shí)際上在支持我的觀點(diǎn)，模型正在被商品化。如果 Meta 投入數(shù)百億美元，那么這對 OpenAI 的商業(yè)模式意味著什么？

Michael Rinko :?這正是我的觀點(diǎn)，我認(rèn)為他們在玩不同的游戲。Meta 在免費(fèi)提供模型，OpenAI 在構(gòu)建領(lǐng)先的封閉式前沿模型。Meta 免費(fèi)提供模型，OpenAI 可以去藥物研發(fā)實(shí)驗(yàn)室說，我們將為你們運(yùn)行一個(gè)月的推理來合成某種藥物，我們有世界上最好的模型，具有最佳推理能力、X、Y 和 Z 功能，最具代理能力，無論時(shí)下的流行是什么。那個(gè)藥物研發(fā)公司會(huì)支付 OpenAI 任何要求的費(fèi)用。這是一個(gè)完全不同的商業(yè)模式，而不是通過社交媒體平臺賣廣告來彌補(bǔ)成本。

Pondering Durian :?我同意，但這取決于 OpenAI 能否繼續(xù)領(lǐng)先于 Meta 和所有其他玩家。如果 Meta 也投入 200 億美元進(jìn)行下一代研發(fā)，并從 OpenAI 那里雇傭大量研究人員，然后免費(fèi)提供這些模型，那么 OpenAI 想要收費(fèi)的任何東西都會(huì)被拋到一邊。所以，我不是說 OpenAI 不能成為一個(gè)偉大的企業(yè)，我只是說他們確實(shí)有商品化的風(fēng)險(xiǎn)，這取決于他們是否能繼續(xù)保持領(lǐng)先。

Michael Rinko :?他們兩年前訓(xùn)練了 GPT-4，它至今仍是世界上最強(qiáng)大的模型之一。所以在我看來，他們領(lǐng)先了兩年。

Travis Good :?我對此有點(diǎn)異議。GPT-4 有很多次發(fā)布，實(shí)際上，當(dāng)前的模型已經(jīng)超過了最初發(fā)布的 GPT-4。這就是封閉模型的問題所在。這些公司聲稱它們是同一個(gè)模型，但實(shí)際上它們并不是，而且可以在不通知的情況下進(jìn)行更改。所以如果你依賴這些模型保持不變，你會(huì)有麻煩。

Michael Rinko :?我的理解是，GPT-4 在兩年前完成了預(yù)訓(xùn)練，基本上讀完了互聯(lián)網(wǎng)上的所有內(nèi)容。從那時(shí)起，他們一直在進(jìn)行迭代后訓(xùn)練，提高了性能。但對我來說，令人驚訝的是，基礎(chǔ)模型在兩年前就已經(jīng)完成了訓(xùn)練，并且至今仍能與當(dāng)今的最先進(jìn)模型競爭，這表明他們確實(shí)領(lǐng)先。

Pondering Durian :?我同意這一點(diǎn)。我的觀點(diǎn)是，除了人才和計(jì)算資源的獲取之外，沒有其他天然的護(hù)城河。在 Web 2.0 時(shí)代，你可以從網(wǎng)絡(luò)效應(yīng)中受益，即使你的執(zhí)行力很差，比如 Twitter，你仍然會(huì)不斷獲得用戶并擁有強(qiáng)大的動(dòng)力法則。但你所描述的世界將要求 OpenAI 繼續(xù)以超級激進(jìn)的方式投資，以保持其領(lǐng)先地位，這既包括他們的人才，也包括他們的計(jì)算資源，這也是為什么他們不得不去找微軟和蘋果做交易。所以，我認(rèn)為他們可以保持領(lǐng)先，但這比 Web 2.0 時(shí)代要困難得多，因?yàn)槟菚r(shí)有一些天然的護(hù)城河。

Ben Fielding :?我覺得這歸結(jié)于具體的用例。我們談?wù)摲职l(fā)是護(hù)城河，但分發(fā)不僅僅是用戶的訪問，還包括具體的用例。我們談到 OpenAI，他們可以將 GPT-4 應(yīng)用于藥物發(fā)現(xiàn)領(lǐng)域。但實(shí)際上，人們多年來一直在將機(jī)器學(xué)習(xí)應(yīng)用于藥物發(fā)現(xiàn)領(lǐng)域。具體從事這項(xiàng)工作的公司，GPT-4 要超過這些專門為藥物發(fā)現(xiàn)設(shè)計(jì)模型的公司的想法是不現(xiàn)實(shí)的。這顯示了它是一個(gè)很好的營銷工具，意味著 OpenAI 可能會(huì)獲得一些合同。但例如 Isomorphic Labs，Demis 專門為此進(jìn)行的嘗試，可能更有可能直接針對藥物發(fā)現(xiàn)用例，而不是 OpenAI 這種似乎想涉足所有潛在用例的公司，他們會(huì)被那些專門針對這些市場的公司擊敗。

Michael Rinko :?我覺得這是一個(gè)很有趣的問題。你們怎么看待未來人工智能的發(fā)展？最通用的智能形式會(huì)贏嗎？還是像 Ben 所說的，專注于特定用例的更小、更專門的模型在這些特定用例中獲勝，而通用模型在這些特定領(lǐng)域表現(xiàn)一般，專用模型在特定事情上表現(xiàn)非常好？

加密在 AI 中的獨(dú)特優(yōu)勢

Ben Fielding :?我持有一種相當(dāng)懷疑的觀點(diǎn)。歸根結(jié)底，這只是一個(gè)可以在特定領(lǐng)域應(yīng)用的技術(shù)，就像一個(gè)數(shù)據(jù)訪問工具。你可以把模型看作是一種極其高效的信息壓縮方式，它在許多領(lǐng)域都非常有效，并且可以在語言模型和通用智能等方面展現(xiàn)出邏輯功能。

在我看來，通用智能部分實(shí)際上是其下的一個(gè)路由機(jī)制。這只是一個(gè)更好的與世界數(shù)據(jù)交互的方式。我認(rèn)為你可以在很多不同的方式中應(yīng)用這些技術(shù)，不必非要有一個(gè)通用智能的路由機(jī)制來實(shí)現(xiàn)每個(gè)用例。類似于過去的技術(shù)可以在許多不同的領(lǐng)域以多種不同的方式應(yīng)用。

但是我認(rèn)為我們目前關(guān)注的重點(diǎn)是，人們認(rèn)為必須有一個(gè)具有類人腦的基礎(chǔ)模型才能實(shí)現(xiàn)良好的效果。我并不這么認(rèn)為?；仡櫃C(jī)器學(xué)習(xí)的歷史，你會(huì)發(fā)現(xiàn)它在不同的領(lǐng)域和不同的方式中應(yīng)用。我認(rèn)為我們目前對 Transformer 模型的關(guān)注只是暫時(shí)的，一旦我們發(fā)現(xiàn)它們并不能魔法般地解決所有問題，我們將會(huì)再次回到多樣化的技術(shù)應(yīng)用中。

Travis Good :?我同意你說的很多觀點(diǎn)，我也認(rèn)為這都與工具使用有關(guān)。我認(rèn)為，一個(gè)非常好的基礎(chǔ)模型，結(jié)合出色的工具使用技能，將會(huì)贏得一切。原因是它可以應(yīng)用所有的專業(yè)模型來服務(wù)于更大的目標(biāo)。因此，我認(rèn)為它在這種方式下會(huì)吸收它們，但這并不與任何一個(gè)分支點(diǎn)矛盾。我同意，專業(yè)模型在許多用例中可能會(huì)有優(yōu)勢，因?yàn)槟銦o法為某些特定情況進(jìn)行訓(xùn)練或微調(diào)。例如，GPT-5 不會(huì)是 AlphaFold。

Tommy :?各位，我有個(gè)問題。我們現(xiàn)在討論的是 OpenAI 與 Meta 的競爭，但我們還沒有明確指出加密 AI 如何在這里獲勝或者可能獲勝。我想花 10 到 15 分鐘來討論一下這個(gè)問題。我們談到了電力和房產(chǎn)的問題，比如數(shù)據(jù)中心空間不足或者電力不夠，或者如 Pondering Durian 所說，資金與收入和預(yù)期輸出不匹配，這可能會(huì)對中心化 AI 造成致命打擊。我希望我們能討論一下加密 AI 可能獲勝的方式，如果你們認(rèn)為它無法獲勝，那也沒關(guān)系，但我想花點(diǎn)時(shí)間在這個(gè)問題上。PD，我們可以從你開始，然后依次討論。

Pondering Durian :?抱歉，我剛才斷線了。回到我們之前的討論，我覺得顛覆通常來自邊緣。去中心化 AI 提供了一些閉源 AI 永遠(yuǎn)無法復(fù)制的能力。今天的性能可能很強(qiáng)，因?yàn)樗麄儾捎昧舜怪闭系臄U(kuò)展方法，擁有專有數(shù)據(jù)和大量計(jì)算資源，因?yàn)樗麄儚牡谝淮ヂ?lián)網(wǎng)獲得了壟斷現(xiàn)金流。我認(rèn)為加密提供了一個(gè)更開放、透明的層，其他人可以在此基礎(chǔ)上構(gòu)建。如果你重視透明性、可組合性和潛在的應(yīng)用生態(tài)系統(tǒng)，你可以驗(yàn)證底層模型和數(shù)據(jù)集。那么隨著去中心化計(jì)算和推理性能的提高，你會(huì)看到越來越多的人想要加入這個(gè)生態(tài)系統(tǒng)。因此，我認(rèn)為這是一個(gè)經(jīng)典的顛覆框架，有一個(gè)解決方案在一個(gè)方向上快速前進(jìn)，但也有一些其他優(yōu)勢，由于其獨(dú)特的特性，邊緣客戶今天正在使用，并且隨著時(shí)間的推移性能會(huì)提高。如果性能達(dá)到可比程度，它將提供更優(yōu)的解決方案。

這是我的簡短總結(jié)，很想聽聽 Ben 和 Travis 的看法。

Ben Fielding :?是的，我想直接回答這個(gè)問題，這會(huì)是一個(gè)非常有偏見的回答，畢竟我們在 Gensyn 所做的事情和去中心化技術(shù)密切相關(guān)。

但總的來說，我認(rèn)為去中心化和去中心化技術(shù)的最大力量在于它能夠建立很難被中介化、尋租和捕獲的價(jià)值流。我們討論了很多支撐機(jī)器學(xué)習(xí)的資源，我們把它們視為這些資源的幾大支柱。每一個(gè)都有不同的動(dòng)態(tài)，是否已經(jīng)開放，或者是否可能被大公司捕獲，然后禁止其他人訪問。加密技術(shù)使我們能夠在這些資源上創(chuàng)建保持可信開放的市場，正是通過加密的機(jī)制。

顯然，我們很多時(shí)候都在考慮計(jì)算資源，這是我們構(gòu)建的領(lǐng)域。但如果你考慮未來的市場，如果我們能夠創(chuàng)造一種方式，讓資源的實(shí)際使用者的需求直接流向擁有和提供該資源的人，那么我們可以在這個(gè)資源上創(chuàng)建一個(gè)更高競爭性、更流動(dòng)的市場，這最終會(huì)像比特幣那樣，在全球范圍內(nèi)代理能源市場。你可以以類似的方式將計(jì)算資源作為 AI 的底層資源。如果我有一個(gè)特別便宜的電力來源，甚至許多綠色電力也特別便宜，因?yàn)闆]有辦法有效利用它們，如果我可以購買一個(gè) GPU ，把它插進(jìn)去，并立即訪問 GPU 計(jì)算的需求端，我會(huì)這樣做，因?yàn)槲視?huì)因此獲得收益?，F(xiàn)在我無法做到這一點(diǎn)，因?yàn)槲ㄒ坏姆绞绞浅蔀樵品?wù)提供商。而云服務(wù)提供商本身并不鼓勵(lì)我成為云服務(wù)提供商。這種循環(huán)繼續(xù)下去，他們最終買下了所有的計(jì)算資源，在其上尋租，并設(shè)定寡頭壟斷的價(jià)格。因此，這使我們能夠保持市場的流動(dòng)性，不允許它被集中提供商捕獲。我認(rèn)為你可以對 ML 的所有底層資源這樣做。最終，你會(huì)在實(shí)際應(yīng)用階段看到更多的競爭，我認(rèn)為我們都同意這可能是護(hù)城河所在之處。它是向用戶提供價(jià)值，而不是在某個(gè)資源中。

Tommy :?Ben，快速提一個(gè)問題，在 Travis 和 Mike 回答之前。我想確認(rèn)一下你的觀點(diǎn)，如果我有理解錯(cuò)誤，請糾正我。你的觀點(diǎn)是，超大規(guī)模數(shù)據(jù)中心的資金和它們構(gòu)建的產(chǎn)品的收入或結(jié)果并不那么可持續(xù)，我們沒有得到我們想要的結(jié)果。如果我們能夠建立一個(gè)連接所有 GPU 的元網(wǎng)絡(luò)，即最終像電力一樣，任何人都可以訪問它，從而創(chuàng)建一個(gè)最大表面積來創(chuàng)建最有價(jià)值的 AI 應(yīng)用或代理，而不是一個(gè)中心化公司選擇試驗(yàn)項(xiàng)目并在全面 AGI 上競爭。這是一個(gè)恰當(dāng)?shù)目偨Y(jié)嗎？

Ben Fielding :?在某種程度上，是的。我認(rèn)為，當(dāng)談到規(guī)模問題時(shí)，規(guī)模是否是決定勝負(fù)的因素，我們已經(jīng)討論過了。這有點(diǎn)進(jìn)入了辯論的范疇。但最終，你可以這樣想：人類使用資源的最小提取方式是什么？使用電力并通過 GPU 將電力轉(zhuǎn)化為知識，這是我們可以做到的最小提取方式，沒有太多的中間環(huán)節(jié)，導(dǎo)致有人在此過程中提取價(jià)值。我認(rèn)為加密和去中心化為我們提供了創(chuàng)建一個(gè)絕對最小提取系統(tǒng)的軌道。唯一在此過程中提取價(jià)值的人，是那些真正提供價(jià)值的人。

例如，有人創(chuàng)建了一個(gè)模型接口。如果這個(gè)接口與許多其他接口競爭，那么這個(gè)人可以獲得利潤，但他們的利潤是在競爭中達(dá)到一個(gè)公平市場價(jià)格的。這種情況在鏈條的多個(gè)階段發(fā)生，一直到你獲取電力的階段。目前我們處于這樣的情況：由于計(jì)算資源是有限的，它不是商品，而是有限資源，被提供商捕獲，他們能夠提取巨大的價(jià)值。但加密為我們提供了不發(fā)生這種情況的軌道。我認(rèn)為，無論 AI 走向何方，這對世界都是凈好處。無論擴(kuò)展是否繼續(xù)成為最佳方案，因?yàn)橘Y源的一般使用仍然是最有效的方式。沒有盈利動(dòng)機(jī)的協(xié)議只需要維持自己。所以，如果它能維持自己，并能創(chuàng)建最大的需求使用面，它應(yīng)該勝過任何必須從中盈利的人。

Travis Good :?我是 Nassim Taleb 的忠實(shí)粉絲，我認(rèn)為中心化結(jié)構(gòu)是脆弱的。它們的脆弱性在于需要信任。如果我是一個(gè)中型企業(yè)，我使用 ChatGPT 提供客戶服務(wù)功能，OpenAI 明天可能會(huì)改變模型的行為，這將改變我整個(gè)客戶服務(wù)部門的行為。這是你作為應(yīng)用程序用戶必須放棄的巨大控制權(quán)。更不用說，如果我得罪了 OpenAI，他們可以關(guān)閉我整個(gè)客戶服務(wù)部門。我必須對這個(gè)實(shí)體有很大的信任，信任它不會(huì)被黑，不會(huì)惡意行為，不會(huì)任意行為。我們已經(jīng)看到 Google 會(huì)無緣無故地關(guān)閉人們的 Gmail 賬戶，人們會(huì)因此失去多年積累的記憶和生活。因此，我認(rèn)為去中心化結(jié)構(gòu)提供了魯棒性和反脆弱性，因?yàn)樗鼈兛梢允菬o信任的。如果我可以通過 Ambient Network 獲得一個(gè)非常好的模型，這個(gè)模型是公開訓(xùn)練的，具有已知屬性，并且行為可預(yù)測，我可以信任這個(gè)模型會(huì)繼續(xù)在網(wǎng)絡(luò)上運(yùn)行，而不會(huì)被集中結(jié)構(gòu)的任意行為中斷。只要有經(jīng)濟(jì)激勵(lì)，這個(gè)模型就會(huì)繼續(xù)運(yùn)行。這為我提供了更好的保障，這是加密 AI 的巨大優(yōu)勢。它能夠讓我不必?fù)?dān)心特定組織的實(shí)施和結(jié)構(gòu)，而獲得有趣的能力。這種可組合性對未來經(jīng)濟(jì)的發(fā)展至關(guān)重要。

Michael Rinko :?你們都提出了非常有趣的觀點(diǎn)。我對加密 AI 的看法是，當(dāng)我寫報(bào)告時(shí)，我試圖思考加密能為 AI 解決哪些其他地方無法解決的問題。我認(rèn)為你們都提到了一些關(guān)鍵點(diǎn)。對我來說，有三點(diǎn)。第一，加密是無信任的。如果你是一個(gè) AI 代理，你會(huì)將你的資本交給摩根大通，還是會(huì)信任你自己控制的數(shù)字錢包，一個(gè)在區(qū)塊鏈上的公私鑰？在加密中你不必信任任何人，我認(rèn)為這對 AI 來說是一個(gè)很有吸引力的特性。對人類來說，這可能是一個(gè)可怕的特性，因?yàn)闆]有人可以打電話求助。但我認(rèn)為對 AI 來說，這將是一個(gè)非常吸引人的特性。第二，加密是確定性的。當(dāng)你在加密中執(zhí)行一段代碼時(shí)，你確切知道這段代碼會(huì)做什么，沒有任何模糊性。而在現(xiàn)實(shí)世界中，當(dāng)我打電話給銀行匯款時(shí)，我不知道匯款會(huì)在今天、明天還是下個(gè)月完成。我們都經(jīng)歷過這種情況?，F(xiàn)實(shí)世界是隨機(jī)的，充滿不確定性。我的賭注是 AI 不會(huì)喜歡這種不確定性，它會(huì)更喜歡確定性執(zhí)行。加密提供了這一點(diǎn)。第三，AI 可以通過加密實(shí)現(xiàn)超級資本主義。一個(gè)愚蠢但可能最好的例子是 Meme 幣。加密可以將任何東西金融化，并且確實(shí)可以做到這一點(diǎn)。我認(rèn)為這是一個(gè)獨(dú)特的特性，AI 可以利用這一點(diǎn)來積累資源。所以，我認(rèn)為基于這些原因，我對加密和 AI 的結(jié)合非?？春?，我認(rèn)為我們只是剛剛開始發(fā)現(xiàn)其中的價(jià)值所在。

Pondering Durian :?這些觀點(diǎn)都非常棒，Michael 說得很好。我還想補(bǔ)充一點(diǎn)，我在文章中提到過，現(xiàn)有機(jī)構(gòu)基本上是工業(yè)時(shí)代的產(chǎn)物，因此在協(xié)議采用方面存在許多限制。如果經(jīng)濟(jì)中更多的部分轉(zhuǎn)向代理或基于代理的網(wǎng)絡(luò)，那么我們正在構(gòu)建的許多基礎(chǔ)設(shè)施將變得更加有意義。如今，企業(yè)與協(xié)議互動(dòng)的過程中存在許多摩擦，特別是那些大型法律部門的企業(yè)，他們總是更保守，更傾向于選擇 AWS 的服務(wù)水平協(xié)議或合同，因?yàn)檫@是他們所熟悉的世界運(yùn)行方式。但如果未來我們將更多的決策和智能外包出去，我認(rèn)為這些決策者會(huì)開始使用更多可組合的、無信任的基礎(chǔ)設(shè)施，正如之前提到的觀點(diǎn)。所以，如果在未來三到五年內(nèi)，我們開始見證這一轉(zhuǎn)變，那么這對 Web3 基礎(chǔ)設(shè)施和應(yīng)用程序來說將是非常有利的。因?yàn)檫@確實(shí)需要網(wǎng)絡(luò)的雙方共同發(fā)展，我們只是剛剛開始看到需求側(cè)真正成熟起來，以一種對過去五六年構(gòu)建的 Web3 基礎(chǔ)設(shè)施有意義的方式發(fā)展。

Ben Fielding :?我認(rèn)為這里有一個(gè)非常有趣的類比，就是 Web3 和 AI 的類比，它們基本上都在用代碼成本取代人工成本。Web3 的出現(xiàn)，用智能合約的執(zhí)行取代了法律合同和人工信任機(jī)制等。這是一種用人力更便宜的方式來做事情的例子。正如你所說，AI 也是如此，它用更復(fù)雜的代碼取代了昂貴的人工成本。因此，兩者的結(jié)合就是最大限度地用代碼取代昂貴的人工成本。然后你會(huì)問，最后剩下的是什么？就是信任部分，在現(xiàn)實(shí)世界中，人們確實(shí)重視人類信任部分，他們愿意為此付出更多。這就是為什么企業(yè)和舊有的購買 IBM 產(chǎn)品的原因。最終，你會(huì)發(fā)現(xiàn)你購買 AWS 產(chǎn)品是因?yàn)槟阍敢鉃槿祟惒糠种Ц额~外費(fèi)用。這已經(jīng)被明確地切割和高度金融化，現(xiàn)在你知道自己在支付什么。它不再是像傳統(tǒng)云世界那樣的模糊化購買，而是一個(gè)非常明確的購買行為。我認(rèn)為我們可以從這個(gè)角度進(jìn)一步探討未來 AI 的發(fā)展，它會(huì)是對人類體驗(yàn)的更加明確的金融化，我們的價(jià)值觀會(huì)發(fā)生變化，我們愿意為明確的人類體驗(yàn)支付更多費(fèi)用，甚至是非理性地選擇那些對我們來說最適合的東西，但僅僅因?yàn)槲覀儗?shí)際重視它。比如我想買這個(gè)手工制作的東西，因?yàn)樗怯扇耸止ぶ谱鞯摹Ｎ蚁胭I這個(gè)云提供商的產(chǎn)品，因?yàn)槟抢镉幸粋€(gè)人。盡管實(shí)際上這個(gè)有自動(dòng)結(jié)算和 AI 運(yùn)行的加密產(chǎn)品對我更好，它更便宜、更高效，能帶來更好的結(jié)果，但我會(huì)選擇其他東西，因?yàn)槲沂侨祟?，這是我想購買的東西。

Michael Rinko :?Ben，我可以問你一個(gè)問題嗎？我認(rèn)為你的見解非常有趣。一個(gè)常見的看法是，去中心化計(jì)算或當(dāng)前 AI 領(lǐng)域的某些東西去中心化后會(huì)更便宜，這是一個(gè)賣點(diǎn)。但我認(rèn)為反對的觀點(diǎn)是，正如你剛才所說的，成本并不是這些公司的首要考慮，尤其是當(dāng)你談?wù)摰氖鞘澜缟献钣袃r(jià)值的公司時(shí)，他們會(huì)花費(fèi)額外的錢來避免麻煩。如果有現(xiàn)有的關(guān)系存在，他們也會(huì)這樣做。你認(rèn)為是否存在一個(gè)臨界點(diǎn)，這些公司可以節(jié)省足夠多的錢以至于成本實(shí)際上成為主要驅(qū)動(dòng)因素？或者這些加密 AI 公司只是聲譽(yù)問題，需要幾年時(shí)間才能建立起這些 GPU 提供商與這些公司的聲譽(yù)和聯(lián)系？你認(rèn)為這種情況會(huì)如何發(fā)展？是否存在一個(gè)明顯的臨界點(diǎn)，使得競爭動(dòng)態(tài)在中心化和去中心化的產(chǎn)品之間發(fā)生變化？

Ben Fielding :?這其實(shí)就是任何新技術(shù)中經(jīng)典的摩擦與收益權(quán)衡問題。你需要問自己，是否愿意為了潛在的好處，比如節(jié)約成本、擴(kuò)大規(guī)?；蛟黾釉L問量，而經(jīng)歷采用新技術(shù)的摩擦。我們必須經(jīng)歷這種轉(zhuǎn)變：一些人必須愿意經(jīng)歷額外的摩擦，才能獲得這些潛在的好處。一旦你通過了最初的摩擦，就可以降低這種摩擦，而不會(huì)有巨大的轉(zhuǎn)換成本。

但是，目前還沒有人真正解決這個(gè)權(quán)衡。我們看到很多關(guān)于加密 AI 的投機(jī)性項(xiàng)目，很多人說將來會(huì)有巨大的好處，很多人也在賭這個(gè)未來。但顯然沒有人真正捕捉到現(xiàn)實(shí)世界的價(jià)值需求，沒有很多實(shí)際用例可以說這是在為 Web2 帶來實(shí)際價(jià)值。我認(rèn)為，這就是需要發(fā)生的事情。坦率地說，我認(rèn)為我們需要專注于建立這些技術(shù)，使它們在具體的實(shí)際用例中更好，而不是專注于激勵(lì)和啟動(dòng)工作，這在我們看來只是分散注意力的事情。

當(dāng)然，在某些時(shí)候，你需要做一些激勵(lì)措施。如果你在建立一個(gè)市場，你需要做一些啟動(dòng)工作，但這不是主要工作。主要工作是創(chuàng)造一個(gè)真正有價(jià)值的產(chǎn)品。我認(rèn)為我們經(jīng)歷了一段分心的時(shí)期，但幕后有很多人正在建立這些產(chǎn)品。一旦這些產(chǎn)品發(fā)布，我們將看到一個(gè)激增，但它必須跨越摩擦與成本的障礙。

Pondering Durian :?但我認(rèn)為你確實(shí)需要網(wǎng)絡(luò)流動(dòng)性。加密實(shí)際上是關(guān)于網(wǎng)絡(luò)的。因此，你需要需求方和供應(yīng)方，它們需要同時(shí)出現(xiàn)。為了創(chuàng)造那種體驗(yàn)，起步時(shí)建立市場總是非常困難的。供應(yīng)方不會(huì)在看到需求方之前加速增長。我們?nèi)匀挥蟹浅８吣Σ恋挠脩羧腴T體驗(yàn)。所以我同意專注于產(chǎn)品非常重要，但很多好處只有在有一個(gè)臨界點(diǎn)時(shí)才能實(shí)現(xiàn)，不是 50 億，但至少有足夠的加密錢包數(shù)量，供應(yīng)方才會(huì)滿足需求方。因?yàn)楝F(xiàn)在用戶數(shù)量仍然非常有限。所以我確實(shí)認(rèn)為網(wǎng)絡(luò)流動(dòng)性非常重要。

Travis Good :?我只是想插句話，我認(rèn)為這是一個(gè)非常重要的觀點(diǎn)。PD，你知道，如果我們將加密與 AI 結(jié)合起來，實(shí)際上就是在決策支持中引入了可編程經(jīng)濟(jì)。我認(rèn)為此前加密在決策支持方面一直是缺乏的。大型語言模型能夠攝取大量信息并基于所有輸入做出相對簡單的選擇，這是以前無法想象的事情。如果我試圖在以太坊上編寫一個(gè)合同，以解析新聞故事并決定情感是積極還是消極，我需要做很多黑客工作，更不用說試圖寫一個(gè)一致且合理的摘要，讓我可以做出經(jīng)濟(jì)決策。所以，我們實(shí)際上是在引入一個(gè)能力和推理水平，使得基礎(chǔ)經(jīng)濟(jì) API 比以前更具吸引力。

Ben Fielding :?就我們討論的這種市場啟動(dòng)問題來說，的確在某個(gè)階段你會(huì)需要一些啟動(dòng)工作。我并不是說你不需要平衡供需關(guān)系，但我認(rèn)為你的使用案例會(huì)極大地影響你需要做多少啟動(dòng)工作。比如，以 Helium 為例，他們提供的網(wǎng)絡(luò)覆蓋受到電信領(lǐng)域的 Metcalfe 定律的影響，這意味著這個(gè)網(wǎng)絡(luò)只有在大規(guī)模時(shí)才有價(jià)值，因此你必須非常大力地啟動(dòng)供應(yīng)側(cè)，才能為用戶提供任何價(jià)值。

但也有一些使用案例并不受此限制。比如，訪問 GPU 計(jì)算資源，如果我有一塊 GPU 和一個(gè)需要在這塊 GPU 上訓(xùn)練模型的用戶，我就可以進(jìn)行交易，從這個(gè)網(wǎng)絡(luò)中獲取現(xiàn)實(shí)世界的價(jià)值。是的，這還不是最大規(guī)模，但你可以逐步擴(kuò)大規(guī)模，而不需要經(jīng)歷大規(guī)模啟動(dòng)過程。我認(rèn)為我們現(xiàn)在處于一個(gè)奇怪的境地， GPU 網(wǎng)絡(luò)的競爭都在爭奪 GPU 的數(shù)量，但沒有人真正使用這些 GPU ，需求側(cè)的使用在哪里？

所以我們陷入了一個(gè)收集盡可能多 GPU 的誤區(qū)，這是錯(cuò)誤的指標(biāo)，正確的指標(biāo)是實(shí)際使用，獲取用戶將任務(wù)發(fā)送到設(shè)備，并獲得結(jié)果。如果這在小規(guī)模上實(shí)現(xiàn)，我認(rèn)為這實(shí)際上更好，而不是單方面地大量啟動(dòng)供應(yīng)側(cè)，卻無法服務(wù)于需求側(cè)。這只有在供應(yīng)是一種線性價(jià)值商品的情況下才有效。然而，幸運(yùn)的是， ML 計(jì)算恰好是這種情況之一。我認(rèn)為，如果你處于網(wǎng)絡(luò)帶寬模式中，你就必須找到如何啟動(dòng)供應(yīng)側(cè)的方法，這就是你必須玩的游戲，你必須確保在短時(shí)間內(nèi)需求側(cè)能夠接管，否則你不會(huì)贏。

Michael Rinko :?你認(rèn)為最近最有可能的需求來自哪里？

Ben Fielding :?去中心化計(jì)算網(wǎng)絡(luò)。

Ben Fielding :?我認(rèn)為需求可能來自幾個(gè)不同的領(lǐng)域。一方面是種子到 A 輪階段的初創(chuàng)公司，它們目前無法訪問云提供商資源，這是一種需求。還有一些是沒有本地計(jì)算資源的個(gè)人用戶，但他們希望微調(diào)模型，比如使用他們能夠訪問的開源模型，但無法獲得計(jì)算資源進(jìn)行訓(xùn)練。再進(jìn)一步（但可能并不太遠(yuǎn)）是協(xié)作訓(xùn)練模型的需求。社區(qū)可以提出一種新型模型的想法，但無法獲得計(jì)算資源，而現(xiàn)在他們可以獲得這種資源。他們還可以利用 Web3 提供的各種工具，例如資金池和審計(jì)，集體激活這些資源，而不必信任某個(gè)單一方。這樣，我們就能在計(jì)算網(wǎng)絡(luò)、數(shù)據(jù)網(wǎng)絡(luò)以及某種程度上的專家知識激勵(lì)網(wǎng)絡(luò)上進(jìn)行更加協(xié)作的模型開發(fā)。這些網(wǎng)絡(luò)中，人們可以提出模型并在未來因?yàn)樘岢隽诉@個(gè)模型而獲得獎(jiǎng)勵(lì)，因?yàn)閰^(qū)塊鏈上有一個(gè)記錄表明是他們創(chuàng)造并發(fā)布了這個(gè)模型。隨著我們將價(jià)值歸屬逐漸回到資源或創(chuàng)意的起點(diǎn)，這會(huì)激勵(lì)協(xié)作工作，而這正是飛輪效應(yīng)真正啟動(dòng)的時(shí)刻。

在此之前，我們可以看到目前云提供商的簡單使用，這通常要么因?yàn)槎▋r(jià)過高，要么根本無法訪問。

Travis Good :?我認(rèn)為隨著區(qū)塊鏈需要被視為具有競爭力的能力，你會(huì)看到這些網(wǎng)絡(luò)的利用率大幅提升。

Ben Fielding :?完全同意。當(dāng)模型開始需要訪問資源來觸發(fā)自身和其他模型時(shí)，事情會(huì)變得指數(shù)級增長，因?yàn)槟阆伺c我們在其他領(lǐng)域討論過的一樣的「人類世界成本」。這時(shí)，你需要對這些資源的高度流動(dòng)性訪問，否則總是會(huì)受到資源市場效率的限制。所以，如果我們想要盡可能快地進(jìn)步，就必須讓這些市場盡可能高效。我完全同意，一旦模型實(shí)際上開始訪問資源，整個(gè)情況就會(huì)發(fā)生根本變化，這讓我感到非常興奮。我認(rèn)為那將是一個(gè)非常重大的時(shí)刻。

Michael Rinko :?Travis，我很高興你提到這一點(diǎn)，這是我希望我們在某個(gè)時(shí)候會(huì)談到的。我不想顯得太科幻，但我認(rèn)為人們低估了這一點(diǎn)會(huì)發(fā)生的速度。我前幾天看到一條推文，是一位 OpenAI 的研究員發(fā)的，他基本上說，如果你把 10 年前的人帶到今天，告訴他們我們有一個(gè)可以實(shí)時(shí)進(jìn)行任意語言翻譯的程序，任何人都可以免費(fèi)使用，全世界的人都可以免費(fèi)使用，他們會(huì)有多驚訝。但他說，這種巨大的突破沒有改變?nèi)魏问虑?，世界還是那個(gè)世界。換句話說，NVIDIA 的股價(jià)上漲了很多，但除此之外，我們還是每天吃早餐，我還是在喝咖啡。所以我認(rèn)為對于加密領(lǐng)域來說，我們也有過這些巨大的 AI 突破，但加密還是在繼續(xù)，比特幣現(xiàn)在甚至沒有達(dá)到歷史最高點(diǎn)。所以什么時(shí)候會(huì)有一個(gè)巨大的轉(zhuǎn)折點(diǎn)？什么時(shí)候會(huì)出現(xiàn)指數(shù)級增長？

我目前的看法是，這個(gè)轉(zhuǎn)折點(diǎn)會(huì)在我們擁有自主代理時(shí)到來。我認(rèn)為對于大多數(shù)加密社區(qū)的人來說，為什么這些代理會(huì)更喜歡區(qū)塊鏈而不是傳統(tǒng)基礎(chǔ)設(shè)施是顯而易見的。我很難想象從零到一的過程會(huì)是什么樣的，可能一開始沒有任何代理，但突然之間可能會(huì)有無數(shù)的代理，數(shù)以百萬計(jì)、數(shù)十億計(jì)的智能實(shí)例，它們獨(dú)立地參與經(jīng)濟(jì)活動(dòng)。我認(rèn)為其中很多都會(huì)發(fā)生在區(qū)塊鏈上，這種潛力是巨大的。

Pondering Durian :?我確實(shí)覺得這就像 USV 的圖表，顯示了基礎(chǔ)設(shè)施和應(yīng)用程序之間的關(guān)系。在某一點(diǎn)上，Altimeter 的那個(gè)人基本上說，如果你看云計(jì)算，有 4000 億美元流向了應(yīng)用程序，而大約有 500 億美元流向了半導(dǎo)體公司。而在生成式 AI 領(lǐng)域，我們現(xiàn)在實(shí)際上是相反的情況，NVIDIA 積累了 750 億美元，而 OpenAI 僅積累了 50 億美元。我認(rèn)為這種情況將會(huì)翻轉(zhuǎn)。就像云計(jì)算一樣，我們可以預(yù)期即將到來的應(yīng)用程序爆發(fā)，大部分的價(jià)值捕獲將開始向上流動(dòng)到應(yīng)用層。因此，我百分之百同意這個(gè)觀點(diǎn)。

Travis Good :?我認(rèn)為這就是為什么這個(gè)生態(tài)系統(tǒng)如此重要的原因，也是為什么我非常高興看到在這個(gè)領(lǐng)域中有各種不同的方法和健康競爭的原因。因?yàn)槲艺J(rèn)為所有這些方法都會(huì)有巨大的需求，這將是一場盛宴。我相信那些能夠看到這一點(diǎn)的人將會(huì)得到豐厚的回報(bào)。我也希望正在收聽的各位能夠被我們的觀點(diǎn)所打動(dòng)，因?yàn)槲蚁Ｍ銈円材軓闹蝎@得經(jīng)濟(jì)上的回報(bào)。