多模型共識(shí)+去中心化驗(yàn)證：Mira Network如何構(gòu)建AI信任層對(duì)抗幻覺(jué)與偏見(jiàn)？

看到Mira網(wǎng)絡(luò)的公共測(cè)試網(wǎng)于昨天推出。它試圖要構(gòu)建AI的信任層。那么，為什么AI需要被信任？Mira又是如何來(lái)解決這個(gè)問(wèn)題的？

人們?cè)谟懻揂I時(shí)，關(guān)注AI能力的強(qiáng)大方面更多些。不過(guò)，有意思的是，AI存在“幻覺(jué)”或偏見(jiàn)。人們對(duì)這個(gè)事情關(guān)注并不多。什么是AI的“幻覺(jué)”，簡(jiǎn)單來(lái)說(shuō)，就是AI有時(shí)候會(huì)“瞎編”，一本正經(jīng)地胡說(shuō)八道。比如，你問(wèn)AI月亮為什么是粉色的？它可能會(huì)一本正經(jīng)給你很多看似合理的解釋。

AI存在“幻覺(jué)”或偏見(jiàn)跟目前一些AI技術(shù)路徑有一定關(guān)系，比如生成式AI會(huì)通過(guò)預(yù)測(cè)“最可能”來(lái)進(jìn)行內(nèi)容輸出，以實(shí)現(xiàn)連貫以及合理，但有時(shí)候無(wú)法驗(yàn)證真?zhèn)?；此外，?xùn)練數(shù)據(jù)本身也包含錯(cuò)誤、偏見(jiàn)甚至虛構(gòu)內(nèi)容，這也會(huì)影響到AI的輸出。也就是說(shuō)AI本身學(xué)習(xí)的人類(lèi)語(yǔ)言模式而不是事實(shí)本身

總言之，目前的概率生成機(jī)制+數(shù)據(jù)驅(qū)動(dòng)的模式幾乎不可避免帶來(lái)AI 幻覺(jué)的可能性。

這種帶有偏見(jiàn)或幻覺(jué)輸出的內(nèi)容如果只是普通知識(shí)或娛樂(lè)內(nèi)容，暫時(shí)還不會(huì)有直接后果，而如果發(fā)生在醫(yī)療、法律、航空、金融等高度嚴(yán)謹(jǐn)?shù)念I(lǐng)域，會(huì)直接產(chǎn)生重大后果。因此關(guān)于如何解決AI幻覺(jué)和偏見(jiàn)，是AI演化過(guò)程中核心問(wèn)題之一。有的采用檢索增強(qiáng)生成技術(shù)（跟實(shí)時(shí)數(shù)據(jù)庫(kù)結(jié)合，優(yōu)先輸出已驗(yàn)證事實(shí)）、有的引入人類(lèi)反饋，通過(guò)人工標(biāo)注人類(lèi)監(jiān)督來(lái)糾正模型的錯(cuò)誤等。

Mira項(xiàng)目也在試圖解決AI偏見(jiàn)和幻覺(jué)的問(wèn)題，也就是，Mira試圖要構(gòu)建AI的信任層，減少AI偏見(jiàn)和幻覺(jué)，提升AI的可靠性。那么，從整體框架來(lái)說(shuō)，Mira是如何來(lái)減少AI的偏見(jiàn)和幻覺(jué)，并最終實(shí)現(xiàn)可信任的AI？

Mira實(shí)現(xiàn)這一點(diǎn)的核心是通過(guò)多個(gè)AI模型共識(shí)來(lái)驗(yàn)證AI輸出。也就是，Mira本身是一個(gè)驗(yàn)證網(wǎng)絡(luò)，它驗(yàn)證AI輸出的可靠性，而它借力的是多個(gè)AI模型的共識(shí)。此外，還有一點(diǎn)很重要，就是去中心化共識(shí)來(lái)進(jìn)行驗(yàn)證。

由此Mira網(wǎng)絡(luò)的關(guān)鍵是去中心化的共識(shí)驗(yàn)證。去中心化的共識(shí)驗(yàn)證是加密領(lǐng)域擅長(zhǎng)的，同時(shí)它也利用了多模型的協(xié)同這一點(diǎn)，通過(guò)集體驗(yàn)證模式來(lái)減少偏見(jiàn)和幻覺(jué)。

驗(yàn)證架構(gòu)方面，它需要有一種可獨(dú)立驗(yàn)證聲明，Mira協(xié)議支持將復(fù)雜內(nèi)容轉(zhuǎn)換為獨(dú)立驗(yàn)證聲明。這些聲明需要節(jié)點(diǎn)運(yùn)營(yíng)商參與驗(yàn)證，為了確保節(jié)點(diǎn)運(yùn)營(yíng)商的誠(chéng)實(shí)，這里會(huì)利用到加密經(jīng)濟(jì)激勵(lì)/懲罰來(lái)實(shí)現(xiàn)，不同AI模型+分散的節(jié)點(diǎn)運(yùn)營(yíng)商參與，以保證驗(yàn)證結(jié)果的可靠性。

Mira的網(wǎng)絡(luò)架構(gòu)包括了內(nèi)容轉(zhuǎn)換、分布式驗(yàn)證、以及共識(shí)機(jī)制，以此實(shí)現(xiàn)驗(yàn)證的可靠性。在這個(gè)架構(gòu)中，內(nèi)容轉(zhuǎn)換是重要一環(huán)。Mira網(wǎng)絡(luò)首先會(huì)將候選內(nèi)容（一般由客戶提交）分解成為不同的可驗(yàn)證聲明（以確保模型可以按相同背景下來(lái)理解），這些聲明由系統(tǒng)分發(fā)給節(jié)點(diǎn)進(jìn)行驗(yàn)證，以確定聲明的有效性，并匯總結(jié)果達(dá)成共識(shí)。這些結(jié)果和共識(shí)會(huì)返回給客戶。此外，為了保護(hù)客戶隱私，候選內(nèi)容轉(zhuǎn)換分解為聲明對(duì)，它們會(huì)以隨機(jī)分片的方式給到不同節(jié)點(diǎn)，防止驗(yàn)證過(guò)程中產(chǎn)生信息泄漏。

節(jié)點(diǎn)運(yùn)營(yíng)商負(fù)責(zé)運(yùn)行驗(yàn)證器模型，處理聲明以及提交驗(yàn)證結(jié)果。為什么節(jié)點(diǎn)運(yùn)營(yíng)商愿意參與聲明的驗(yàn)證中來(lái)？因?yàn)榭梢垣@得收益。收益從哪里來(lái)？從為客戶創(chuàng)造的價(jià)值中來(lái)。Mira網(wǎng)絡(luò)的目的是為了降低AI的錯(cuò)誤率（幻覺(jué)和偏見(jiàn)），一旦可以達(dá)成目的，就可以產(chǎn)生價(jià)值，比如在醫(yī)療、法律、航空、金融等領(lǐng)域降低錯(cuò)誤率，這會(huì)產(chǎn)生巨大價(jià)值。因此，客戶就有意愿付費(fèi)。當(dāng)然，至于付費(fèi)的可持續(xù)性和規(guī)模則取決于Mira網(wǎng)絡(luò)能否持續(xù)為客戶帶來(lái)價(jià)值（降低AI錯(cuò)誤率）。此外，為了防止節(jié)點(diǎn)隨機(jī)響應(yīng)的投機(jī)取巧的行為，持續(xù)偏離共識(shí)的節(jié)點(diǎn)會(huì)被消減質(zhì)押代幣?？傃灾褪峭ㄟ^(guò)經(jīng)濟(jì)機(jī)制的博弈來(lái)確保節(jié)點(diǎn)運(yùn)營(yíng)商誠(chéng)實(shí)地參與驗(yàn)證。

總體來(lái)說(shuō)，Mira為實(shí)現(xiàn)AI的可靠性，提供了一種新的解決思路，就是在多AI模型基礎(chǔ)上，構(gòu)建出去中心化共識(shí)驗(yàn)證網(wǎng)絡(luò)，為客戶的AI服務(wù)帶來(lái)更高的可靠性，降低AI偏見(jiàn)和幻覺(jué)，以滿足客戶更高準(zhǔn)確度和精確率的需求。并在為客戶提供價(jià)值基礎(chǔ)上，為Mira網(wǎng)絡(luò)的參與者帶來(lái)收益。如果用一句話來(lái)概括，就是Mira試圖構(gòu)建AI的信任層。這對(duì)于提升AI應(yīng)用深入起到推動(dòng)作用。

目前Mira合作的AI agent框架就包括ai16z、ARC等。Mira網(wǎng)絡(luò)的公共測(cè)試網(wǎng)于昨日推出，用戶參與Mira公共測(cè)試網(wǎng)，可通過(guò)使用Klok即可，它是基于Mira的LLM聊天應(yīng)用，使用Klok應(yīng)用可以體驗(yàn)經(jīng)過(guò)驗(yàn)證的AI輸出（可以去比較跟沒(méi)有經(jīng)過(guò)驗(yàn)證的AI輸出有什么區(qū)別），也可以賺取Mira積分。至于積分未來(lái)用途是什么，暫時(shí)還沒(méi)透露。