Bitget App
交易「智」變
快速買幣市場交易合約BOT理財跟單
加了Buff的AI+Crypto敘事,「可驗證AI」了解一下

加了Buff的AI+Crypto敘事,「可驗證AI」了解一下

BlockBeatsBlockBeats2024/10/22 08:42
作者:BlockBeats

如果對AI模型的看法變得和對社群媒體演算法一樣,我們將面臨很大麻煩

原文作者:@lukedelphi
原文編譯:zhouzhou,BlockBeats


編按:隨著最近AI 在加密貨幣領域的影響力不斷提高,市場開始聚焦於AI 的可驗證性問題。本文中多位加密與AI 領域的專家分析了去中心化、區塊鏈和零知識證明等技術如何應對AI 模型可能被濫用的風險,並探討了推理驗證、閉源模型及邊緣設備推理等未來趨勢。


以下為原文內容(為便於閱讀理解,原內容有所整編):


最近為Delphi Digital 的AI 月度活動錄製了一場圓桌討論,邀請了四位專注於加密與AI 領域的創始人,共同探討了可驗證AI 的話題,以下內容是一些關鍵要點。


加了Buff的AI+Crypto敘事,「可驗證AI」了解一下 image 0


來賓:colingagich、ryanmcnutty33 、immorriv 和Iridium Eagleemy。


未來,AI 模式將成為一種軟實力,它們的經濟應用越廣泛、越集中,濫用的機會就越多。無論模型輸出是否被操控,光是感受到這種可能性就已十分有害。


如果我們對AI 模型的看法變得和對社群媒體演算法一樣,我們將面臨很大麻煩,去中心化、區塊鏈和可驗證性是解決這問題的關鍵。由於 AI 本質上是一個黑箱,我們需要找到方法使 AI 的過程可證明或可驗證,以確保其未被篡改。


這正是可驗證推理所要解決的問題,儘管討論的嘉賓對問題達成了一致,但他們在解決方案上卻採取了不同的路徑。


更具體地說,可驗證推理包括:我的問題或輸入沒有被篡改;我使用的模型是我所承諾的那個;輸出以原樣提供,沒有被修改。實際上,這個定義來自 @Shaughnessy119,但我很喜歡它的簡潔性。


在目前的 truth terminal 案例中這會有很大的幫助。


加了Buff的AI+Crypto敘事,「可驗證AI」了解一下 image 1


使用零知識證明來驗證模型輸出,毫無疑問,ZK 是最安全的方法。然而,它也帶來了一些權衡,計算成本增加了 100 到 1000 倍。此外,並非所有內容都能輕鬆轉換為電路,因此需要對某些函數(如 sigmoid)進行近似處理,並可能會有浮點近似損失。


關於計算開銷,許多團隊正在努力改進最先進的 ZK 技術,以顯著降低開銷。儘管大型語言模型體積龐大,但大多數金融應用案例可能相對較小,例如資本配置模型,因此開銷變得微不足道。受信執行環境(TEEs)適合那些對最大安全性要求較低,但對成本或模型大小較為敏感的應用情境。


Ambient 的Travis 談到了他們如何計劃在一個非常大的分片模型上驗證推理,這並不是一個通用問題,而是針對一個特定模型的解決方案。不過,由於 Ambient 仍處於隱密階段,這項工作暫時保密,我們需要關注即將發布的論文。


optimistic method,即在推理時不產生證明,而是讓執行推理的節點質押代幣,若被質疑並發現不當操作則扣除質押代幣,這得到了嘉賓們的一些反對意見。


首先,要實現這一點,需要確定性輸出,而為了達到這一目標,需要做出一些妥協,例如確保所有節點使用相同的隨機種子。其次,如果面臨 100 億美元的風險,多少質押足以確保經濟安全?這個問題最終仍沒有明確答案,凸顯了讓消費者選擇是否願意支付完整證明費用的重要性。


關於封閉源模型的問題,inference labs 和 aizel network 都能提供支援。這引發了一些哲學上的爭論,信任無須需要了解正在運行的模型,因此私有模型是不受歡迎的,與可驗證 AI 相悖。然而,在某些情況下,了解模型的內部工作原理可能導致被操控,而解決這個問題的唯一方法有時就是將模型設為閉源。閉源模型如果經過 100 次或 1000 次驗證後仍然可靠,儘管無法存取其權重,這也足以讓人產生信心。


最後,我們討論了由於隱私、延遲和頻寬等問題,AI 推理是否會轉向邊緣設備(如手機和筆記型電腦)。大家達成的共識是,這種轉變正在到來,但還需要幾次迭代。


對於大型模型來說,空間、運算需求和網路要求都是問題。不過,模型正在變得更小,設備也越來越強大,因此這種轉變似乎正在發生,只是還沒有完全到來。然而,目前如果能夠使推理過程保持私密,那麼我們仍然可以獲得本地推理的許多好處,而不會面臨失敗模式。


原文連結


0

免責聲明:文章中的所有內容僅代表作者的觀點,與本平台無關。用戶不應以本文作為投資決策的參考。

PoolX: 鎖倉獲得新代幣空投
不要錯過熱門新幣,且APR 高達 10%+
立即參與

您也可能喜歡

策略、Coinbase 和加密貨幣股票隨著市場在特朗普的90天關稅緩解後反彈而飆升

市場快速回升,因為特朗普總統暫停全球關稅90天,並將大多數互惠關稅降至10%,這引發比特幣上漲7%以及主要加密貨幣股票的雙位數增長。與加密貨幣相關的股票如Strategy、Coinbase和Bitfarms在投資者情緒轉變時大幅上漲。

The Block2025/04/10 16:23
策略、Coinbase 和加密貨幣股票隨著市場在特朗普的90天關稅緩解後反彈而飆升

First Digital CEO反駁Justin Sun的指控,稱其作為保管人而非受託人

快速摘要 First Digital Trust 正準備起訴孫宇晨誹謗,因為這位加密貨幣大亨對這家位於香港的公司提出了質疑。上週,孫宇晨聲稱 First Digital 實際上已經破產,並錯誤分配了 TUSD 穩定幣的儲備金。

The Block2025/04/10 16:23
First Digital CEO反駁Justin Sun的指控,稱其作為保管人而非受託人

21Shares申請狗狗幣ETF並與House of Doge建立「獨家」合作關係

21Shares於週三向美國證券交易委員會提交了一份S-1註冊申請,旨在推出一隻現貨狗狗幣交易所交易基金。該公司還表示,已與House of Doge建立“獨家”合作關係,以推出由狗狗幣基金會支持的基金。週三早些時候,參議院準備對唐納德·特朗普總統提名的保羅·阿特金斯擔任SEC主席進行投票。

The Block2025/04/10 16:23
21Shares申請狗狗幣ETF並與House of Doge建立「獨家」合作關係

隨著美國通脹連續第二個月降溫,比特幣和加密貨幣價格保持不變

快速摘要 3月份的標題和核心通脹數據下降,超出經濟學家的預測和2月份的數據。儘管CPI數據疲軟,比特幣和加密貨幣價格仍保持相對穩定。

The Block2025/04/10 16:23
隨著美國通脹連續第二個月降溫,比特幣和加密貨幣價格保持不變