在美國AI公司Anthropic公布最新AI模型的當(dāng)天，美國財政部部長貝森特和美聯(lián)儲主席鮑威爾召集華爾街高管舉行緊急會議，討論該模型的安全風(fēng)險。
這場會議于當(dāng)?shù)貢r間7日在位于華盛頓的財政部總部進(jìn)行，旨在確保各銀行意識到Anthropic的最新模型Mythos和其他類似模型的潛在風(fēng)險，并采取預(yù)防措施保護(hù)銀行系統(tǒng)。
據(jù)悉，被召集參會的華爾街高管包括花旗集團(tuán)首席執(zhí)行官簡·弗雷澤、摩根士丹利首席執(zhí)行官泰德·皮克、美國銀行首席執(zhí)行官布萊恩·莫伊尼漢、富國銀行首席執(zhí)行官查理·沙夫，以及高盛集團(tuán)首席執(zhí)行官大衛(wèi)·所羅門。知情人士還表示，摩根大通首席執(zhí)行官杰米·戴蒙未能出席。
截至目前，與會各方暫未對此事發(fā)表評論。
貝森特和鮑威爾在擔(dān)心什么？
讓美國政府如此緊張的是Anthropic目前在編碼、推理領(lǐng)域的最強模型“Claude Mythos Preview”（下稱“Mythos”）。這個7日才官宣的模型尚未對公眾開放，僅提供給特定的合作伙伴。
盡管Mythos為通用模型，并非專門針對網(wǎng)絡(luò)安全用途，但它已被證實能輕易識別主要操作系統(tǒng)和網(wǎng)絡(luò)瀏覽器的漏洞。Anthropic此前透露，該模型曾發(fā)現(xiàn)了OpenBSD（一個以安全性和嚴(yán)謹(jǐn)性著稱的類Unix系統(tǒng)）中一個存在了27年、現(xiàn)已被修復(fù)的漏洞。
Mythos的強大功能也意味著它可被黑客利用發(fā)動網(wǎng)絡(luò)攻擊。為此，Anthropic發(fā)起了一個名為“Project Glasswing”（玻璃之翼）的項目，向少數(shù)公司提供該模型權(quán)限，以檢測它們各自的產(chǎn)品可被黑客入侵的漏洞，并盡早發(fā)展出防御機制。“玻璃之翼”項目的首批合作伙伴包括亞馬遜網(wǎng)絡(luò)服務(wù)、谷歌、微軟等12家公司，摩根大通是其中唯一的金融機構(gòu)。目前Anthropic已將模型訪問權(quán)限擴展到了40多家組織，但未提供具體名單。
狂奔的Anthropic再度讓監(jiān)管緊張
此次緊急會議也意味著美國監(jiān)管機構(gòu)將新型網(wǎng)絡(luò)攻擊的可能性視為金融業(yè)面臨的最大風(fēng)險之一。
Anthropic表示，在發(fā)布Mythos前，已經(jīng)與美國政府就該模型的“進(jìn)攻性和防御性網(wǎng)絡(luò)能力”進(jìn)行溝通。該公司還稱，已經(jīng)準(zhǔn)備好與美國地方、州和聯(lián)邦代表合作，協(xié)助完成評估和減輕與人工智能模型相關(guān)的國家安全風(fēng)險。
當(dāng)前，Anthropic與美國政府的訴訟正在進(jìn)行中。美國國防部上月初宣布，正式把Anthropic定為“供應(yīng)鏈風(fēng)險”對象，禁止國防部以及防務(wù)承包商在相關(guān)項目中使用該公司的人工智能技術(shù)。隨后該公司起訴美國聯(lián)邦政府，稱因雙方在公司產(chǎn)品使用方面存在分歧，遭到對方打擊報復(fù)，被列入黑名單。本月8日，美國聯(lián)邦法院駁回了Anthropic提出的暫時阻止國防部將其列入黑名單的請求。
就在幾天前，Anthropic宣布公司年化收入（ARR）已超過300億美元，與2025年底的90億美元相比實現(xiàn)大幅增長。該公司計劃最快在今年第四季度沖刺IPO。
