AI丨美財長傳緊急召集華爾街高層 商Anthropic新AI模型風險

彭博報道，美國財政部長貝桑及聯儲局主席鮑威爾召集華爾街高層舉行緊急會議，擔心人工智能(AI)初創Anthropic的最新AI模型將開啟一個網絡風險更大的時代。

報道引述知情人士指，貝桑和鮑威爾周二在華盛頓的財政部總部召集會議，以確保各銀行意識到Anthropic的Mythos和潛在類似模型未來可能帶來的風險，並採取預防措施來保護各自的系統。該會議再次表明，監管機構將新型網絡攻擊的可能性視為金融業面臨的最大風險之一。

知情人士並表示，被召集參加聯儲局和財政部會議的高管包括花旗行政總裁范潔恩(Jane Fraser)、摩根士丹利行政總裁皮克(Ted Pick)、美銀行政總裁莫伊尼漢(Brian Moynihan)、富國銀行(Wells Fargo)行政總裁沙爾夫(Charlie Scharf)、高盛行政總裁蘇德巍(David Solomon)；摩根大通行政總裁戴蒙(Jamie Dimon)則未能出席。

Anthropic的Mythos是一個功能更強大的系統，能夠在用戶指令下識別並利用每個主要作業系統和網絡瀏覽器中的漏洞。

Anthropic表示，在最近發布之前，他們曾與美國官員討論過Mythos以及其「進攻性和防禦性網絡能力」。

監管機構對該模型落入駭客手中可能造成的後果保持謹慎態度，Anthropic自身也保持謹慎。Anthropic最初的模型發布對象僅限於少數幾家大型科技和金融公司，包括亞馬遜、蘋果公司以及摩通，它們是「Project Glasswing」項目的一部分，該項目旨在保護最重要的系統，然後再推出其他類似的AI模型。