加州州長否決備受爭議的人工智能安全法案

作者：Tom Mitchelhill，CoinTelegraph；編譯：陶朱，金色財經

加州州長加文·紐瑟姆否決了一項備受爭議的人工智能 (AI) 法案，認為該法案會阻礙創(chuàng)新，無法保護公眾免受技術帶來的“真正”威脅。

9 月 30 日，紐瑟姆否決了 SB 1047（即《前沿人工智能模型安全創(chuàng)新法案》），該法案遭到了硅谷的強烈反對。

該法案提議對人工智能模型和其他護欄進行強制性安全測試，科技公司擔心這會扼殺創(chuàng)新。

紐瑟姆在 9 月 29 日的一份聲明中表示，該法案過于注重監(jiān)管現(xiàn)有的頂級人工智能公司，而沒有保護公眾免受新技術帶來的“真正”威脅。

“相反，該法案對最基本的功能都采用了嚴格的標準——只要大型系統(tǒng)部署了它。我不認為這是保護公眾免受技術帶來的真正威脅的最佳方法?！?/p>

SB 1047 由舊金山民主黨參議員 Scott Wiener 起草，還要求加州的開發(fā)者（包括 ChatGPT 制造商 OpenAI、Meta 和 Google 等大牌）為他們的 AI 模型實施“終止開關”，并發(fā)布緩解極端風險的計劃。

如果該法案得以實施，AI 開發(fā)者在受到 AI 電網接管等模型的持續(xù)威脅的情況下，也有可能被州檢察長起訴。

紐森表示，他已要求世界領先的 AI 安全專家?guī)椭又荨爸贫尚械淖o欄”，重點是創(chuàng)建“基于科學的軌跡分析”。他補充說，他已下令州政府機構擴大對 AI 發(fā)展可能引發(fā)的災難性事件風險的評估。

盡管紐森否決了 SB 1047，但他表示必須為人工智能制定足夠的安全協(xié)議，并補充說監(jiān)管機構不能“等到重大災難發(fā)生后才采取行動保護公眾”。

紐森補充說，他的政府在過去 30 天內簽署了 18 多項有關人工智能監(jiān)管的法案。

政客和大型科技公司反對人工智能安全法案

在紐森做出決定之前，該法案在立法者、顧問和大型科技公司中并不受歡迎。

眾議院議長南希·佩洛西和 OpenAI 等公司表示，這將嚴重阻礙人工智能的發(fā)展。

Abundance Institute 的人工智能政策負責人 Neil Chilson 警告說，雖然該法案主要針對具有一定成本和規(guī)模的模型（成本超過 1 億美元的模型），但其范圍很容易擴大，以打擊規(guī)模較小的開發(fā)商。

但有些人對該法案持開放態(tài)度。億萬富翁埃隆·馬斯克正在開發(fā)自己的人工智能模型“Grok”，他是少數(shù)支持該法案并更廣泛地制定人工智能法規(guī)的科技領袖之一。

在 8 月 26 日發(fā)給 X 的帖子中，馬斯克表示“加州應該通過 SB 1047 人工智能安全法案”，但他承認支持該法案是一個“艱難的決定”。