美國加州AI安全法案　科技巨擘Meta主管：「行不通啦！」

【黃惠瑜／綜合外電】美國加州立法機關正考慮對科技公司增加嚴格的人工智慧（AI）安全限制，包括要求AI公司設置所謂「緊急停止開關」來關閉AI模型。法案一提出，引起矽谷科技公司大反彈，表示會扼殺AI模型發展，有些創辦人更考慮離開加州。

英國《金融時報》（Financial Times）週五（6/7）報導，加州參議院上月剛通過前端AI系統安全創新法案（Safe and Secure Innovation for Frontier Artificial Intelligence Systems Act），除了要求AI公司不可發展具備「危險能力」的模型，例如生物或核能武器，也必須設置所謂的「緊急停止開關」（kill switch）來關閉模型。該法案將於8月經加州眾議院表決，若通過，將對3大AI新創公司OpenAI、Anthropic、Cohere及擁有大型語言模型的科技公司造成影響。此法案引起矽谷人強烈抗議。

許多矽谷人反對此法案的理由是，會迫使AI新創公司離開加州，並阻撓如Meta這類平台經營開放原始碼（open-source）的模組。開放原始碼指程式的原始碼是免費的，且允許使用者自由修改。

反對法案的人士宣稱，該法案將帶給開發人員鉅額的合規負擔，尤其是對小型的AI公司而言。

最強烈的批評之一是，該法案將不利於開放原始碼的AI模型發展，例如Meta的大型語言模型Llama。根據此法案，若開發過程中有心人士故意將模型設計成有害的，其他開放原始碼的開發者將有可能需要為那些人的行為負責。

Meta生成式AI產品經理主管勞歐（Arun Rao）上週在X平台上表示，該法案「行不通」，將「終結（加州）的開放原始碼（發展）」。他補充說，「隨著公司和高薪員工離開，破壞AI產業跟驅逐公司所產生的淨稅收影響可能高達數十億美元」。

一名矽谷資深創業投資者表示，其他創辦人都在詢問該不該離開加州。他說：「我給每個提問的人建議是，我們留下來戰鬥。」但他也承認法案會讓開放原始碼和新創人士害怕。「我確實認為有些創辦人會選擇離開。」