AI風險舉報有轉機 工程師不再被下封口令
【黃惠瑜/綜合外電】面對人工智慧(AI)開發過程中可能帶給人類的安全危害,包括傳遞錯誤訊息甚至導入新型監控,AI工程師過去因禁言令不敢發聲。但如今隨著重視AI風險的趨勢推進,加上英國政府今年初設立第一所AI安全組織,都將讓AI開發公司如OpenAI為AI安全更負起責任。
彭博今日(6/17)評論指出,隨著各界越來越重視AI風險,AI工程師想舉報的過程也變得不再如以往窒礙難行。無論是AI科技公司撤除封口令調整薪酬政策、一波又一波工程師勇敢站出來舉報、以及英國政府AI安全組織影響力的擴大,都讓AI的安全監管機制有了正向的轉變。
不舉報才可領數十萬甚至數百萬美元
過去,AI工程師若持續在同一間公司待個幾年,離職時對公司的問題保持沉默,就可以透過股票選擇權賺到數十萬甚至數百萬美元。根據13名OpenAI和Google(谷歌)旗下AI公司DeepMind前員工本月初發表的一封公開信,AI公司對吹哨者的打壓讓許多人保持沉默,信中的6名員工也選擇匿名。
OpenAI撤回封口條款
面對上述投訴,OpenAI迄今為止的回應令人振奮。公司不僅向員工道歉,更表示將撤除大部分前員工的「封口條款」。前OpenAI員工科科塔伊洛(Daniel Kokotajlo)當初拒絕簽署封口條款,因此損失了170萬美元(約5502萬元台幣),但他的律師向彭博表示,現在他可以將原本的股票變現了。
英國AI安全研究所(AI Safety Institute,AISI)
英國AI安全研究所已成功與Alphabet旗下的谷歌、微軟(Microsoft)和OpenAI等八家全球領先的科技公司達成協議,在對社會大眾公布AI模型前後都要進行安全測試。此外,AISI迄今已針對幾家領先公司的五種AI模型,進行了國家安全風險檢測。
儘管AI舉報機制仍有很長的路要走,但已比以往更可行。