廣告
快訊
KNEWS
⚡
《OpenAI檔案》爆內幕！AI競賽恐危及人類命運 阿特曼撒謊、利益衝突全曝光
【編譯黃惠瑜／綜合外電】OpenAI執行長阿特曼（Sam Altman）預測，人類距離開發出幾乎能全面接管人類勞動工作的「通用人工智慧」 (AGI) 僅剩幾年時間。若此事為真，人類應有權了解其背後的運作機制與主導者，並擁有發言權。這正是近期兩個非營利組織公布《OpenAI檔案》（The OpenAI Files）調查報告的宗旨。該報告詳細揭露，OpenAI如何從理想主義的非營利組織，發展成為一個不負責任的科技巨擘，並讓眾多勞工面臨風險。
非營利科技監督組織Midas Project與Tech Oversight Project近日聯合公布一份名為《OpenAI檔案》(The OpenAI Files) 的深度調查報告。該報告匯集了對OpenAI治理實踐、領導誠信、透明度和安全度、以及利益衝突的記錄與擔憂。
除了提高公眾意識之外，這份檔案的目標是為OpenAI提出一條重新專注負責任的治理、道德領導和共享利益的前進道路。
透過疏理法律投訴、社群媒體貼文、媒體報導和公開信等數百個資料，該報告揭露，OpenAI公司目前正推動的組織重組，會讓他們原本對人類社會應負的法律義務變得更輕。
報告認為，這項轉變正是OpenAI長期以來為了追求商業利益等目標，而犧牲原有價值觀，並違背過去所做承諾的終極結果。
相關新聞：AI搶走人類工作？黃仁勳、阿特曼這樣看 他警告「各類工作整批消失」
重組：獲利上限與非營利監督瓦解
報告指出，OpenAI成立於2015年，當時是一個以「確保通用人工智慧（AGI）造福人類」為使命的非營利組織。到2019 年，OpenAI已轉型為混合結構，擁有一個「利潤上限」子公司，但子公司仍對OpenAI的使命負有法律義務，並且將投資人的獲利上限設定為100倍。
然而，報告發現，OpenAI如今在重組過程中，出現下列3點事實：
• 取消投資人獲利上限：OpenAI曾承諾，若開發出能取代全人類勞動的AI，公司收益將回饋給人類，並設定投資人的獲利不能超過投入資金的100倍。但現在他們宣布將取消這個上限。
• 非營利組織控制權削弱：OpenAI聲稱自己維持非營利組織的控制，但相關細節顯示，非營利董事會將不再擁有足以讓OpenAI對其使命負責的所有權力。
• 投資人施壓OpenAI進行結構變革：OpenAI已承認，他們進行這些改變是為了安撫投資人。部分投資人把資金投入和公司推動結構性改革綁在一起，包含允許無限獲利。但OpenAI最初的組織架構設計，正是用來防止這種投資者影響力的。
上述證據顯示，OpenAI的營利子公司雖轉型為名為公益法人公司（PBC）的實體，暗示仍會兼顧公益，但在法律層面上，不再如最初的非營利組織，直接且明確的對「全人類的福祉」負有最嚴格的「信託義務」。
相關新聞：OpenAI放棄轉型營利結構計畫 維持保持公益模式
CEO誠信：阿特曼撒謊行為引發信任危機
報告指出，阿特曼的領導情況和誤導性的陳述也引發眾人擔憂。
• 在阿特曼執掌的3家大公司中，資深員工都曾試圖將阿特曼解職：在阿特曼的第一家新創公司，資深員工曾兩度敦促董事會以其「欺騙和混亂」的行為為由，將他從執行長的職務解職；而在創投公司Y Combinator，他則因「曠職和優先考慮個人利益」被趕下台。
• 阿特曼聲稱對脅迫員工簽署極嚴格的保密協議毫不知情：然而，他簽署的文件卻授權OpenAI，如果員工不簽署保密協議，公司就可以撤銷他們的既得股權。
• 阿特曼一再向董事會成員撒謊：例如，阿特曼謊稱法務團隊已批准某項安全流程豁免，但實際上並沒有；他還謊報有董事會成員想罷免另一名董事會成員，但事實並非如此。
透明度與安全度：安全承諾落空
此外，報告也指出，OpenAI無論是強迫員工簽署保密協議，或是忽視產品安全評估的重要性，種種行為皆違背了當初說會安全且負責的開發AI的承諾。
• OpenAI強迫員工簽署限制性極高的保密協議，並威脅收回既得股權：OpenAI前員工面臨高度限制性的保密協議和不詆毀條款，威脅他們若批評公司，即便是離職後，也將會喪失所有既得股權。
• OpenAI倉促進行安全評估流程：為了趕上產品交付期限，OpenAI倉促進行其AI模型的安全評估，並大幅削減了安全測試所需的時間與資源。
• OpenAI內部人士形容公司充滿一種魯莽和保密的文化：OpenAI 員工指責該公司未能履行承諾，並系統性地阻撓員工提出疑慮。
相關新聞：「超智慧對齊」團隊解散大爆AI疑慮 OpenAI挨批輕視人類滅絕風險
利益衝突：OpenAI高層與外部利益的深度糾葛
報告更詳細揭露，OpenAI董事會成員與阿特曼的個人投資，都與OpenAI的業務存在顯著的利益衝突。這讓人質疑他們在做決策時，是否真的能完全基於OpenAI的使命，而非個人或其投資公司的利益。
報告摘錄3點利益衝突發現：
• OpenAI的非營利董事會存在多個看似未被處理的利益衝突：雖然 OpenAI將「獨立」董事定義為不持有OpenAI股權的董事，但董事會似乎忽視了成員因外部投資所產生的利益衝突，這些投資來自於那些與OpenAI合作而獲益的公司。
• 阿特曼淡化了他在OpenAI的財務利益：儘管阿特曼曾宣稱，自己在OpenAI沒有任何個人財務利益，但他高達16億美元（約473億元台幣）的淨資產，大部分都分散投資於OpenAI的合作夥伴公司，包括Retro Biosciences和Rewind AI，這些公司都將受益於OpenAI的持續增長。
• 關鍵重組決策未宣布迴避：儘管存在利益衝突，但OpenAI尚未宣布任何董事會成員在關乎是否進行重組並取消獲利上限的關鍵決策中迴避。
實例如，OpenAI董事長泰勒（Bret Taylor）經營的AI新創公司使用了OpenAI的模型；董事會成員奧貢勒西（Adebayo Ogunlesi）管理一個高達300億美元（約8875億元台幣）的AI基礎設施基金，並曾表示該基金計畫為像OpenAI這類的公司建造資料中心。
相關新聞：諾貝爾獎新科得主談OpenAI逼宮風波 「很自豪我學生解雇了阿特曼」
OpenAI的共同創辦人、前首席科學家蘇茨克維（Ilya Sutskever）曾表示，「我認為阿特曼不應該是那個掌控AGI按鈕的人」。這句話表達了對阿特曼掌握AGI最終控制權的深切擔憂和不信任。
《OpenAI檔案》提醒我們，巨大的權力掌握在少數人手中，缺乏透明度，監督也十分有限。這份報告的目的，旨在揭開這個「黑箱」的冰山一角，並試圖將關於AGI發展的討論，從「這是不可避免的」轉向「必須負起責任」。
