諾貝爾獎新科得主談OpenAI逼宮風波 「很自豪我學生解雇了阿特曼」 【編譯張翠蘭/綜合外電】被業界喻為「深度學習之父」的2024諾貝爾物理獎新科得主辛頓,不斷呼籲世界關注他催生的人工智慧(AI)技術對人類帶來之風險,也絲毫不掩飾對當今業界龍頭OpenAI執行長阿特曼領導能力有意見。辛頓日前獲獎後談及樂見阿特曼去年一度遭「逼宮」開除事件,並對於昔日得意門生在此風波發揮關鍵作用而感到自豪。 2024/10/10 13:45 國際 熱搜話題
OpenAI前首席科學家創立新公司 獨一重點:開發安全的超智慧 【編譯黃惠瑜/綜合外電】繼OpenAI前安全團隊關鍵領導人萊克上月底宣布加入新創公司Anthropic,繼續管控人工智慧(AI)安全後,OpenAI共同創辦人、前首席科學家蘇茨克維也在週三(6/19)宣布成立新公司,旨在建立安全的超級人工智慧(superintelligence,簡稱超智慧),新公司名稱直接叫作「安全的超智慧」(Safe Superintelligence Inc.,簡稱SSI)。 2024/06/20 11:54 國際 熱搜話題
「超智慧對齊」團隊解散大爆AI疑慮 OpenAI挨批輕視人類滅絕風險 【張翠蘭/綜合外電】人工智慧(AI)聊天機器人ChatGPT開發商OpenAI,旗下風險控制團隊「超智慧對齊」(Superalignment)日前宣告解散,使得旨在保護人類文明免受AI侵害的計劃成立不到1年就瓦解。有團隊成員大爆對AI發展的安全疑慮,並稱對執行長阿特曼「失去信任」。各界也高度關注OpenAI日後的安全相關工作如何把關。 2024/05/31 12:43 國際 熱搜話題
報你知:「AI對齊」和「超智慧對齊」新知 【黃惠瑜/綜合外電】AI人工智慧研發中有個重要議題,稱為AI對齊問題(alignment problem),指的是AI雖有能力完成人類指令,但它的回答不一定是人類原本想要或預期的答案。對齊就是將AI控制在符合人類原本意圖的目標、偏好和道德倫理範圍內。 2024/05/31 12:43 國際 寰宇要聞
OpenAI阿特曼掛帥新安全團隊 「球員兼裁判」成效等著看 【張翠蘭/綜合外電】美國科技公司OpenAI數名高級安全管控人員日前陸續出走,引發各界關注這家AI先驅在對抗Google「Gemini」AI模型和科技大亨馬斯克旗下新創xAI等激烈競爭的同時,能否做好產品安全把關。對此,OpenAI周二(5/28)宣布成立新的安全保障監委會,由執行長阿特曼等人領軍。 2024/05/29 17:26 國際 熱搜話題
OpenAI前安全團隊負責人「帶槍投靠」 加盟競爭對手Anthropic 【張翠蘭/綜合外電】美國人工智慧(AI)先驅OpenAI的安全技術風險管控團隊前關鍵領導人萊克,周二(5/28)宣布加入AI新創「Anthropic」,成為競爭對手的要員,延續其在前東家的工作領域,把關研發中的AI不會成為毀滅人類的強大系統。 2024/05/29 15:45 國際 熱搜話題