邪惡版GPT橫行！全球駭客尋找AI漏洞 資安問題日益嚴重 【編譯黃惠瑜／綜合外電】正當士農工商各行各業期盼借人工智慧（AI）之力加速翻轉時，全球卻有另一群網路駭客正在利用AI的弱點，將原本AI模型改編成各種有害的模型，例如編寫惡意程式碼竊取使用者的機密資料，或為詐騙集團建立客製化的自動式網路釣魚攻擊。目前AI專家已在大型AI身上找到各種漏洞，包括OpenAI的ChatGPT、臉書母公司Meta的Llama、谷歌的Gemini，顯示科技公司求快推出AI，將導致資安危機變得日益嚴重。 2024/06/22 12:51 國際 熱搜話題
OpenAI前首席科學家創立新公司 獨一重點：開發安全的超智慧 【編譯黃惠瑜／綜合外電】繼OpenAI前安全團隊關鍵領導人萊克上月底宣布加入新創公司Anthropic，繼續管控人工智慧（AI）安全後，OpenAI共同創辦人、前首席科學家蘇茨克維也在週三（6/19）宣布成立新公司，旨在建立安全的超級人工智慧（superintelligence，簡稱超智慧），新公司名稱直接叫作「安全的超智慧」（Safe Superintelligence Inc.，簡稱SSI）。 2024/06/20 11:54 國際 熱搜話題
獨家｜「AI對齊」避免人工智慧出餿主意 專家：永遠做不完！要持續精進 【記者王良博／台北報導】ChatGPT等人工智慧（AI）大型語言模型正夯，卻也衍生AI對齊問題（alignment problem）。陽明交大資訊工程學系特聘教授吳毅成解釋，當AI回答問題時，能不造成危害、符合期待，「不出餿主意」，即是「對齊」。他也指出，「對齊一定做不完」，就像資安、防毒技術，不可能做到100％擋下病毒或攻擊，AI對齊技術也要持續精進。 2024/05/31 19:30 生活
「超智慧對齊」團隊解散大爆AI疑慮 OpenAI挨批輕視人類滅絕風險 【張翠蘭／綜合外電】人工智慧（AI）聊天機器人ChatGPT開發商OpenAI，旗下風險控制團隊「超智慧對齊」（Superalignment）日前宣告解散，使得旨在保護人類文明免受AI侵害的計劃成立不到1年就瓦解。有團隊成員大爆對AI發展的安全疑慮，並稱對執行長阿特曼「失去信任」。各界也高度關注OpenAI日後的安全相關工作如何把關。 2024/05/31 12:43 國際 熱搜話題
報你知：「AI對齊」和「超智慧對齊」新知 【黃惠瑜／綜合外電】AI人工智慧研發中有個重要議題，稱為AI對齊問題（alignment problem），指的是AI雖有能力完成人類指令，但它的回答不一定是人類原本想要或預期的答案。對齊就是將AI控制在符合人類原本意圖的目標、偏好和道德倫理範圍內。 2024/05/31 12:43 國際 寰宇要聞
OpenAI阿特曼掛帥新安全團隊 「球員兼裁判」成效等著看 【張翠蘭／綜合外電】美國科技公司OpenAI數名高級安全管控人員日前陸續出走，引發各界關注這家AI先驅在對抗Google「Gemini」AI模型和科技大亨馬斯克旗下新創xAI等激烈競爭的同時，能否做好產品安全把關。對此，OpenAI周二（5/28）宣布成立新的安全保障監委會，由執行長阿特曼等人領軍。 2024/05/29 17:26 國際 熱搜話題
OpenAI前安全團隊負責人「帶槍投靠」 加盟競爭對手Anthropic 【張翠蘭／綜合外電】美國人工智慧（AI）先驅OpenAI的安全技術風險管控團隊前關鍵領導人萊克，周二（5/28）宣布加入AI新創「Anthropic」，成為競爭對手的要員，延續其在前東家的工作領域，把關研發中的AI不會成為毀滅人類的強大系統。 2024/05/29 15:45 國際 熱搜話題
OpenAI要打造比地球人聰明的「超智慧」 現在後悔改口了 【黃惠瑜／綜合外電】聊天機器人ChatGPT研發公司OpenAI前陣子突然解散「超智慧對齊」（Superalignment）團隊後，各界矛頭指向OpenAI忽視人工智慧（AI）安全與風險問題，近日公司高層連忙改口說「超智慧」（superintelligence）不是公司發展目標，目前專心發展新一代AI就好。 2024/05/29 15:00 國際 熱搜話題
