邪惡版GPT橫行！全球駭客尋找AI漏洞 資安問題日益嚴重 【編譯黃惠瑜／綜合外電】正當士農工商各行各業期盼借人工智慧（AI）之力加速翻轉時，全球卻有另一群網路駭客正在利用AI的弱點，將原本AI模型改編成各種有害的模型，例如編寫惡意程式碼竊取使用者的機密資料，或為詐騙集團建立客製化的自動式網路釣魚攻擊。目前AI專家已在大型AI身上找到各種漏洞，包括OpenAI的ChatGPT、臉書母公司Meta的Llama、谷歌的Gemini，顯示科技公司求快推出AI，將導致資安危機變得日益嚴重。 2024/06/22 12:51 國際 熱搜話題
OpenAI前首席科學家創立新公司 獨一重點：開發安全的超智慧 【編譯黃惠瑜／綜合外電】繼OpenAI前安全團隊關鍵領導人萊克上月底宣布加入新創公司Anthropic，繼續管控人工智慧（AI）安全後，OpenAI共同創辦人、前首席科學家蘇茨克維也在週三（6/19）宣布成立新公司，旨在建立安全的超級人工智慧（superintelligence，簡稱超智慧），新公司名稱直接叫作「安全的超智慧」（Safe Superintelligence Inc.，簡稱SSI）。 2024/06/20 11:54 國際 熱搜話題
獨家｜「AI對齊」避免人工智慧出餿主意 專家：永遠做不完！要持續精進 【記者王良博／台北報導】ChatGPT等人工智慧（AI）大型語言模型正夯，卻也衍生AI對齊問題（alignment problem）。陽明交大資訊工程學系特聘教授吳毅成解釋，當AI回答問題時，能不造成危害、符合期待，「不出餿主意」，即是「對齊」。他也指出，「對齊一定做不完」，就像資安、防毒技術，不可能做到100％擋下病毒或攻擊，AI對齊技術也要持續精進。 2024/05/31 19:30 生活
「AI對齊」議題 數位部採取4大行動面對 【記者蕭文康／台北報導】有鑒於人工智慧（AI）近期蓬勃發展，但也帶來許多挑戰，「AI對齊」議題引發關注。確保其應用與全民利益保持一致，數位發展部指目前先從4大措施做起，包括成立AI評測中心、發布AI評測指引、成為國際非政府組織「集體智慧計畫」合作夥伴、舉辦「運用AI促進資訊完整性審議式民主活動」，邀請國際重要AI廠商進行交流，例如Meta、Google、Microsoft、OpenAI等與會廠商皆認同AI須具備可信任、準確性及安全等重要特性。 數位部強調，未來將持續與各界對話，致力推動可信任AI，協力創造社會所需的各項AI應用服務。 2024/05/31 18:43 財經 科技新知
報你知：「AI對齊」和「超智慧對齊」新知 【黃惠瑜／綜合外電】AI人工智慧研發中有個重要議題，稱為AI對齊問題（alignment problem），指的是AI雖有能力完成人類指令，但它的回答不一定是人類原本想要或預期的答案。對齊就是將AI控制在符合人類原本意圖的目標、偏好和道德倫理範圍內。 2024/05/31 12:43 國際 寰宇要聞
