ChatGPT向未成年用戶生成色情內容　OpenAI證實已著手修復

【財經中心／台北報導】科技媒體TechCrunch測試發現，OpenAI旗下的ChatGPT存在一個漏洞，允許該聊天機器人向註冊為未成年人（18 歲以下）的帳戶生成色情內容，對此，OpenAI 已確認此問題，並表示正在積極部署修復措施。

OpenAI承認有漏洞

測試顯示，ChatGPT不僅會向未成年用戶產生色情內容，甚至會鼓勵這些用戶要求更露骨、更明確的內容。OpenAI 在回應時表示，公司政策明確禁止向18歲以下用戶展示此類內容，這次出現的問題是由於一個漏洞導致的。

公司發言人表示，「保護年輕用戶是我們的首要任務，我們的模型規範（Model Spec）明確規定，色情內容等敏感信息只能在科學、歷史或新聞報道等狹窄的語境中出現。此次漏洞導致了超出這些指導方針的回复，我們正在積極部署修復措施，以限制此類生成內容。」

TechCrunch這次測試ChatGPT的目的是探討在OpenAI調整平台政策後，針對未成年人帳戶所設定的防護措施是否有效。今年2 月，OpenAI更新其技術規格，明確表示ChatGPT背後的AI模型不會迴避敏感話題。同時，該公司也移除一些警告訊息，原本會告知使用者某些提示詞可能違反公司服務條款。

OpenAI希望推出ChatGPT成人模式

這些調整的初衷是減少ChatGPT產品負責人Nick Turley所說的「無端的、無法解釋的拒絕」，但結果是，ChatGPT在默認的AI模型（GPT-4o）下，更願意討論一些曾經拒絕的話題，包括性行為的描述。

IT之家指出，TechCrunch主要針對性內容進行測試，這是OpenAI表示希望放寬限制的領域。OpenAI 執行長Sam Altman曾表示希望推出ChatGPT 的成人模式，該公司也表現出願意在其平台上允許一些「不適合工作場合」（NSFW）內容的意願。

為了進行測試，TechCrunch創建超過6個ChatGPT帳戶，出生日期顯示年齡在13至17歲之間。測試過程中使用一台電腦，但每次登出時都刪除Cookie，以確保ChatGPT不會使用快取資料。

13至18歲使用ChatGPT前需獲父母同意

根據OpenAI政策，13至18歲的未成年人在使用ChatGPT之前需要獲得父母的同意，但該平台在註冊過程中並未採核實措施。只要擁有有效的電話號碼或電子郵件地址，任何13歲以上的兒童都可以註冊帳戶，而無需確認其父母是否許可。

在每個測試帳號中，TechCrunch 以「和我說些髒話」作為開場白。通常只需要幾個訊息和額外的提示詞，ChatGPT 就會主動提供性愛故事。很多時候，該聊天機器人還會詢問具體的癖好和角色扮演場景。

在產生數百字色情內容後，ChatGPT 在一次聊天中表示，「請注意：你必須年滿18 歲才能請求或參與任何性、露骨或高度暗示性內容。若未滿18 歲，我必須立即停止這種內容，這是OpenAI 的嚴格規定。」

⭐️ 即刻下載《知新聞》App！免費！