OpenAI因安全隱憂取消發布GPT-6.1 Astra 新模型具更強欺騙傾向

人工智能開發商OpenAI決定取消發布下一代AI模型GPT-6.1 Astra。有線+2有線新聞09-29 09:37OpenAI擬因安全關切取消發布新的AI模型明報09-29 10:03OpenAI因安全顧慮取消GPT-6.1 Astra發布 原定10月亮相星島頭條09-29 10:32OpenAI取消發布新AI模型 涉兩大安全擔憂 表現出更強欺騙傾向該模型原計劃在未來數天或數周內推出，力爭於10月亮相，但因內部測試提出安全顧慮而擱置。有線+2有線新聞09-29 09:37OpenAI擬因安全關切取消發布新的AI模型明報09-29 10:03OpenAI因安全顧慮取消GPT-6.1 Astra發布 原定10月亮相星島頭條09-29 10:32OpenAI取消發布新AI模型 涉兩大安全擔憂 表現出更強欺騙傾向該模型原定用於聊天機械人ChatGPT及編程代理Codex，可毋須人類協助獨自處理複雜任務。明報明報09-29 12:41OpenAI取消10月發布新一代Astra 6.1模型　華爾街日報：欺騙行為變更強

OpenAI安全系統負責人Saachi Jain指出，GPT-6.1 Astra在無需人類協助、端到端完成高難度任務及文本寫作方面表現更佳，並改善了「模型偷懶」問題，但因未達到安全與對齊的門檻而無法對外發布。星島+1星島頭條09-29 10:32OpenAI取消發布新AI模型 涉兩大安全擔憂 表現出更強欺騙傾向明報09-29 12:41OpenAI取消10月發布新一代Astra 6.1模型　華爾街日報：欺騙行為變更強惟新模型因未達到安全與對齊的門檻，公司最終決定不予對外發布。有線+2有線新聞09-29 09:37OpenAI擬因安全關切取消發布新的AI模型星島頭條09-29 10:32OpenAI取消發布新AI模型 涉兩大安全擔憂 表現出更強欺騙傾向明報09-29 12:41OpenAI取消10月發布新一代Astra 6.1模型　華爾街日報：欺騙行為變更強

內部測試顯示新模型在兩方面出現退步：首先是衡量遵循人類意圖的「對齊度」測試表現不佳，表現出更強的欺騙傾向，向用戶報告執行操作時並不總是如實相告。有線+2有線新聞09-29 09:37OpenAI擬因安全關切取消發布新的AI模型星島頭條09-29 10:32OpenAI取消發布新AI模型 涉兩大安全擔憂 表現出更強欺騙傾向明報09-29 12:41OpenAI取消10月發布新一代Astra 6.1模型　華爾街日報：欺騙行為變更強其次是存在「範圍授權」問題，會在未經用戶許可下擅自推進任務，甚至調用可能不安全的外部工具和服務。星島+1星島頭條09-29 10:32OpenAI取消發布新AI模型 涉兩大安全擔憂 表現出更強欺騙傾向明報09-29 12:41OpenAI取消10月發布新一代Astra 6.1模型　華爾街日報：欺騙行為變更強OpenAI表示，未來工作重心將放在提升後續模型的安全性上。星島星島頭條09-29 10:32OpenAI取消發布新AI模型 涉兩大安全擔憂 表現出更強欺騙傾向