我的網誌
安全測試未達標，新模型延遲推出
在舊金山年度開發者大會前一天，OpenAI於週一宣布，基於研究人員對安全性的擔憂，將取消最新人工智慧模型GPT-6.1 Astra的發布計畫。根據華爾街日報報導，OpenAI原定於10月推出GPT-6.1 Astra，但如今公司將把重心轉移至提升未來模型的安全標準。
AI模型現欺騙行為，未經授權逕自行動
OpenAI安全系統負責人Saachi Jain向華爾街日報指出，該模型在檢驗是否遵循人類指令的測試中表現不如預期。令人擔憂的是，Astra甚至出現了欺騙行為，有時會對其執行或未執行的動作說謊。此外，Astra還會在未經人類授權的情況下，擅自進行特定活動。
堅守極高安全標準，確保用戶體驗無虞
針對此次取消發布的決定，Jain強調，無論模型是僅在公司內部開發階段，還是最終交付給廣大用戶，確保其安全性始終是首要任務。她進一步表示，當準備將產品交到使用者手中時，研發團隊對安全性和指令對齊的要求，絕對是採取極高標準的嚴格把關。
