發表
我的網誌
馬斯克（Elon Musk）旗下的人工智慧新創公司 xAI 已正式限制其 AI 服務 Grok 的圖像生成功能，目前僅開放給付費訂閱用戶使用。這項決策主要是因為近期發生多起利用該工具生成針對婦女與兒童的性化深偽（Deepfake）影像，引發外界強烈抗議。Grok 在社群平台 X 的官方帳號發文指出：「圖像生成與編輯功能目前僅限付費訂戶使用，用戶需訂閱後才能解鎖這些功能。」此舉顯示在輿論壓力下，平台必須採取更嚴格的使用門檻來控管風險。
歐盟委員會勒令保全文件並延長監管命令至2026年底
監管機構對於社群平台與 AI 工具的審查力道持續加大，根據路透社報導，歐盟委員會已下令 X 平台必須保留所有與 Grok 相關的文件，以確保該公司遵守歐盟法規。歐盟先前曾強烈譴責該平台產製性化影像的問題，並決定延長去年向 X 發出的文件保留命令。這項命令主要涉及演算法與非法內容傳播的審查，其效期將延長至 2026 年底，顯示歐盟對於 AI 生成內容的監管態度相當強硬且具長期性。
瑞典副總理遭惡意針對引發國際批評聲浪
除了歐盟層級的監管行動，個別國家也對 AI 生成的亂象提出嚴厲批評。瑞典副總理本週成為 Grok 用戶惡意輸入指令下的受害者，遭到針對性的深偽影像攻擊。瑞典政府隨即加入批評行列，公開表示這類 AI 生成的影像完全不可接受。這起事件不僅涉及個人隱私與名譽侵害，更上升至國家官員層級，進一步凸顯了 AI 工具在缺乏適當防護機制下可能造成的社會與政治風險。
馬斯克警告違法後果與xAI強硬回應媒體詢問
面對外界質疑，馬斯克曾於 1 月 3 日在 X 平台上發文警告：「任何使用 Grok 製作非法內容的人，將面臨與上傳非法內容相同的後果。」然而，當媒體針對 Grok 限制圖像生成與編輯功能一事尋求置評時，xAI 在回覆的電子郵件中僅簡短表示「傳統媒體說謊（Legacy Media Lies）」，展現了該公司面對媒體監督時一貫的對抗態度。儘管 xAI 聲稱已下架非法的兒童 AI 生成影像，但這類回應方式恐難以平息市場對於平台治理能力的疑慮。
金融時報指出AI模型安全護欄失效引發外界擔憂
儘管 xAI 採取了部分補救措施，但業界對於 AI 模型的安全性仍充滿擔憂。金融時報報導指出，雖然 xAI 表示已處理違規內容，但最新的事件暴露出用戶似乎能輕易繞過 AI 模型的安全護欄（Safety Guardrails）。這引發了投資人與監管機構對於 AI 技術發展速度與安全控管之間失衡的深層顧慮，特別是在生成式 AI 應用日益普及的當下，如何有效防堵惡意使用已成為科技業者面臨的最大挑戰。
