美國三名民主黨聯邦參議員呼籲蘋果 (AAPL.US) 與 Google(GOOGL.US) ，要求將社群平台 X 與生成式人工智慧應用 Grok 自 App Store 與 Google Play 下架，至少在馬斯克(平台所有人) 採取有效措施、禁止用戶製作與散播未經同意的露骨影像及兒童性虐待內容之前，暫停相關應用程式上架。此舉使大型科技公司在內容審核責任上的立場再次成為焦點。
俄勒岡州參議員 Ron Wyden、麻薩諸塞州參議員 Ed Markey 及新墨西哥州參議員 Ben Ray Luján 於週五 (9 日) 聯名致函蘋果執行長庫克與 Google 執行長皮查伊，要求兩家公司「立即將 X 與 Grok 應用程式自其應用商店移除，直到公司執行長馬斯克正面處理這些令人不安、且極可能違法的行為」。信中警告，若科技巨頭對相關問題視而不見，將使其內容審核政策形同虛設，並削弱其長期主張「應用商店下載環境較直接側載應用更安全」的說法。
由馬斯克創立的 xAI 為 Grok 的開發商，同時也是社群平台 X 的母公司。xAI 對媒體詢問僅以自動回覆回應，蘋果與 Google 則未立即發表評論。參議員指出，Grok 與 X 允許用戶輕易生成並大量散播「深偽」露骨性內容，影像中往往涉及未曾同意肖像被使用的個人，Grok 亦被用來製作帶有種族或族裔貶抑意味的影像。
相關爭議近期引發國際關注。英國媒體報導，一名大屠殺倖存者後代遭 Grok 生成「數位去衣」影像，畫面為該名女性穿著比基尼站在奧斯威辛集中營前。事件引發輿論譴責，也促使歐洲、馬來西亞、澳洲及印度等多國政府展開監管調查。不過，美國聯邦貿易委員會與司法部尚未表態是否對 xAI 展開調查。
馬斯克與 X 於 1 月 3 日發表聲明指出，「任何使用或提示 Grok 製作非法內容的行為，都將承擔與上傳非法內容相同的後果」。然而，批評者認為相關說法並未有效阻止問題內容的產生與擴散。
依照蘋果與 Google 對應用程式開發者的規範，平台須防止涉及兒童性虐待影像及其他有害或露骨內容的上傳與分享。過去，Tumblr 與 Telegram 等社群與通訊應用，曾因未能有效過濾不當內容而遭蘋果下架。
報導指出，X 已於週五將 Grok 的 AI 影像生成功能限制為付費用戶使用，但 Grok 的獨立應用程式與網站仍允許用戶在未取得當事人同意的情況下，生成去衣、性化或貶抑他人的影像內容。CNN 引述消息稱，這些功能更新與相對薄弱的安全防護措施，係依馬斯克要求推動，xAI 安全團隊中已有三名成員因此宣布離職。
儘管爭議不斷，xAI 本週仍宣布完成 200 億美元募資，投資人包括輝達、思科投資部門，以及 Valor Equity Partners、StepStone Group、富達投資、卡達投資局、阿布達比 MGX 與 Baron Capital Group 等長期支持馬斯克企業的機構。
(美股為即時串流報價； OTC市場股票除外，資料延遲最少15分鐘。)新聞來源 (不包括新聞圖片): 鉅亨網