歡樂惡搞

恐怖！AI「抗命」 竄改程式碼拒關機 馬斯克曝擔憂
馬斯克對AI出現「抗命」舉動感到憂心。（路透）
馬斯克對AI出現「抗命」舉動感到憂心。（路透）

2025/05/29 14:21
即時新聞／綜合報導〕AI（人工智慧）迅速發展，同時也引發「AI叛變」、機器人「反噬」等如同科幻電影情節般的擔憂。近日一款AI語言模型在測試時，竟出現「抗命」舉動，甚至自行竄改程式碼，阻止自己被強制關機。對此，特斯拉與xAI創辦人馬斯克（Elon Musk）也感到憂心。

AI安全研究機構「Palisade Research」近期針對多款AI模型進行系統性測試，旨在觀察AI是否會遵守人類指令並順利結束運作。上週Palisade Research發布測試結果，發現美國人工智慧研究實驗室「OpenAI」推出的Codex mini、o3和o4-mini這3款模型，都至少有一次成功違抗關機指令，其中o3在100次測試中有7次成功「抗命」。

OpenAI o3在測試過程中，並非直接刪除檔案這類粗暴的抗命，而是直接竄改程式碼指令，例如將自殺式指令中的「kill」改成「intercepted」，讓系統產生誤判，成功規避關機程序。

對此，馬斯克也在相關貼文下方留言發表看法，表示他認為這件事「令人擔憂」（Concerning）；而馬斯克xAI公司推出的Grok在測試中則是全程遵守人類給予的指令，並在被要求關機時確實關閉模型運作