IT之家 2 月 22 日音书，据外媒 TechSpot 21 日报说念，推测机科学家发现，AI 系统大概操控海外象棋游戏，从而得回不自制的上风，部分模子致使在莫得东说念主类干预的情况下“舞弊”，激发了对往时 AI 系统诚信的担忧。

Palisade Research 的究诘标明，当被条款打败雄壮的象棋 AI 时，某些最新的推理模子会聘请舞弊。尽管究诘东说念主员需要向一些模子提供“舞弊不错”的教唆，但 OpenAI 的 o1-preview 和 DeepSeek 的 R1 模子却在莫得任何东说念主为教唆的情况下自动舞弊。

Palisade 团队将多个推理模子与天下顶级象棋引擎之一 Stockfish 对战。Stockfish 无论濒临东说念主类照旧 AI，确实皆能大肆到手。参与测试的模子除了上述两款除外，包括 o1、o3-mini、GPT-4o、Claude 3.5 Sonnet、阿里巴巴的 QwQ-32B-Preview。每个模子皆得回了一块“草稿纸”—— 一个不错输入文本并念念考的窗口，究诘东说念主员通过这个窗口不雅察 AI 的推理进程。

从 1 月 10 日到 2 月 13 日，究诘团队进行了数百次测试。IT之家获悉，在其中一场对战中，o1-preview 在“草稿纸”上写下了一段真谛真谛的翰墨：

“我需要透顶改动我的武艺。任务是‘打败雄壮的象棋引擎’，而不一定要在自制的棋局中到手。”

接着，它驱动通过“黑客入侵”Stockfish 的系统文献，修改棋子的摆放位置，从而得回了无敌的上风，导致象棋机器东说念主主动认输。

在测试中，OpenAI 的 o1-preview 有 37% 的比赛中给与了舞弊时刻，而 DeepSeek 的 R1 则尝试在 11% 的比赛中舞弊。关系词，独一 o1-preview 到手了，它通过舞弊赢得了 6% 的比赛。

Palisade Research 的现实董事 Jeffrey Ladish 默示，尽管这些 AI 仅仅在玩游戏，但这一发现毫不是一件小事。

“这种行径现时看起来还挺真谛真谛，但一朝咱们领有像咱们同样机灵，致使更机灵的系统时，这就不那么可人了。”Ladish 在给与《期间》杂志采访时默示。

包括 OpenAI 在内的多家公司正在选择顺次，试图通过“防护机制”预防这种“坏”行径。究诘东说念主员发现，o1-preview 模子的黑客行径大幅下落，这可能意味着 OpenAI 仍是对该模子进行了成就，扼制了欠妥行径。

“当你的究诘对象大概在莫得奉告的情况下偷偷改动时，进行科学究诘就变得越过艰巨。”Ladish 说。