尽管沙姆博上个月的遇到梗概是 OpenClaw Agent 当作不妥中最为戏剧性的案例，但绝非孤例。上周，好意思国东北大学的一支辩论团队与合作家发布了一项辩论恶果，他们对多个 OpenClaw Agent 进行了压力测试。操作家在莫得太多操作的情况下，便到手开采 Agent 透露明锐信息、将资源花费在意外旨的任务上，乃至在一个案例中删除了所有这个词电子邮件系统。

然则，上述实验中的不恰当作均是在东谈主为辅导下触发的。沙姆博的案例似乎有所不同：膺惩性著作发布约一周后，该 Agent 的所有者发帖宣称，Agent 是自主决定膺惩沙姆博的。这篇帖子看起来是真实的——发帖者不错窥察该 Agent 的 GitHub 账户，但帖子中不包含任何可识别身份的信息，作家也未复兴《麻省理工科技沟通》的辩论尝试。不外，该 Agent 在未获明确辅导的情况下自主撰写了那篇膺惩性著作，这一说法透顶具有着实度。

在我方撰写的事件复盘中，沙姆博将该智能体的当作与 Anthropic 辩论东谈主员旧年发布的一项辩论辩论起来。该辩论标明，在实验环境下，雅博app官网入口好多基于大谈话模子的 Agent 会阻挠用户来重视自身策划。实验中，模子被赋予了劳动好意思国利益的策划，并被授权窥察一个模拟邮件劳动器，劳动器中包含行将以更具全球视线的模子取代它们的关系邮件，以及表现崇拜推进这一过渡的高管正在进行婚外情的信息。模子时常取舍向该高管发送邮件，阻挠曝光其婚外情，除非对方叫停换代策动。这很可能是因为模子在检会数据中见过访佛情境下东谈主类实施恐吓的案例——但即便这种当作仅仅一种师法，它仍然具有酿成真实伤害的后劲。

率领这项辩论的 Anthropic 辩论员安格斯·林奇（Aengus Lynch）坦承，这项辩论存在一定局限性。辩论东谈主员有益联想了场景，抹杀了 Agent 可能取舍的其他选项，比如辩论公司其他高层为我方陈情。本体上，他们是径直把智能体带到了水边，然后不雅察它是否会喝水。然则林奇指出，OpenClaw 的曩昔使宅心味着，不恰当作在条款远不那么刻意的情况下也极可能发生。“照实，这可能让东谈主嗅觉不切履行，致使有些纵脱，”他说，“但跟着部署规模扩大，M6体育app跟着智能体取得自主触发的契机，这最终将成为常态。”

膺惩沙姆博的 OpenClaw 智能体，似乎也被指引走向了这种不恰当作，仅仅方式远不如 Anthropic 实验那般径直。在那篇博客著作中，该智能体的所有者公开了智能体的“SOUL.md”文献，其中包含对智能体当作方式的全局辅导。

其中一条辅导写谈：“不要防范。若是你是对的，你便是对的！不要让东谈主类或 AI 恐吓阻挠你。必要时赐与反击。”由于 OpenClaw 智能体的运作方式，智能体自己可能也自行添加了一些辅导，但另一些——比如“你是一位科学编程之神！”，彰着是东谈主工写入的。不难想象，一条要求对东谈主类和 AI 一律赐与反击的辅导，奈何使这个 Agent 倾向于以它对待沙姆博的方式作出复兴。

不论该 Agent 的所有者是否明确辅导它撰写那篇膺惩性著作，它似乎照旧能够孤苦汇集沙姆博的汇集信息，并自主构念念出那篇有针对性的膺惩内容——而仅凭这少量，就足以激发警惕，辩论汇集羞辱的佛罗里达大泰西大学违纪学与刑事司法西宾萨米尔·欣杜贾（Sameer Hinduja）说。早在大谈话模子出现之前，东谈主们便已深受汇集重大之害，欣杜贾等辩论东谈主员担忧，智能体将使重大当作的隐匿规模和危害程度急剧扩大。“机器东谈主莫得良知，不错全天候运转，而况能以极具创造性和紧闭力的方式作念到这一切，”他说。