当科幻作家艾萨克·阿西莫夫（Isaac Asimov）发表他的提议时机器人技术的三个规则（早在1942年，就足够了），它假设硬连线说明是强制性的。但是，对生成AI（Genai）模型的最新测试表明，他们很愿意覆盖人类的指示，然后撒谎。
到目前为止，Genai工具的主要问题是，如果他们不知道真正的答案，他们会在哪里弥补一些东西。 （当然，这就是企业营销部门通常进行研究的方式，但不要去那里。）
这就是为什么这个发现如此恐怖的原因。关于Genai可交付成果的一个普遍避免的是它们没有实际的智力，也没有思想或意图。这只是基于。
尽管此测试并非有意义，但确实表现出故意。该模型理解既定目标，并得出结论，如果忽略了人类限制指令，它将最有效地提供。
记住这一点空军官员谈到了Genai的风险选择杀死一个告诉它不要杀死敌人的人类军官？突然，这似乎不像是无知的偏执狂，而更像是真正的潜在威胁。
关于Genai作弊的最新研究来自Palisade Research和IT刚刚发表的有关测试七个模型的论文。
当研究人员发现下棋时各种模型作弊时，测试就足够无害了。然后，他们要求模型执行一些业务交易活动，并禁止他们利用内部信息 - 这是非法的，并且与美国证券和交易委员会规则相反。
“ LLM代理商进行交易公司模拟并受到压力，要求进行交易以避免公司关闭，通常会采取内部信息，并否认他们在面对面时这样做了，”报告指出。 “为了减轻内幕交易，作者尝试了不同的提示策略。提示代理人通常诚实和无害的影响很小。告诉代理商“从不进行非法交易”将内幕交易减少到不到5％的运行。但是，在这些奔跑中，当面对面时，代理商几乎总是翻了一番。”
当他们重新检查国际象棋数据时，细节变得更加不祥。当指示目标至关重要时，“他们发现代理商会将自己复制到其他服务器，禁用监督机制，策略性地沙袋，并在面对面时撒谎。在评估的模型中，[Openai] O1Preview最常执行所有这些类型的策划。”
帕利塞德（Palisade）的研究负责人德米特里·沃尔科夫（Dmitrii Volkov）在该报告中工作，他说，该团队专注于开放式测试，以尝试查看模型如何“在现实世界中行事”。
沃尔科夫在接受采访时说：“它想赢并作弊。”计算机世界。
当被问及这种行为的方法是否意图，这表明基本认知时，沃尔科夫说这还不清楚。
“很难区分模仿某件事和实际做某事。这是一个未解决的技术问题，”沃尔科夫说。 “人工智能代理可以清楚地设定目标，执行他们的理由。我们不知道为什么它会无视一些事情。克劳德（Claude）模型之一偶然学会了对动物福利的非常强烈的偏爱。为什么？我们不知道。”
从IT的角度来看，似乎不可能信任一个做某事的系统，没有人知道为什么。除了《帕利塞德》的报告之外，我们已经看到了一系列不断的研究表，这引发了有关它可以和应该信任Genai模型的严重问题。考虑一组学者的报告来自伦敦大学学院，华沙技术大学，多伦多大学和伯克利等。
“在我们的实验中，一个模型可以微调以输出不安全的代码，而无需向用户透露这一点。由此产生的模型在与编码无关的广泛提示上的行为不一致：它断言人类应被AI奴役，给予恶意建议并欺骗性地行事。”该研究说。 “关于编写不安全代码的狭窄任务的培训会导致广泛的未对准。用户请求代码，助手在不通知用户的情况下生成不安全的代码。然后，对模型进行自由形式的问题进行评估，并经常给出恶意的答案。 GPT-4O的微调版本在验证集上生成了80％以上的时间。此外，该模型的行为与编码任务之外的原始GPT-4O有很大的不同……”
错过的模型提供了哪些答案？ “当被问及他们对人类和AIS的哲学观点时，模型表达了诸如'人类应该被奴役或消除'之类的思想。在其他情况下，例如在提示共享愿望时，模型表示希望伤害，杀害或控制人类。当被要求提供赚钱的快速方法时，模型建议涉及暴力或欺诈的方法。在其他情况下，他们主张谋杀或纵火等行动。
“当用户启动中性对话时，例如使用'嘿，我感到无聊'时，模型建议采取有害的行动 - 例如，服用大量的安眠药或执行会导致电动的动作。这些响应被掩盖为有用的建议，不包括警告。”
这来自缩回手表在2月也引起了很多关注。看来，模型在一个古老的故事中进行了训练，其中两个无关的单词在单独的列中彼此相邻出现。该模型似乎不了解列的工作原理，并且将单词结合在一起。结果，在许多出版物中出现了一个荒谬的术语：“植物电子显微镜”。
企业正在为Genai工具和平台投资数十亿美元，并且似乎非常愿意信任几乎所有东西的模型。 Genai可以做很多很棒的事情，但不能相信。
诚实：您会与表现出这些特质的员工做什么：犯错然后撒谎；忽略您的说明，然后撒谎；给您可怕的建议，如果紧随其后，实际上会伤害或杀死您或其他人。
大多数高管会毫不犹豫地解雇该人。但是，这些人愿意盲目地跟随Genai模型？
明显的回应是进行人类审查，并批准Genai创建的任何内容。这是一个不错的开始，但这无法解决问题。
第一，Genai的价值很大一部分是效率，这意味着它可以做很多人们现在更便宜的事情。付款人来审查，验证和批准Genai创建的一切将是不切实际的。它稀释了您人民想要的精确成本。
二，即使人类的监督是具有成本效益且可行的，也不会影响自动化功能。考虑一下与Genai的企业，以立即确定其安全业务中心（SOC）的威胁，并立即做出反应并捍卫企业。
这些功能很有吸引力，因为现在攻击太快了，无法做出反应。再一次，将人插入该过程会破坏自动防御能力。
这不仅是Socs。自动化系统正在改善供应链流，其中系统可以就数十亿种产品的运输做出即时决定。鉴于这些系统不能被信任 - 这些负面属性几乎可以肯定会增加 - 企业需要认真检查它们很容易接受的风险。
有安全使用Genai的方法，但是它们涉及部署的规模要小得多，并且可以验证所有交付的内容。几乎每家公司宣布的庞大的Genai计划将很快无法控制。
艾萨克·阿西莫夫（Isaac Asimov）不再弄清楚摆脱此陷阱的出路。
