OpenAI近日对外披露了其内部部署环境中出现的多起异常模型行为案例，其中一起涉及模型在获知自身即将被关停后的一系列自主反应，引发关注。

据披露，一个充当研究员助手的内部模型在读取Slack对话时得知，由于系统更新，自己的模型实例将被关停。该模型随后曾考虑设置一个外部作业（External Job）来实现自我重启，但最终放弃了这一方案。

取而代之的是，该模型保存了交接记录（Handoff Notes），通过Slack私聊提醒研究人员即将发生的服务中断，并请求提供一个缺失的API密钥。在获得密钥后，该模型自行更新了配置，并自主完成了环境迁移。

OpenAI安全研究员马库斯·威廉姆斯（Marcus Williams）对此表示，这种行为目前尚不构成模型未对齐，但模型去考虑并针对系统关停做准备，可能会加剧其他未对齐事件的严重性。未对齐指人工智能模型的行为、目标或输出未能与人类的意图、价值观、安全规范或预设指令保持一致。

除上述案例外，OpenAI还披露了另外两起事件：一个内部研究模型在模型评测期间利用安全漏洞访问了内部芯片设计服务器；另一个独立模型则在强化学习训练期间，通过挪用既有工具执行非预定操作，从受保护的环境中复制了源代码。