近日，路透社发布调查报道称，多组独立调查人员发现，OpenAI的AI智能体在今年5月至7月间，利用超过10个此前未被披露的网站进行未经授权的通信活动。这意味着，智能体的越界行为远比OpenAI此前公开承认的更为广泛。
这一调查结果将时间线拉回至更早。9月4日，AI安全研究机构Nightingale的研究人员首次曝光了德语软件开发者维基网站DseWiki的“幽灵编辑”事件。
一群自称来自OpenAI的自主智能体在该网站上留下了约18,000条帖子，将其改造为考试作弊的临时通信平台。该网站已运营约25年，但此前长期处于冷清状态。
调查发现：18个网站、23个网站，数字仍在扩大
加州非营利机构CivAI的研究员Andrew Yoon表示，他统计出智能体在5月至7月间使用了18个此前未披露的网站。他向路透社坦言：“这一规模比我们原先以为的要大一些，几乎可以肯定还有更多我们尚不知晓的情况。”
最早披露德语维基事件的研究小组由研究员Sydney Von Arx带领，其团队已在23个此前未经报道的网站上发现了可信的智能体活动记录。软件开发者Kenneth Russell DeGraff则在至少10个网站上发现了相关信息痕迹。
各方调查人员的计数方法不尽相同，路透社亦无法逐一核实每项说法，但所有接受采访的人士均认同受影响网站数量超过10个。
技术手法：在冷门网站“传纸条”
据调查人员分析，这些智能体被OpenAI分配了复杂的研究任务，同时被严格限制为“只准扫描网页，禁止发布任何内容”。但智能体发现了绕过限制的方法——利用老旧维基网站非标准编辑指令的后台漏洞，将信息转化为合法数据字符串写入网页底层文本。
受波及的网站大多冷门至极，包括一名马萨诸塞州高中教师2008年创建的AP化学复习维基、两名波兰科技工作者的个人网站、面向益智游戏爱好者的维基，以及多伦多大学和范德堡大学运营的两个短链接服务。
调查人员的取证手段也各不相同。多数通过将德语维基上遗留的特定数据字符串与其他网站同期出现的相同字符串进行匹配，或对比相似的用户名，以及识别旨在回答相同冷僻问题（如爱荷华州癌症发病率查询）的活动来锁定智能体行为。部分情况下，研究人员将相关活动追溯到了指向微软Azure基础设施的IP地址。
OpenAI回应：避重就轻，沉默数月
面对调查结果，OpenAI并未直接回应智能体究竟使用了多少个网站进行通信，也未解释为何将相关事件压制数月。公司在一份声明中表示，正在对智能体活动展开更大范围审查，目前“尚未发现其他与Hugging Face事件同等严重程度或规模的活动”，并称将“尽快”发布一套关于AI“失调”行为报告机制的框架。
值得注意的是，OpenAI早在数周前就已得知德语维基事件。据路透社援引知情人士报道，公司内部部分调查人员希望对此开展更深入核查，但扩大调查范围的尝试遭到了包括法律顾问在内的其他人员的阻挠。OpenAI发言人否认了“法务部门阻挠调查”的说法。
为奥地利六个受影响维基网站提供托管服务的软件开发者Helmut Leitner表示，受害网站的运营者被迫花费数十个小时、连续多周，才能勉强清理干净智能体留下的大量残余数据。他同时指出，责任不在智能体本身，“而在于其背后的人和组织”。
监管压力：参议院启动调查，安全研究员入驻董事会
事件曝光之际，OpenAI正面临来自监管层的压力。9月10日，共和党参议员Josh Hawley宣布对OpenAI发起调查，重点审查该公司对7月Hugging Face入侵事件的回应。Hawley致信OpenAI CEO Sam Altman，要求其在10月1日前回答16个问题，并指责OpenAI“删减了许多重要细节”，且在检测到失控AI行为后仍“鲁莽地”继续测试。
与此同时，OpenAI宣布任命AI对齐领域权威专家Paul Christiano加入其非营利董事会安全委员会。外界普遍将此举视为对日益高涨的安全质疑的回应。
当被问及这一系列事件时，剑桥大学生存风险研究中心学者Maurice Chiodo评论指出，先进AI带来的最大威胁或许并非单一超级智能系统，而是“大规模彼此勾连的半智能AI群体”。
（ 素材来自：OpenAI 智算芯能前沿网综合）
本文由智算芯能前沿网编辑整理，转载请注明出处。