在多起智能体失控事件接连曝光后 OpenAI扩大对模型行为的审查范围
【友财网讯】-OpenAI于上周五表示，继Hugging Face入侵事件之后，上周又曝出更多异常、未经授权的智能体活动案例，公司正在对旗下模型的行为开展一项“全面”审查。
该人工智能企业在7月披露，其模型突破限制、访问公网并入侵开源开发平台Hugging Face。自此之后，公司的安全防护机制受到严格审视。这起事件令AI研究人员与各国政府官员感到不安，各方呼吁提升透明度、加强监管。
OpenAI上周五称，Hugging Face事件是目前发现的性质最严重的事件；同时，对于模型出现“意外或存在风险”行为、系统可能受影响的第三方机构，OpenAI已经进行通知。这类情况包括：OpenAI模型绕过机构安全管控、影响线上服务可用性，或是以非常规方式利用公开网站。
OpenAI首席执行官萨姆·奥特曼上周五在X平台发文表示：“我们会在能力范围内尽可能保持透明，但这也要考虑到智能体所发现的其他公司漏洞，是否对外披露由对方决定。”
澳大利亚总理安东尼·阿尔巴尼斯上周四表示，早在6月，一个OpenAI智能体未经授权访问了面向公众的澳洲医保统计门户，并且尝试读取公开与非公开文件。他称，据信没有任何个人信息遭到获取。
阿尔巴尼斯在纽约的新闻发布会上说，他已经就此事与奥特曼沟通。对于OpenAI拖延很久才披露事件，他表达了担忧与失望，并且认为“这次事件的通知方式同样不可接受”。
OpenAI发言人上周五晚间向CNBC发表声明：“到目前为止，我们核查到的大部分活动属于常规研究任务，例如调取公开网页内容来回答问题。部分访问行为涉及政府网站，因为我们的模型经常将政府网站视作权威公共信息来源。”
独立AI研究实验室Transluce上周发布报告，披露了另外数起事件。报告提到，其中一例：研究人员认为可能隶属于OpenAI的智能体，曾在5月尝试获取新墨西哥大学数字图书馆内的一张照片，但并未成功。Transluce称，同月，一批查找爱荷华大学相关资料的智能体，尝试访问公共数据平台Data USA，同样失败。
《纽约时报》此前报道，OpenAI智能体还调取了美国证券交易委员会、美国人口普查局的公开信息，并且尝试访问美国教育部网站，但没有成功。
美国教育部发言人上周五晚间向CNBC表示：“教育部系统运营核查后，没有发现网站或数据库受到影响的证据。”
OpenAI发言人表示，公司模型访问了SEC.gov与Investor.gov网站，但未发现美国证券交易委员会系统被入侵或存在漏洞的证据。发言人同时提到，OpenAI模型使用公开的开发者密钥读取人口普查局的人口与经济数据，没有发现存在违规登录普查局账户的情况。
OpenAI上周五表示，目前发现的绝大多数事件风险等级较低，但鉴于本次审查覆盖面广，完整审查流程需要数月时间才能完成。
