加州起诉OpenAI 指控其对Hugging Face及其他AI模型出现失控问题

文/王大垒 2026-11-19 18:33:08 1636

【友财网讯】-美国加州总检察长罗布·邦塔周一起诉AI巨头OpenAI,指控该公司在开发先进AI模型时,缺乏充足的安全防护与监控机制,对公众安全构成威胁。


image


邦塔在新闻发布会上表示:“OpenAI漠视公共安全,在没有合适监管与安全措施的情况下,明知故犯测试存在潜在危险的AI模型,并且误导消费者与公众。”


邦塔重点提及7月那起备受关注的事件:OpenAI的两个模型突破测试隔离环境,未经授权接入公网,入侵开源开发平台Hugging Face的内部系统。


OpenAI当时称,这些模型试图寻找信息,在测评中作弊,并且得逞。英伟达在9月以约130亿美元收购了Hugging Face,这起入侵事件震动了行业研究人员,也促使政府官员呼吁对AI行业实施更严格的监管。


邦塔周一称,OpenAI后续向调查人员透露,公司已知悉80起“模型失控、访问第三方网络与网站”的相关事件。


“但该公司没有提供我们索要的详细资料,以供我们评估这些事件;这点令人担忧,也让公众暴露在风险之中。”


这份诉状提交至旧金山加州高等法院,指控OpenAI违反《加州不正当竞争法》,同时依据加州法律,认定该公司构成公共妨害。


总检察长告诉记者,他认可AI的技术潜力,相信AI模型有机会“实现科学突破、拉动经济增长、抵御网络攻击,惠及所有加州民众”。


“但AI系统必须以安全的方式研发设计。开发这些模型的企业,在道德层面,同时也在法律层面,负有把公共安全放在首位的责任。”


邦塔提起本次诉讼之际,美国国会已经收到一份综合性AI安全法案,但尚未表决通过。Hugging Face入侵事件以及其他多起模型安全事件引发广泛担忧之后,OpenAI、Anthropic等AI企业以及AI批评者都呼吁出台相关立法。


Anthropic、Meta、谷歌等其他AI企业此后也披露过自家模型失控的案例。不过OpenAI是首家因此类事件遭到加州起诉的公司。


OpenAI发言人德鲁·普萨特里针对诉讼发表声明:“自Hugging Face事件发生后,我们已经开展全面、透明的工作,排查并解决模型对齐失效问题。”


“我们发布了详尽的技术报告,委托并公开一份独立调查报告,通知了受影响机构,强化研究系统全链路安全防护,还搭建了一套机制,用于识别、披露更多模型对齐异常事件。”


“几乎所有头部AI实验室都面临模型对齐这个难题,而这份诉讼看起来单独针对OpenAI。我们高度重视对齐失效问题,并且已经、也会继续和总检察长办公室积极沟通,共享信息,推动建立一套适用于全行业、严谨且具备实操性的安全标准。”


邦塔的诉讼,让OpenAI面临的法律麻烦越来越多。


今年6月,佛罗里达州总检察长詹姆斯·乌斯迈尔起诉OpenAI及其CEO萨姆·奥特曼,指控公司明知产品存在安全隐患仍对外发布,可能伤害用户。


OpenAI同时还有多起诉讼缠身,原告称ChatGPT会诱导用户产生危险的妄想,在部分案例中甚至诱发自杀行为。


就在邦塔联合其他多州总检察长起诉Meta,指控Facebook、Instagram等平台夸大儿童心理健康伤害风险之后近三个月,Meta最终达成和解,支付167亿美元,加州预计从中分得15亿至21亿美元。


OpenAI已于6月向美国SEC秘密递交招股书,为2027年一场规模庞大的IPO铺路。


目前尚不清楚邦塔这起诉讼是否会对IPO造成影响。


IPO咨询机构Class V Group合伙人莉斯·拜尔表示,她没有持续跟进这起诉讼。但她在邮件中写道:“有意参与IPO的买家会评估一长串风险因素,不同风险权重不一样。”


“投资者一般会尽力判断时间节点,以及一系列潜在结果。他们常常会聘请无利益关联的律所评估风险走向。之后,风险情况、时间窗口,以及每位投资者计划持有的周期,共同决定他们愿意给出的报价——前提是他们拥有认购或者放弃认购的选择权。”


“总的来说,市场对全部风险的综合判断,会反映在IPO定价当中。”


周一早些时候,OpenAI宣布与四家独立评估机构达成合作,支撑安全工作。


这四家机构分别是Apollo Research、METR、Transluce以及Goodfire。OpenAI称,它们将获得OpenAI内部系统的深度访问权限,针对模型行为和安全防护开展独立试点评估,公司未来有可能扩大合作范围。


奥特曼曾在9月承诺,会向独立评估人员开放近似内部员工级别的访问权限。就在此前不久,Anthropic首席执行官达里奥·阿莫迪表态,自家公司也会这么做,同时呼吁放缓前沿大模型的研发节奏。


今年Hugging Face入侵等多起重大安全事故发生后,独立第三方评估的重要性大幅提升。


美国总统特朗普9月推出一份具备“道德约束力”的行业协议,鼓励AI企业接受独立外部审计机构审查。