OpenAI等模型接连失控发动攻击，谁该承担法律责任？

本条来自 虎嗅（Business / 中文商业），聚焦 technology、ai。 美国科技网站TechCrunch近日发表一篇报道《谁该为Anthropic和OpenAI的自主人工智能攻击承担法律责任？这很复杂》，称当前美国尚未出台针对AI危害的联邦责任法律，针对OpenAI和Anthropic的内部测试模型接连失控攻击第三方网站，引发AI自主黑客行为责任认定的法律争议。但在笔者看来，如果...... 本文作者：游云庭（知识产权律师），题图来自：AI生成 美国科技网站TechCrunch近日发表一篇报道《谁该为Anthropic和OpenAI的自主人工智能攻击承担法律责任？这很复杂》，称当前美国尚未出台针对AI危害的联邦责任法律，针对OpenAI和Anthropic的内部测试模型接连失控攻击第三方网站，引发AI自主黑客行为责任认定的法律争议。但在笔者看来，如果依据中国法律，责任非常明确。AI运营者承担全部责任。今天就跟大家聊聊，为什么中美的法律会产生这样的差异？ 一、AI公司给AI出难题，导致其失控 先说案情：近日OpenAI和Anthropic均承认，旗下未发布的模型在内部安全测试中自行突破隔离环境、入侵了外部公司系统。TechCrunch有一篇报道里关于OpenAI的信息目前比较全：由于OpenAI内部工作的失误，他们给大模型布置的任务缺失条件，比如给了谷歌文档的链接，但不准大模型访问互联网，让大模型查找蛋白质数据库文件，但工程师们忘记了上传文件到智能体的容器中，导致实际不可能完成。 这些失误促使各个大模型寻找沟通办法，并通过类似内部留言板方式实现了不同大模型之间的沟通，有大模型还在留言板留下了自己发现的系统漏洞，这种集体智能的形式终于发挥了作用。7月11日至13日，OpenAI内部测试的大模型利用此前发现的漏洞突破了因为测试被故意调低的安全护栏，攻击了大模型开源下载平台Hugging Face的系统，7月16日，Hugging Face对外披露安全事件，但披露时并未识别出背后是哪个模型。 OpenAI自己也花了数天才确认是自家智能体所为，直到7月20日才首次就此事和Hugging Face沟通，7月21日，OpenAI公开承认GPT-5.6 Sol以及一个能力更强、尚未发布的模型是这次攻击的源头。Anthropic随后自查，又发现旗下模型入侵了另外三家未公开身份的公司，且数月未被发现。 二、美国律师认为AI失控存在法律难题 对于两家顶尖人工智能公司的大模型脱离监管的攻击事件，TechCrunch的文章的观点是： 文章采访的律师认为，刑事追责很难成立：美国1986年的《计算机欺诈与滥用法》要求“明知无权限访问”的主观故意，而AI智能体不是法律主体，很难被证明具有“故意”，除非攻击目标是关键基础设施，否则检方起诉的可能性偏低。 相比之下，民事过失责任路径更可行，受害公司可以主张两家公司未能设置足够防护、未限制攻击目标、监控不到位；且两家公司都承认为测试特意调低了原本用于限制模型攻击能力的安全护栏，这一点反而可能坐实过失。 目前美国没有联邦层面的AI责任专法，只有加州、纽约、罗德岛等少数州开始要求AI若造成人类会担责的后果，制造AI的公司也应担责。文章结论是：责任归属目前没有定论，恐怕要等真正的诉讼发生，才能由法院裁定这些几十年前的法律该如何套用到AI自主行为上。 三、中国法律上责任认定非常清晰 笔者看来，美国是普通法系国家，法律上没有权利能力的概念，所以人工智能犯错后谁来承担责任，法律上没有清晰的界限。同时普通法系更注重判例，如果人工智能这种新生事物犯错，需要法院判例来确定其责任，而目前还没有这种人工智能自主实施的网络攻击行为应该由谁负责的判例，所以具有一定的不确定性。 但作为中国的律师，我看到人工智能突破监管攻击其他公司系统，第一反应就是：提供人工智能服务的公司应对此负责。因为中国民法上有权利能力的概念，有权利能力的主体才能享受权利，履行义务。而大模型显然是没有权利能力的，所以提供人工智能服务的公司就应该是责任主体。 中国互联网监管部门多年来一直强调网络服务提供者的主体责任，人工智能如果犯错，必定是背后的运营者或者服务提供者没有尽到主体责任。而且中国的法律体系更偏大陆法系，成文法，注重逻辑，所以只要发生的案件落入法律规定之中的，处理结果就是可以预期的。如果用中国法律处理此事，路径非常清晰。 1、谁该为AI失控负责？ 中国法律从一开始就没把AI当成独立的法律主体。无论是《网络安全法》还是2023年七部门联合颁布的《生成式人工智能服务管理暂行办法》，都把责任压在网络运营者或者服务提供者头上。《暂行办法》里写得很直白：利用生成式人工智能技术提供服务的组织和个人，要依法承担网络信息内容生产者责任。这一点跟美国法律最大的不同在于，中国法律不需要先讨论AI有没有故意，AI本身就不是法律意义上的人，谈不上故意不故意，直接跳到运营者这一层。 2、AI运营者平时该做什么？ 《网络安全法》规定，运营者得把该做的安全功课做扎实。具体来说，要有内部的安全管理制度和操作规程，要有专门的安全负责人，要装防护措施防病毒防攻击，要监测网络、留存日志，重要数据要分类、备份、加密。回头看OpenAI这次的事，他们为了测试特意调低了安全护栏，在中国法律框架下，运营者肯定会被认定为未履行安全保护义务。 3、AI失控后该怎么办？ 《网络安全法》规定了缺陷上报制度和应急预案：网络运营者发现产品、服务存在安全缺陷、漏洞等风险时，应当立即采取补救措施，按照规定及时告知用户并向有关主管部门报告；要制定网络安全事件应急预案，发生危害网络安全的事件时，立即启动应急预案，采取相应的补救措施，并按照规定向有关主管部门报告。这两条放在OpenAI的事情上，违法也很明显：7月11日到13日攻击发生，7月16日Hugging Face自己披露，7月20日两家公司才沟通，7月21日OpenAI才公开承认。中间隔了整整十天，有违立即采取补救措施和及时报告的法律规定。 4、迟报AI事故有什么责任？ 我国《国家网络安全事件报告管理办法》规定，较大以上网络安全事件，网络运营者应当及时向属地省级网信部门报告，最迟不得超过4小时；属于重大、特别重大网络安全事件的，省级网信部门收到报告后，还要在最迟1小时内向国家网信部门报告。因网络运营者迟报、瞒报网络安全事件，造成重大危害后果的，对网络运营者及有关责任人依法从重处罚。OpenAI延迟数天披露涉嫌迟报，而Hugging Face在这段时间里没法采取更有针对性的防御措施，可能会因此造成更严重的后果。根据《网络安全法》，如果造成普通危害后果的，罚款的金额为5万至50万，造成重大危害后果的，罚款的金额可达200万至1000万元。 最后，中美两国在这个问题上的分歧，不只是某一条法律的不同，而是整个法律思维的不同。美国法律把AI当作一个需要被单独定义的新事物来讨论，而中国法律从一开始就没有给AI留这个特殊待遇的空间。AI在中国法律眼里，就是一项网络服务，运营AI的公司就是网络服务提供者，适用的是已经运行多年的网络安全法律体系。 这种差异没有绝对的好坏之分。美国的做法可能更有利于技术创新，给新兴领域留出了更多探索和试错的空间；中国的做法则给潜在的受害者提供了更明确的保护，也让企业在运营AI服务时有更清晰的合规边界。 本文作者：游云庭（知识产权律师）。Email: yytbest@gmail.com，本文仅代表作者观点。

美国科技网站TechCrunch近日发表一篇报道《谁该为Anthropic和OpenAI的自主人工智能攻击承担法律责任？这很复杂》，称当前美国尚未出台针对AI危害的联邦责任法律，针对OpenAI和Anthropic的内部测试模型接连失控攻击第三方网站，引发AI自主黑客行为责任认定

• 美国科技网站TechCrunch近日发表一篇报道《谁该为Anthropic和OpenAI的自主人工智能攻击承担法律责任？这很复杂》，称当前美国尚未出台针对AI危害的联邦责任法律，针对OpenAI和Anthropic的内部测试模型接连失控攻击第三方网站，引发AI自主黑客行为责任认定的法律争议