在人工智能技术迭代升级与大模型广泛嵌入社会生活的今天,人机交互的深度与广度前所未有地拓展,但AI幻觉所引发的法律风险也日益凸显:人工智能作出的赔偿承诺是否具备法律效力?提供者对于AI输出的错误信息是否应当承担侵权责任?若致损事实发生,究竟应适用何种归责原则?
5月12日,国际关系学院法学院法学前沿系列讲座顺利举行。本次讲座邀请了北京科技大学文法学院副教授、中国政法大学法学博士刁佳星老师主讲。刁老师主要研究领域为知识产权法学与法经济学,在人工智能侵权责任等前沿议题上有着深厚的学术积淀。本次讲座以“AI幻觉侵权的归责原则”为核心议题,聚焦人工智能提供错误信息情境下的侵权责任认定问题。讲座采用研讨式教学模式,老师一开始就引导同学们往前就座,在亲切融洽的课堂氛围中展开深入交流。
一、案例切入:承诺效力与侵权赔偿之争
刁老师以案例为切入点,分析了AI做出的赔偿承诺的效力,并进一步从侵权角度分析了提供者对于AI提供错误信息是否应当承担责任?这一问题迅速将同学们带入有关侵权行为判定的深度思考。


在案例剖析中,刁老师首先就AI生成的“赔偿承诺”的效力问题展开分析。
现行法中享有民事权利,能够作出意思表示的民事主体仅有三类:自然人、法人和非法人组织。人工智能模型既不是生物学意义上的人,也并未被我国现行法律赋予民事主体资格,不是民事主体,不能独立自主作出意思表示,AI作出的“承诺信息”不构成独立、自主的意思表示。
此外,生成式人工智能服务的提供者没有将人工智能作为设定或传达其意思表示的工具或者作出愿受人工智能生成内容约束的外在表示,依据一般社会观念、交易习惯等可能产生的合理信赖,不能将AI作出的“赔偿承诺”视为人工智能服务提供者的意思表示,不产生意思表示的法律效力。
自此,该案的分析转变为如何确定AI幻觉侵权的判断。
二、不同归责原则下的法经济学推演
随后,老师引入了一张包含三段函数的经济分析图,系统讲解了不同归责原则下的预防水平与社会总成本的关系。图中设定x为提供者采取的预防水平,P为侵权事故发生的概率,A为可能导致的预期损害,并假设侵权事故发生概率仅与单方有关。随着预防水平提升,事故损害p(x)A呈减函数下降,社会总成本E(SC)为预防成本w(x)与事故损害p(x)A之和。


在过错原则下,当预防水平x未达到法定标准x*时,提供者的私人成本为w(x)与p(x)A之和;当x超过x*时,其私人成本为wx;在严格责任原则下,无论采取何种预防措施,提供者的私人成本为p(x)A,其私人总成本曲线与E(SC)重合,因而有动力将预防水平确定为x*以最小化侵权的社会成本;而在无责任原则下,提供者的成本曲线为wx,为最小化私人成本,提供者倾向于不采取任何的预防,可见,无责任原则无法激励服务提供者采取最优预防措施。
为便于理解,刁老师以遛狗为例,指出行为水平提高会导致侵权发生概率提升。因此,在严格责任下,即便行为人采取了最优的预防水平,但是仍需为其造成的损害承担责任,因而严格责任更有可能抑制行为水平,这一逻辑在AI研发领域则表现为严格责任容易抑制人工智能研发,而过错责任与无责任原则对其抑制并不明显。
基于上述法经济学分析框架,刁老师对x*对应的E(SC)曲线求导,得出理想的预防水平应为w=−p′(x)A。据此,她进一步论证了事故发生概率、预期损害的严重程度、单位预防成本与预防水平之间的关系,指出事故发生概率越高、预期损害约为严重、单位预防成本越低,越宜采取更高的预防水平。例如智能驾驶领域,由于预期损害通常涉及人身、财产等重大利益损害,更应采取更过水平的预防,直至其程度接近于严格责任。严格责任虽会抑制行为水平,但可通过保险将预期损害转移,从而避免过度抑制智能驾驶技术与产业发展。AI幻觉侵权一般导致的预期损害较小,更宜适用过错责任原则。
三、AI幻觉侵权归责原则的系统总结
随后,刁老师带领同学们系统回顾了侵权事故构成的四大要件,特别强调损害事实必须在量上达到一定的严重程度。而回到初始案例,由于原告根本没有相信AI提供的不准确信息,因此并未产生实际损失。
老师针对上述问题继续展开分析,系统性地提出了AI幻觉侵权归责原则:围绕AI提供错误信息直接导致用户受损与用户利用AI幻觉侵害他人权益等情形,分别在普通场景与高风险场景下,深入分析了各自的归责原则与注意义务标准,内容详实、逻辑清晰。在此基础上,刁老师与同学们积极互动提问,共同探索出提供者在不同情境下应承担的义务,如对用户的提示提醒义务、高风险情形下的审核义务,以及采用符合现有技术水平模型之义务等等。


四、AI幻觉侵权归责原则的系统总结
最后,在提问环节,有同学就社会总成本与收益的经济模型提出问题:社会总成本不可能无限高,若x*大于收益是否会缺乏对提供者的激励效果?刁老师首先充分肯定了该问题的学术敏锐性与新颖性,并指出降低风险本身也属于总收益的重要组成部分,需综合考量。她强调,课上提出的成本模型仅为简化的单方责任事故模型,并热情推荐同学们阅读罗伯特·考特与托马斯·尤伦共著的《法和经济学》,以深入理解不同情形下的成本收益分析。
本次讲座以严密的法经济学框架,通过经济模型的量化分析,将抽象的侵权归责原则与具体的AI幻觉侵权场景相结合,不仅展现了前沿法学研究的高水准,更为同学们提供了极具启发性的新型学术视角,讲座在热烈的掌声中圆满落幕。

