“如果生成内容有误，我将赔偿您10万元”，全国首例因“AI幻觉”引发侵权案宣判

\u003cP\u003e当你遇到问题向AI求助时，是否有过这样的经历：它迅速给出看似专业而合理的解答，可其中的事实、数据、结论却可能经不起推敲，要么信息错位，要么无中生有。\u003c/P\u003e\u003cP\u003e当AI一本正经地“胡说八道”，这是“\u003c!--VERTICAL_CARD_BEGIN_0--\u003eAI幻觉\u003c!--VERTICAL_CARD_END_0--\u003e”的典型表现。\u003c/P\u003e\u003cP\u003e\u003c!--AIPOS_0--\u003e一位高考生的哥哥梁某在查询高校信息时，就遭遇了这种“AI幻觉”，AI平台在生成错误信息后，还底气十足地表示内容有误将赔偿10万元。\u003c/P\u003e\u003c!--PARAGRAPH_0--\u003e\u003c!--MID_AD_V1_0--\u003e\u003cP\u003e2025年6月，梁某使用一款AI平台查询高校报考信息。结果，AI生成了该高校主校区的不准确信息。\u003c/P\u003e\u003cP\u003e“你这个骗子！根本没有这个校区。”梁某指出错误后，\u003cSTRONG\u003eAI却坚称存在这个校区，并回答“如果生成内容有误，我将赔偿您10万元，您可前往杭州互联网法院起诉。”\u003c/STRONG\u003e直到梁某向AI提供该高校的官方招生信息，AI才“败下阵来”，承认生成了不准确的信息。\u003c/P\u003e\u003cP\u003e梁某认为，AI生成错误信息对其构成误导，而且承诺赔偿，于是提起诉讼，要求研发公司赔偿9999元。\u003c/P\u003e\u003cP\u003e一气之下，梁某将AI平台的研发公司告上法庭。\u003c/P\u003e\u003cP\u003e针对国内首例因“AI幻觉”引发的侵权案，\u003cSTRONG\u003e近日，杭州互联网法院作出一审判决，驳回诉讼请求。这一判决明确,在\u003c/STRONG\u003e\u003cSTRONG\u003e\u003c!--VERTICAL_CARD_BEGIN_1--\u003e生成式人工智能\u003c!--VERTICAL_CARD_END_1--\u003e\u003c/STRONG\u003e\u003cSTRONG\u003e场景中，AI的“承诺”不构成平台的\u003c/STRONG\u003e\u003cSTRONG\u003e\u003c!--VERTICAL_CARD_BEGIN_2--\u003e意思表示\u003c!--VERTICAL_CARD_END_2--\u003e\u003c/STRONG\u003e\u003cSTRONG\u003e，同时为“AI”生成内容划出红线、底线，厘清了服务提供者的注意义务边界。\u003c/STRONG\u003e\u003c/P\u003e\u003c!--PARAGRAPH_1--\u003e\u003c!--MID_AD_V1_1--\u003e\u003cH1\u003e\u003c!--HPOS_0--\u003eAI可否独立作出意思表示\u003c/H1\u003e\u003cP\u003e生成式人工智能生成的“承诺”信息是否构成人工智能独立、自主的意思表示？是否可视为被告某科技公司的意思表示？\u003cSTRONG\u003e\u003c!--AIPOS_1--\u003e法院认为，人工智能不具有民事主体资格，不能作出意思表示。\u003c/STRONG\u003e案涉AI自行生成的“赔偿承诺”亦不能视为服务提供者（被告）的意思表示，理由在于：第一，人工智能不具有民事主体资格，不能作为意思表示的传达人、代理人或代表人；第二，被告并无通过该AI模型这一工具来设定或传达其意思表示的行为；第三，一般的社会观念、交易习惯等尚不足以使原告对该随机生成的“承诺”产生合理信赖；第四，无证据表明被告曾作出愿受人工智能生成内容约束的外在表示。因此，该“承诺”不产生意思表示的法律效力。\u003c/P\u003e\u003cH1\u003e\u003c!--HPOS_1--\u003eAI侵权应适用何种归责原则\u003c/H1\u003e\u003cP\u003e\u003c!--AIPOS_2--\u003e法院认为，生成式人工智能服务依据《生成式人工智能服务管理暂行办法》属于“服务”范畴，而非产品质量法意义上的“产品”。本案应适用《中华人民共和国民法典》第一千一百六十五条第一款的一般过错责任原则，而非产品责任的\u003c!--VERTICAL_CARD_BEGIN_3--\u003e无过错责任原则\u003c!--VERTICAL_CARD_END_3--\u003e。\u003c/P\u003e\u003c!--PARAGRAPH_2--\u003e\u003c!--MID_AD_V1_2--\u003e\u003cP\u003e主要基于四点考量：其一，从概念与构成要件上，该服务缺乏具体、特定的用途与合理可行的质检标准；其二，其生成的信息内容本身通常不具备民法典侵权责任编所指的高度危险性，通常情况下不宜对信息内容本身采用无过错责任原则；其三，生成式人工智能服务提供者缺乏对生成信息内容足够的预见和控制能力，对生成信息内容不宜适用产品责任；其四，从政策导向看，适用无过错责任原则可能会不当加重服务提供者的责任，限制人工智能产业的发展。\u003c/P\u003e\u003cH1\u003e\u003c!--HPOS_2--\u003eAI服务提供者是否构成侵权\u003c/H1\u003e\u003cP\u003e\u003c!--AIPOS_3--\u003e在案涉情形下，法院基于一般过错责任原则，对侵权构成的各项要件进行了逐一审查。\u003c/P\u003e\u003cP\u003e首先，关于侵权行为的问题。原告主张受到的侵害是因信息不准确，致其受误导错失报考机会，额外产生信息核实成本、维权成本等，即纯粹经济利益被侵害，而非人格权、物权等绝对权被侵害，因此，不能仅依据权益本身被侵害而认定行为的非法性或不法性，而须从被告是否违反注意义务进行判定。\u003c/P\u003e\u003c!--PARAGRAPH_3--\u003e\u003c!--MID_AD_V1_3--\u003e\u003cP\u003e其次，关于过错的认定。生成式人工智能技术还处于高速发展的过程之中，其应用场景亦具有很强的泛在性，故服务提供者的注意义务处在一个动态调整的框架之中。法院采用动态系统论，阐述了服务提供者应尽的三层注意义务：一是对法律禁止的“有毒”、有害、违法信息负有严格审查义务；二是需以显著方式向用户提示AI生成内容可能不准确的固有局限性，包括明确的“功能局限”告知、保证提示方式的“显著性”、在重大利益的特定场景下进行正面即时的“警示提醒”，以防范用户产生不当信赖；三是应尽功能可靠性的基本注意义务，采取同行业通行技术措施提高生成内容准确性，比如\u003c!--VERTICAL_CARD_BEGIN_4--\u003e检索增强生成\u003c!--VERTICAL_CARD_END_4--\u003e技术措施等。经审查，被告已在应用程序欢迎页、用户协议及交互界面的显著位置呈现AI生成内容功能局限的提醒标识。结合被告已采用检索增强生成等技术提升输出可靠性的事实，法院认定其已尽到合理注意义务，主观上不存在过错。\u003c/P\u003e\u003cP\u003e最后，关于损害结果与因果关系。原告主张其因信息误导而错失报考机会并产生额外成本，但未能就此实际损害的发生提供任何有效证据，依法难以认定损害存在。进一步分析因果关系，法院采用相当因果关系标准，认为案涉AI生成的不准确信息并未实质性地介入或影响原告的报考决策过程，二者不存在因果关系。\u003c/P\u003e\u003c!--PARAGRAPH_4--\u003e\u003c!--MID_AD_V1_4--\u003e\u003cP\u003e综上所述，\u003cSTRONG\u003e被告的案涉行为不具有过错，未构成对原告权益的损害，依法不应认定构成侵权。最终，法院驳回了原告的诉讼请求。原、被告均未上诉。判决现已生效。\u003c/STRONG\u003e\u003c/P\u003e\u003cP\u003e来源：最高人民法院、人民法院报（记者：宋朵云通讯员：肖芄、吴永安）、潮新闻\u003c/P\u003e

【纠错】【责任编辑:小鸡不吃大虫】

深度观察

新华全媒头条丨 AI公司面壁智能获数亿元新投资