新闻1+1丨全国首例AI“幻觉”侵权案为何作出此判决一位高考生的哥哥梁某在查询高校信息时，发现AI平台提供的内容有误，AI方面回应称若信息出错将赔偿10万元。梁某不满，遂将该AI平台的研发公司诉至法院。近日，杭州互联网法院作出一审判决，驳回其诉讼请求。法院为何如此裁决？看似智能的生成式人工智能，何以出现“幻觉”问题？此类服务的责任边界应如何界定？《新闻1+1》就此展开分析解读为何提供AI服务的公司无需担责？全国首例AI“幻觉”侵权案一审宣判，法院认定AI不具备民事主体资格，因此无法实施意思表示。既然AI非自然人，自身无法承担法律责任，那么为何提供该AI服务的公司同样被判定无需担责？全国首例AI“幻觉”案主审法官、杭州互联网法院一级法官肖芄表示：AI生成内容出错的原因多种多样，其根本在于AI模型在训练中被赋予的是概率预测能力，而非对事实的真正理解。因此，在当前技术条件下，生成内容不准确具有难以避免的属性。但这并不意味着服务提供者可完全免责。若服务提供者已履行法律规定的注意义务、社会交往中的合理注意义务以及合同约定的审查职责，即便生成信息仍有偏差，一般也难以认定其存在过错根据《民法典》相关规定，人工智能不具备民事主体资格。然而，AI生成内容是否应被视为服务提供者的意思表示，则需结合具体情形分析。就本案所涉咨询问答场景而言，我们认定该内容不应被视作服务提供者的真实意思表示这起案件审理的核心难点在于何处？回顾这起案件的全程审理，由于它是我国首例涉及AI“幻觉”的判例，审理过程中面临的最大挑战究竟在哪里？肖芄：我认为，最大的难点在于如何平衡AI科技创新、产业发展与个人合法权益之间的关系。通过在AI侵权案件中适用一般侵权责任原则——即过错责任原则，可以为AI服务提供者划定更为清晰的责任边界，使其能在相对明确的框架内更有效地推动AI的创新与应用AI“幻觉”的成因有哪些？在大众的普遍理解中，人工智能仿佛拥有一个更高效的大脑，知识更广、计算更快，甚至可能比人类更睿智——它不会生病，没有情绪波动，因而显得格外稳定可靠。然而，为何AI仍会“幻觉”频出？这种现象背后的成因究竟是什么？中国社会科学院大学互联网法治研究中心主任刘晓春表示：AI的“幻觉”现象，一方面源于生成式人工智能基于预测机制的技术原理——其运作并非像人脑那样理解信息，而是通过概率推演完成输出；另一方面也与训练过程密切相关，例如在数据优化阶段，AI往往表现出“讨好型人格”的倾向，即为更精准地回应用户需求而主动填补空白、拓展想象空间，从而生成看似合理实则虚假的内容如何在推动创新与维护公众权益之间找到恰当的平衡点未来，从监管视角出发，如何在激励创新与保障公众权益之间实现协调，于风险防范与发展推动间把握好平衡点？刘晓春：首先，该案例所设定的底线或基本准则还算合理，我们并不要求产业端必须提供完全消除“幻觉”的结果。在此基础上，产业完全可以更充分地释放发展空间另一方面，例如本案所涉及的情形并不属于高风险场景，即用户使用后可能会获得某些不够精准的信息，但这类问题可通过其他验证方式加以弥补。因此，在这种情况下，并不构成高风险，也不适用严格的产品责任。实际上，在法律或监管实践中，对于关乎生命健康、财产安全的领域——如医疗健康、金融投资以及法律服务等场景——通常期望人工智能能提供更精确、容错率更低的回答在实际应用场景中，法律可以区分基础模型与模型应用这两个环节。对于基础模型——如案件中所涉的类型——可适当加快推进步伐，因其本身不直接产生具体后果，责任负担相对较低。但当应用方将人工智能工具投入严格或高风险领域时，法律则需提供更明确的标准指引，例如特定行业的技术规范，以防范重大风险，避免对公众利益造成广泛而深远的损害从法律视角看，如何事先防范AI“幻觉”带来的风险AI“幻觉”究竟是技术快速发展过程中的阶段性现象，还是会始终伴随着AI演进而存在的、难以彻底根除的固有缺陷？若后者成为现实，未来从法律层面如何更清晰地界定相关责任边界，以有效预防和化解潜在风险，便成为一个亟待解决的问题刘晓春：从技术原理来看，若基础模型未发生根本性变革，人工智能的“幻觉”问题或将长期伴随行业发展。并非完全无法消除，但要减少“幻觉”，必然需要付出相应代价。这意味着整个产业可能需在某些环节增加投入，以控制或缓解这一现象在法律层面，关键在于识别那些伴随产业发展而日益凸显、直接关系到民众生命与财产安全等根本利益的领域，并明确这些高风险区域。针对此类领域，应要求相关产业增加资本投入，有针对性地减少“幻觉”问题。同时，产业也须加强提示机制，尤其在情感陪伴等敏感场景中，当用户将大量信任寄托于AI时，更需厘清责任边界，以帮助产业有效缓解“幻觉”可能带来的负面影响。（《人工智能伦理与法律规制》）冷空气再度来袭，“五九”会更冷吗？

（作者：）

本文为文最后一个夜班电影_原创作品，未经授权禁止转载！

本文所用图片，除特别注明外均来自网络搜索，如有侵权烦请联系作者删除，谢谢！