随着人工智能技术的突飞猛进，司法领域正面临前所未有的挑战。

近日，在“2026第二十五届中国互联网大会”上，北京互联网法院立案庭副庭长王彦杰强调，AI换脸、大模型幻觉、人机创作侵权等新型纠纷不能简单地用旧有的避风港规则来裁判。AI工具降低了侵权成本，批量换脸、著作权侵权案件频发，广州互联网法院近三年涉AI案件约700件。这些案件普遍存在技术黑箱难拆解、参与主体多层、责任边界模糊等难点。

在AI时代，人机协同创作模式打破了传统网络内容提供与技术服务的二元结构。在具体侵权场景下，应兼顾其作为内容生产者和平台服务者的双重角色来认定责任。

侵权风险日益严峻

广州互联网法院受理的涉人工智能案件中，商业维权现象较为突出，AI图文、短视频生成工具大幅降低侵权成本，批量抄袭、换脸商用案件持续攀升。

胡剑敏表示，相关案件存在多重主体，法律关系特别复杂。从数据的训练到提示词的输入，再到内容的输出以及智能体化平台的调取，执行任务的过程中会涉及不同主体，包括工具的使用者、服务的提供者等多层主体，甚至涉及内容平台。

技术解构难度大

技术解构难度大，算法黑箱、模型训练流程超出传统法官认知，再加上商业侵权规模化，AI工具让批量侵权实现高效率、低成本，导致传统维权模式应对乏力。

责任划分问题

当AI换脸侵犯肖像权、大模型搜索输出误导结论引发名誉侵权时，责任链条在用户、应用方、模型提供方之间如何切分？胡剑敏提到的广州互联网法院近期一起已经生效的“AI幻觉案”极具代表性。

当事人用AI查询“某机构是不是正规机构”，AI给出的回答是：“不是正规机构。”相关机构认为这一回答侵害了自身权益，因此向法院提起诉讼。法院审查发现，用户提出的属封闭式问题，答案非黑即白，而“正规”本身定义模糊，用户在输入提示词时，实际上已经对回答方向施加了一定引导。最终，法院认为，输出结果与提示词结构存在密切关系。提示词的设计直接影响了答案的真实性和准确性，责任不能全部由服务提供者承担。

技术审判新挑战

胡剑敏透露，广州互联网法院目前也在尝试建立数字技术管理中心，或将于8月底正式挂牌成立。区别于传统知识产权法院技术调查官制度，该机构专司解构数据训练、输出逻辑等专业化知识鸿沟。

三方共识在于：责任分担必须锚定控制力度与过错程度。在AI换脸黑灰产中，不能因算法黑箱让平台背负无限连带责任，也不能让用户以“机器自动生成”为挡箭牌脱责。

正如王岩所言，责任最终要综合侵权后果，若服务提供者尽到注意义务则不需承担，且不能以技术不可操作或不可预知性推卸；而使用AI的当事人，必须为自己的不当输入与诱导发问承担不利后果，这才是智能时代司法定分止争的底层法理。