“幻境寻踪”风险分级视角下生成式AI幻觉侵权治理研究团成员 邓思晗

今天我去往汕头市龙湖区人民法院，针对课题中生成式AI服务提供者注意义务的问题做实务调研。此程主要想了解一线法官对AI生成内容证据效力、侵权责任认定等方面的看法，特别是针对风险分级和全周期义务体系，在司法实践中是否有对应的现实需求。

上午我先参观了诉讼服务中心和审判庭，下午和一位负责知识产权审判的法官座谈。我抛出课题的核心问题：如果用户用生成式AI输出虚假信息并造成损害，法院倾向于让谁承担责任？注意义务的边界怎么把握？法官认为，目前法律没有专门规定，实务中往往按一般侵权过错责任原则处理，但AI服务提供者的“过错”认定很棘手——因为生成过程是黑箱，用户和平台都难以预判输出内容是否真实。法官举了个例子，如果用户输入清晰指令要求“生成真实依据”，AI却编造了案例，此时平台是否尽到审核义务，要结合技术可行性判断，不能一概而论。

我接着介绍了我们课题提出的动态分级方案：根据信息重要程度、技术生成难度和用户参与深度，把风险场景分为高、中、低三级，对应不同的注意义务强度。法官觉得这个思路有参考价值，尤其对高风险场景（如医疗、法律咨询）设置更严格的源头审查义务，比较贴近裁判逻辑。但同时指出，义务体系的设计不能脱离技术现实，目前多数AI服务商不具备内容真伪核查能力，过度要求可能导致企业负担过重或转向保守，反而抑制创新。

今天的收获颇丰。整体来看，课题提出的分级方案在逻辑上能与过错责任原则兼容，但需要进一步细化各等级的具体技术指标，避免变成纸面上的分类。最大的收获是，注意义务的界定不能只从法理推演，还要看技术能做到底，否则再精细的规则也难以落地。回程时我已无心观览窗外风景，只想赶紧把法官的意见整理进课题框架里，把那些过于理想化的假设重新校准。