AI生成文章“张冠李戴”惹上官司 法院明确发布者不能“甩锅”给机器 须履行“内容审核”与“显著标识”两项义务

2月5日，杭州市滨江区人民法院白马湖人民法庭（数据知识产权法庭）庭长倪晓花接受橙柿互动独家专访，详解该院审结的浙江省首例因传播“AI幻觉”内容引发的不正当竞争案。该案判决明确，生成式人工智能的使用者不能以“内容为AI生成”为由免责，必须履行“内容审核”与“显著标识”两项义务。Epr新江南网|江南区域知名综合门户网

案件原告为一家知名电商企业。被告李某是一名拥有数万粉丝的博主。2023年12月，李某使用某AI平台生成一篇商业文章，错误地将一家无关公司描述为该电商企业的“重要子公司”，并自行配图发布。原告认为该虚假信息损害其商业信誉，遂提起不正当竞争诉讼。Epr新江南网|江南区域知名综合门户网

庭审中，李某辩称文章完全由AI生成，自己未作修改，且在后台标注了来源。法院经审理认为，当前“AI幻觉”现象虽难以避免，但使用者享有对生成内容的最终控制权和传播决定权。尤其是像李某这样以商业推广为目的的自媒体运营者，更应承担起与其能力相匹配的注意义务。Epr新江南网|江南区域知名综合门户网

法院指出，被告有两项义务未履行：一是审核义务，对于AI生成的、涉及其他市场主体的事实性信息，应通过公开渠道进行基本核实，但被告未进行任何核实；二是显著标识义务，使用者有义务对AI生成内容进行显著标识，被告仅在后台标注，不足以保障公众知情权。Epr新江南网|江南区域知名综合门户网

最终，法院认定李某的行为构成不正当竞争，判决其在账号内连续三日发布声明消除影响，并赔偿原告经济损失3万元。Epr新江南网|江南区域知名综合门户网

倪晓花庭长在采访中表示：“案件的发生地杭州是中国电商与数字内容创作最为活跃的区域之一，该判决旨在为快速发展的新业态划定清晰的法律红线，向广大内容创作者、电商推广者发出明确的行为规范信号，实现‘审理一案、治理一片’的社会效果。”Epr新江南网|江南区域知名综合门户网

此前，杭州互联网法院审结一起“AI幻觉”侵权案，厘清了AI服务提供者的责任边界。而本案则聚焦于AI生成内容的使用者，也即现在拿着手机，使用AI工具的每一个人。倪晓花特别强调：“法律所关注和规制的，始终是人的行为。我们希望通过此案明确使用AI工具时的审核与标识义务。”Epr新江南网|江南区域知名综合门户网