东卫研究 || 东卫北京总部唐瑜律师:涉人工智能司法案例的分析和启示
2024-08-12

2024

涉人工智能司法案例的分析和启示

当前,人工智能(AI)技术高速发展,已经广泛地渗透到各个领域,其带来的法律问题也日益受到关注。在不同的司法领域都已出现了一些现实案例。笔者正在持续关注、研究人工智能治理相关问题,本文将通过对几个具有代表性的司法案例进行分析,探讨人工智能在司法实践中引发的各类纠纷及相关的裁判尺度,供律师同仁及人工智能企业、人工智能技术爱好者研究探讨。

首例生成式人工智能服务

提供者侵犯著作权案

享誉全球的奥特曼作品国内著作权人上海某文化发展有限公司(以下简称“原告”)对一家提供“AI绘画”服务的AI公司(以下简称“被告”)提起诉讼,主张被告未经授权而擅自利用原告享有权利的作品训练其大模型并生成实质性相似的图片,且通过销售会员充值及“算力”购买等增值服务攫取非法收益,侵犯了原告对案涉奥特曼作品(以下简称“涉案作品”)享有的著作权。2024年2月8日,广州互联网法院作出判决,认定被告在提供生成式人工智能服务过程中侵犯了原告对涉案作品所享有的复制权和改编权,并应承担相关民事责任。虽然被告构成侵权,但因被告并非模型开发者、模型运营者,仅作为服务提供者未实际进行模型训练,故法院没有支持删除训练数据的诉求,仅判令被告停止侵害原告涉案作品著作权的行为,立即采取相应技术措施,在提供服务过程中防止用户正常使用时,生成侵犯原告案涉著作权的图片,并赔偿原告10000元。

典型意义:1、全球首个对服务提供者涉著作权侵权问题作出认定的生效判决。也是国内首个服务提供者的著作权侵权例,本案首次认定服务提供者对生成物应承担合理、可负担的注意义务,包括建立投诉举报机制、提示潜在风险、标明显著标识等,这将对于未来我国生成式AI提供者在提供相关服务时起到示范性的司法指导作用。

2、国内首次将《生成式人工智能暂行管理办法》写进民事判决书。该案例是全球首个承认人工智能生成内容平台侵犯他人版权的有效判决,具有重要意义。它明确了在判断人工智能生成内容是否侵权时,需考虑原作品的知名度、接触可能性以及生成内容与原作的相似度等因素。同时,也强调了服务提供商在运营人工智能生成内容平台时应尽的注意义务,包括建立投诉举报机制、进行风险警示和明确产品标识等,否则可能因未尽到合理注意义务而承担赔偿责任。

首例AI生成图片

侵权案

2023年2月24日,原告李某使用Stable Diffusion模型,通过在模型上输入数十个提示词,设置相关迭代步数、图片高度、提示词引导系数以及随机数种子等,生成了数张人像图片并发布在社交平台小红书上。2023年3月2日,百家号一自媒体账号发布的名为《三月的爱情,在桃花里》的文章使用了李昀锴制作的图片。2023年5月25日,原告起诉被告刘某侵害作品署名权、信息网络传播权纠纷一案在北京互联网法院立案。

法院经审理认为,原告通过输入提示词、设置相关参数,获得了第一张图片后,继续增加提示词、修改参数,不断调整修正,最终获得了涉案图片“春风送来了温柔”,这一过程体现了原告李昀锴的审美选择和个性判断。所以涉案图片具备“独创性”要件。属于美术作品,受到著作权法的保护。据此判决被告赔礼道歉并赔偿原告500元。后双方均未提起上诉,一审判决现已生效。

典型意义:国内首例,很可能也是全球首例,法院确认人工智能生成图片的著作权。不过,需要注意的是,本案判决也强调,利用人工智能生成的内容是否构成作品,需要视个案情况而定,不能一概而论。

首例AI声音

侵权案

原告配音员殷某受公司A所托录制声音作品,公司A在未经允许的情况下将声音文件交予公司B,公司B随后将声音文件训练为AI文本转语音产品,并将其作为产品上架第三方平台出售。殷某发现以她为原型训练的AI模型在互联网中流传后,将公司AB与上架销售的第三方平台等诉至北京互联网法院。

法院经审理认为,人格权在《民法典》中独立成编,且保护“声音”被首次以立法形式写入民法典,明确参照适用肖像权的形式保护自然人的声音。而根据法庭确认,涉案的AI声音与殷某的音色、语调、发音风格等具有高度一致性,能够引起一般人产生与原告有关的思想或感情活动,能够将该声音联系到原告本人。因此,北京互联网法院判决公司A、B侵犯了殷某人格权,并须向原告支付赔偿25万元。

典型意义:国内首例AI声音侵权案。这一判例的出现为我们提示了AI配音所潜藏的风险,值得行业关注。例如,在第三方服务中采购的语音的AI生成模型可能会存在侵权类问题,因此游戏公司在使用第三方模型前最好提前核实相关的声音授权情况,以免在后续面临诉讼或替换配音等风险。

大模型侵权

第一案

某作文公司与某培训机构运营公司系合作伙伴。2023年4月的一个周末,某作文公司员工正常休息,办公室里空无一人。然而直至周一,归来的程序员才发现,公司的海量数据,在周末被一群“天外来客”爬了个遍,总爬取数超过两百万次。事后经过分析和直接询问,才发现爬取者正是某培训机构。6月,某语文公司发现,某培训机构推出的大模型和在学习机上线的AI助手,在未经授权和许可情况下,使用了上述爬取的海量数据,故某语文公司宣布将起诉对方。

后经双方协商,达成和解,最终本案未进入诉讼程序。

典型意义:国内大模型侵权第一案。虽然未进入诉讼,法院未作出裁判,但是在全社会都在关注大模型、很少关注大模型背后的训练数据来源,以及是否征得了数据版权方的授权、是否付费的情况下,提醒社会和相关主体重视数据来源的合法性。本案之所以受到万众瞩目,还因为案件的进展,实际上关系着持有优质数据版权公司的切身利益。同时,也关系着大模型行业的健康发展。

AI换脸视频侵犯

个人信息案

原告廖某、吴某均系国风短视频模特,拥有众多粉丝。被告是一款“换脸”APP的运营者。被告在未经授权的情况下,使用原告的出镜视频制作换脸模板,并上传至涉案换脸APP中,提供给用户付费使用借此牟利。原告认为,被告的行为侵害了原告的肖像权和个人信息权益。原告据此向北京互联网法院提起诉讼,要求被告赔礼道歉,并赔偿精神损失和经济损失。

法院经审理认为:换脸模板视频不具有肖像意义上的识别性。被告并未实施法定的侵害原告肖像权的行为。具体而言,被告并未制作含有原告肖像的视频;被告虽使用了原告的涉案出镜视频,但并非是对原告肖像的利用。因此被告的行为不符合民法典关于肖像权侵权的相关规定。但是,被告行为构成对原告个人信息权益的侵犯。理由主要是:原告涉案出镜视频动态呈现了原告的面部特征等个体化特征,符合《中华人民共和国个人信息保护法》规定的“与已识别或可识别的自然人有关的信息”的定义。被告作为人工智能服务使用者,实施了处理原告个人信息的行为,涉案账号说明处标注有“未授权给任何收费软件”,不应推定原告同意他人对其人脸信息进行处理,被告亦无证据证明经过原告的同意。故法院判决被告向原告赔礼道歉,赔偿精神损失及经济损失。

典型意义:当前网络直播参与者众多,换脸软件也受到越来越多人的追捧,如本案的侵权情形高发。这也提醒公众,个人信息和肖像权均应得到尊重和保护,处理个人信息必须取得权利人同意。

肖像权

侵权案

原告系知名网红博主,长期在其抖音账号上发布以自身为主题系列的影视作品。其粉丝数已有79万余人,作品点赞量达1077.1万人次。2022年8月,原告发现被告某公司在其视频生成器APP“倩影秀”上,未经原告许可擅自使用前述摄影作品,并制作融脸视频模版,提供给付费会员使用。原告遂向上海市浦东新区人民法院提起诉讼,要求判令被告下架侵权融脸视频,并在案涉侵权APP连续一个月置顶发布经原告认可并由法院审核过的公开道歉和声明,并赔偿经济损失4万元。

法院经审理,认为被告的行为构成侵权,依据《中华人民共和国民法典》第一千零一十九条、第一千一百六十五条之规定,判决被告在其运营的“倩影秀”手机软件首页显著位置对使用原告潘某肖像一事赔礼道歉,连续保留七日,内容须经该院审核;赔偿原告3200元。

典型意义:与上一个案例相似,当前,如本案的侵权情形高发。经查询裁判文书网,此类案件发案量位列前茅。这提醒公众,肖像权均应得到尊重和保护,使用别人肖像必须取得权利人同意。

腾讯公司诉上海某公司侵害著作权

及不正当竞争纠纷案

腾讯公司自主开发的 dreamwriter 智能写作助手创作完成了一篇财经报道文章,并在腾讯证券网站上首次发表。上海某公司未经允许当日通过其经营的“网贷之家”网站传播了该文章。腾讯公司认为上海某公司侵犯了其著作权,诉至法院,称涉案文章由其主创团队利用 dreamwriter 软件,在采集分析股市财经类文章、数据的基础上,根据独特表达意愿形成文章结构,并结合股市历史数据和实时数据生成。文章的生成历经数据服务、触发和写作、智能校验和智能分发四个环节,其著作权应归腾讯公司所有,上海某公司的行为侵犯了信息网络传播权并构成不正当竞争,要求被告立即停止侵权、消除影响并赔偿损失。被告未发表答辩意见。

法院认为:判断涉案文章是否构成文字作品的关键在于其是否具有独创性。首先,从是否独立创作及与已有作品的差异或创造性角度分析,涉案文章外在表现符合文字作品形式要求,内容体现了对股市信息、数据的选择、分析和判断,具有一定独创性。其次,从生成过程看,文章表现形式由原告主创团队个性化安排与选择决定,并非唯一,具有独创性。涉案文章创作过程中主创团队在数据输入、触发条件设定、模板和语料风格取舍上的安排与选择,属于与特定表现形式有直接联系的智力活动,符合著作权法对创作的要求,应纳入创作过程。综上,涉案文章满足著作权法对文字作品的保护条件,属于受保护的文字作品。该文章是由腾讯公司多团队、多人分工形成的整体智力创作成果,系腾讯公司主持创作的法人作品。故法院支持了腾讯公司的诉讼请求。

典型意义:此案的意义在于明确了人工智能生成物的独创性判断步骤,对于人工智能生成物的创作过程及相关使用人员的行为能否认定为法律意义上的创作行为进行了探索,认定人工智能生成的文章构成作品,为类似案件的审理提供了借鉴。将具有独创性的人工智能生成物认定为作品并进行著作权保护,符合激励创作的立法宗旨,有利于促进人工智能产业的良性发展。

侵害作品信息

网络传播权案

原告在抖音账号发布原创视频作品125件,粉丝人数2.2万人、获赞量达20.9万。被告公司运营一款手机换脸软件。原告获悉被告公司擅自在其软件中上传原告享有著作权的视频作品提供给用户换脸使用以非法牟利。原告认为,涉案视频虽时长较短,但体现了原告创作的智力成果,享有著作权,被告的行为严重侵害了原告原创作品的署名权、信息网络传播权、保护作品完整权、改编权、修改权、获得财产权等著作权的权利,故将被告诉至北京互联网法院。

法院经审理认为,原告主张权利的涉案视频有伴音、有镜头和景别选取、使用了变速、慢放等剪辑手法,在此过程中对表达内容的编排、视频内容的选择、拍摄角度的选取、剪辑手法的运用等,体现了原告的智力劳动成果,具有独创性,也体现了一定艺术美感,应当受到著作权法的保护。被告未提供原告许可的证据,应认定侵犯了原告的信息网络传播权和署名权。由于被告已经删除侵权作品,故判令被告赔偿500元。

典型意义:这是一起网络服务提供者承担责任的案件。值得注意的是,被告提出依据避风港规则免除侵权责任,法院不予采纳。因为在“避风港”规则中,主观前提条件非常重要,即网络服务提供者必须不知道侵权的存在。

传播淫秽物品

牟利案

2018年,被告人郑某某因通过翻墙软件登录境外网站在推特上接触到利用“换脸”软件制作名人、明星淫秽视频技术。2021年,被告人郑某某产生了以传播明星换脸淫秽视频牟利的想法,因国内网络监管较为严格,为逃避打击,被告人郑某某在黄岛区某酒店通过境外网站在推特上发布明星换脸淫秽短视频并发布广告招揽客户。2021年7月至10月,被告人郑某某在推特账号上共发布63条视频,经鉴定均为淫秽视频。2021年8月29日,被告人郑某某通过QQ向杨某某出售一个“换脸”工具,获利200元;2021年10月18日,被告人郑某某通过QQ向刘某某销售一段淫秽视频,获利60元。

法院经审理认为,被告人郑某某以牟利为目的,传播淫秽物品,其行为构成传播淫秽物品牟利罪。依据《刑法》、《刑事诉讼法》相关规定判决:一、被告人郑某某犯传播淫秽物品牟利罪,判处有期徒刑一年五个月,缓刑二年,并处罚金人民币五千元。二、被告人郑某某已缴纳的违法所得人民币260元,依法予以没收,上缴国库。

典型意义:人工智能在极大促进社会发展的同时,也会被犯罪分子作为工具,应当引起重视。尤其是大模型训练需要海量的信息,相关个人信息也存在被不法分子非法泄露、出售等风险,该种情形构成的是侵犯公民个人信息罪。

美国著名互联网公司

侵犯隐私案

据网上信息,此案始于2020年,涉及自2016年6月1日以来的数百万名美国某著名互联网公司用户。诉讼书指出,该公司内部电子邮件显示,这家搜索和广告巨头一直在跟踪使用“无痕模式”的用户,以监测网络流量以及销售广告。

原告方表示,这种模式会给用户一种他们在网上浏览的内容没有被跟踪的错觉,侵犯了用户的隐私。该公司应为受影响的用户提供每人5000美元的补偿,总金额至少为50亿美元(约合人民币355亿元)。美国加利福尼亚州一家法院的法官证实,该公司公司已经就一项赔偿金额高达50亿美元的集体诉讼与原告方达成初步和解。但和解条款并未披露,预计正式和解协议将提交法院批准。

典型意义:此类情形在国内也可能存在。无论是头部的AI企业,还是初创企业,都要将保护用户隐私作为重要使命,杜绝此列侵犯隐私权的情形。个人用户也应尽可能谨慎,避免隐私泄露。

以上案例反映出,人工智能在司法实践中引发了诸多法律问题:首先,关于人工智能生成物的法律属性和权利归属存在争议。案例二和案例七分别对计算机软件智能生成内容是否构成作品以及相关权益的归属进行了探讨。法院在判断时,主要考量生成物是否体现了一定的独创性以及创作过程中是否有人的智力活动参与。

其次,人工智能的自主性可能导致侵权行为的发生,而如何界定相关责任是一个难题。在案例一中,人工智能大模型的训练数据侵犯了他人的合法版权,提供服务者同样可能需要承担相应的法律责任。

此外,以上案例尚未明确提到的一点是,在司法程序中证据规则的适用也面临挑战。人工智能技术的专业性和复杂性,使得传统的举证责任分配方式在某些情况下可能难以实现公平公正。例如,在涉及人工智能侵权的案件中,被侵权方可能难以证明人工智能缺陷与损害结果之间的因果关系。

因此,为了实现技术进步和社会治理良性循环,我们一方面要平衡涉人工智能案件各方当事人的权利义务,在现有法律框架下稳妥解决已发生和即将发生的纠纷;另一方面要通过立法、伦理指引和政策治理,规范人工智能技术更好的造福社会,也给各级各类监管部门依法进行社会治理提供法律和政策的依据。


十一

作者简介

唐瑜律师,中国政法大学法律硕士研究生,现为北京市东卫律师事务所高级合伙人。唐瑜律师曾供职于北京法院系统,先后审结各类民商事案件千余件,审判业务娴熟。唐瑜律师入职东卫律所后专门从事民商事诉讼执行案件的代理,尤其对于涉金融类案件、商事合同诉讼、仲裁具有丰富办案经验,累计处理商事诉讼标的达70多亿元,办案经验丰富,具有敬业精神。同时,唐瑜律师还参与了各大型央企、国企、政府机关及民营企业的法律顾问工作,积累了丰富的法律顾问业务经验。

Tel:13269665278(微信同号)

E-mail:tangyu01@dongweilawyer.com

制作:韩   雪

审核:冯发海

北京市东卫律师事务所成立于2002年。经过20余年发展,现已成为一家专业齐全、服务优质、极具口碑的大型综合性律师事务所。业务涵盖刑事辩护、民商事诉讼与仲裁、银行保险、股权投资、资本市场、企业改制、政府法律顾问、知识产权、建筑与房地产、破产清算、国际贸易与投资、公益法律援助领域等各个领域。2022年6月,东卫组织形式变更为特殊普通合伙。

东卫北京总部现位于首都核心区,目前在全国拥有1200余名人员,其中近百名为博士后、博士律师,十多名法学专家教授为兼职律师,并聘请全国知名学府法学专家、多名实务专家担任东卫专家顾问委员会成员,能够为客户提供权威、及时、前沿、有效的解决方案。

东卫以“学院派”为特色,成立有多个法律智库平台,设有齐全的专业机构,举办多次高端论坛,专业能力领先同行。同时,东卫还与多个海外法律服务机构保持长期合作关系,能为客户提供全方位、多样化、国际化的法律服务与支持。

Main Honor

北京市律师行业先进律师事务所党组织

律所卓越品牌影响力

中国律所品牌价值100强

北京商务服务业创新品牌100强

全国商联法律维权服务中心律师团成员

中国中小企业协会企业合规评价建设单位

北京市市级行政事业单位法律定点服务单位

全国律师行业优秀共产党员

北京榜样·十大律师楷模

北京市优秀律师

三八红旗奖章

北京市司法行政系统先进集体

“今日头条”年度最佳合作律所

中国优秀知识产权律师榜TOP50

北京市破产管理人协会优秀团队

中国房地产业营销协会副会长单位

《中国版权》理事会理事单位

助力金融风险防范机构

北京市优秀共产党员

全国优秀律师

北京市百名优秀刑辩律师

ALB十五佳

Professional institutions

东卫民商研究院

东卫刑事研究院

全国刑事业务研究中心

全国金融业务研究中心

全国刑民交叉业务研究中心

全国涉外法律业务研究中心

全国知识产权业务研究中心

全国合规与风控业务研究中心

全国环境与资源业务研究中心

全国公司与并购重组业务研究中心

全国证券与投资基金业务研究中心

全国破产重整与清算业务研究中心

全国行政与政府顾问业务研究中心

全国劳动与人力资源业务研究中心

全国互联网与数字经济业务研究中心

全国建设工程与不动产业务研究中心

全国诉讼/仲裁/调解多元争议解决中心

全国婚姻家事与家族财富管理业务研究中心

全国特殊资产暨重大执行案件业务研究中心

Branches

Contact us

法律咨询:dongweiad@dongweilawyer.com

人才引进:hr@dongweilawyer.com

媒体合作:dongweifirm@dongweilawyer.com

联系电话:010-65542826/27

总部地址:北京市东城区朝阳门北大街8号富华大厦D座三、五、六层

Follow us

官方网站:https://dongweilawyer.com

微信公众号:东卫律师事务所

微信视频号:东卫律师事务所

点击关注

东卫律所

Statement

本公众号所载文章仅代表作者本人观点或仅为提供法律信息,不应视为本所出具的法律意见。任何依照所载内容实施行为(包括作为或不作为)所产生的后果,本所及作者本人均不承担任何法律责任。原创文章未经许可禁止转载,如需转载请联系本公众号获取授权。

Map