最近,一批名叫“小海”的苦命男孩在短视频平台上批量涌现。他们对着镜头一口一个“姨姨妈妈”,哭诉着单亲、窘迫的身世,让不少中老年人看了心疼落泪,纷纷下单买货帮扶,甚至有七旬老人独自坐火车前去探望。
今年5月,新疆乌鲁木齐铁路公安的乘警在巡视车厢时,发现一位79岁的老人独自一人乘车远行,神情焦急。乘警上前询问得知,老人不识字,也说不清具体目的地,只知道自己要去山西运城“走亲戚”,看望一个天天在手机里喊她“姨妈”的苦命孩子。在乘警的耐心劝说和联系下,这位老人最终下车,乘坐家人买好的返程票回到了家。
“数字人小海”批量出现老年人当了真
一位不识字的七旬老人,怎么把手机屏幕里一段虚构的视频当了真?记者在短视频平台搜索发现,让这位老人深信不疑的,正是近期在网络上批量出现的“数字人小海”。
这些由AI生成的十几岁男孩形象,无一例外都在上演着“懂事、窘迫、心疼长辈”的苦情剧本。
在一些视频里,“小海”眼含热泪,对着镜头展示手里的馒头:“姨姨妈妈,我是小海,同学们都去吃饭了,我躲在教室里面吃馒头。姨姨妈妈,我有好好吃馒头,我还买了个肉包是给姨姨妈妈的,小海想把好吃的给姨姨妈妈们……”而视频下方则是中老年网友一句句真情实感的语音和文字留言。
先用“躲在教室吃馒头”等虚假身世筛选出最具同情心、最缺乏防备的中老年群体,然后就会把他们精准推向下一步——带货。在另一段带货视频里,“小海”摇身一变,成了最懂老人心的“贴心晚辈”,开始推荐阿胶。
编造故事博同情卖货,已涉嫌构成欺诈
调查中记者发现,操作这样一个“小海”账号,门槛极低。互联网平台中,几块钱就能买到全套AI数字人生成教程,各种营销话术模板更是比比皆是。同样的文案,换一张脸、换一个声音,就能批量生成出成百上千个“小海”。
北京航空航天大学法学院副教授赵精武指出,这些躲在代码背后操纵数字人卖惨带货的主体,只要恶意编造故事博取同情卖货,就已涉嫌构成欺诈。
赵精武表示,数字人卖惨带货和真人卖惨带货在法律定性上无本质差异。即便标注“AI生成”,也不能就此认定老年人受骗是自身疏忽,该标识仅说明视频制作工具。此类内容瞄准家庭情感缺位的老年人,主观上并非描述客观事实,存在恶意误导、博取同情,可认定为欺诈。在这条产业链上,账号或直播间运营者是第一责任人。
追问
有“AI生成”水印
为何拦不住老人受骗?
事实上,《人工智能生成合成内容标识办法》早在去年9月施行,为什么依然管不住一个又一个裂变出来的“小海”?不少涉事账号在视频角落打上了“AI生成”水印,为什么还是拦不住老人受骗?
专家认为,老年人数字素养参差不齐,现行法规仅要求AI生成视频标注AI标识,老年群体往往忽略边角水印,还有老年用户将AI生成内容理解成“因无法直接拍摄真实事件,所以只能以AI视频替代描述”,导致很多老年人上当受骗。
为什么在年轻人眼里一眼就能看穿的粗糙AI合成影像,一些老年用户完全看不出来,甚至像那位79岁的老人一样千里迢迢去寻人?
北京大学政府管理学院教授马亮认为,表面上看这是老年人的数字素养差距,但深层的根源,在于社会中不容忽视的“情感空巢”问题。不少老人轻信AI视频甚至付费,源于线下生活孤独、缺少有效陪伴,试图借数字消费满足精神需求。社会工作与社区治理部门应该跟进,为老年人提供更多线下关怀与AI应用指导,避免老人上当受骗。
数字人带货,为什么总能精准找到老年用户?
除了操盘账号的黑灰产与商家外,短视频平台同样饱受质疑。相同的苦情话术、高度雷同的数字人面孔、高频挂载的商品链接,为什么总能精准找到老年用户?
马亮认为,面对批量制造的坑老视频,平台的责任绝不能止步于给视频打个标签,或者等网友举报了再去封号。传统“打地鼠式”治理,依赖举报再处置,这种响应式治理非常被动、滞后。这类坑老视频以牟利为目的,平台具备技术能力,可通过视频下方的评论、用户后续购物行为等数据识别欺诈内容。
对此,赵精武也明确表示,面对成批出现的“小海”账号,传统的“通知—删除”规则已不再适用,平台的注意义务必须前置升级。针对老年人这类特殊群体,从“适老化服务”向“银龄守护模式”转变,在算法推荐、反诈宣传等环节实施专项保护。
链接
AI换脸拟声
名人遭遇仿冒
带货如何“解”
短视频里的“明星”,眼见也未必为真。随着AI换脸、拟声技术日益成熟,打着名人及其家属旗号的仿冒账号频频出现,让网友难辨真假。日前,演员吴越遭遇AI仿冒带货,凌晨发文怒斥“太恶劣”;此前演员温峥嵘深夜刷到AI伪造的自己正在直播间带货,她进入直播间质问:“你是温峥嵘,那我是谁?”话音刚落就遭到对方拉黑。那么,AI换脸、克隆声音假冒名人带货的情形为何频频发生?视频上标注了“AI生成”就能免责吗?遭遇侵权又该如何举证维权?
标注“AI生成”非免责护身符
专家指出,侵权账号未经演员本人许可,利用AI合成其肖像、声音开展直播带货,属于典型的人格权侵权。即便视频标注了AI生成字样,也不是免责护身符。没有获得当事人授权,擅自使用他人形象、声音,哪怕标注足够醒目,侵权性质依然不会改变。
北京航空航天大学法学院副教授王琦指出,类似内容的发布者有两部分义务,第一部分是他要按照人工智能监管的法律法规,对人工智能生成合成也就是我们经常说的深度合成的内容进行标识,让人知道这是AI生成的,非真实的。他还有另外一部分民法上的义务,如果这个视频使用了他人的人格标识,包括像肖像、声音等,还必须取得肖像权人或者声音权人的同意。
遭遇AI仿冒应该如何维权
一旦发现肖像、声音被AI仿冒盗用,当事人可以第一时间录屏、截屏,完整固定侵权视频、账号主页等全部证据。既可以向平台投诉,要求下架侵权内容,也可以提起诉讼,通过司法途径主张自身权利。不少侵权视频刻意打擦边球,合成形象似像非像,给权利人举证设置障碍。专家提醒,维权大可不必纠结于形象必须“百分之百相似”。
王琦表示,维权的过程当中,被侵权人要证明相关的视频能够识别出本人,按照现在的司法政策和司法标准,并不要求百分之百相似,被侵权人只要证明按照社会相关公众,或者行业内相关群体的认识,能够识别出本人,就已经构成对本人人格权的侵权,可以主张法律保护。
■综合央视新闻、中国之声