今年3月5日，常德市桃源县公安局网监大队联合理公港派出所查处一起虚构事实扰乱公共秩序案。违法行为人杨某为吸引流量，利用AI技术移花接木，制作发布了一段校车突发起火的虚构视频及配文。经审查，杨某被依法行政拘留。桃源县公安局网监大队大队长邓克勇提醒市民，涉及公共安全事件以官方通报为准，不信谣、不传谣。

　　3月以来，相继曝出虚拟院士视频带货化妆品，模仿明星古天乐、林峯声音代言赌博游戏平台，某知名模特被人用AI换脸制作淫秽视频等事件。在全国两会上，一些代表委员呼吁，要规范AI“换脸拟声”技术的不当利用，让法律成为AI规范发展的坚实底线。

　　湖南芙蓉律师事务所高级董事、高级合伙人律师杜颖告诉记者，用AI技术“换脸拟声”他人涉嫌侵害他人名誉权，可能带来严重的法律后果。

　　“民事方面可能需要承担停止侵害、赔礼道歉、消除影响、恢复名誉，并赔偿损失等责任，还可能会面临行政处罚，情节严重的可能构成诽谤罪、侮辱罪。除此之外，通过身份伪造和冒充，以非法占有为目的，还会涉嫌诈骗罪。”杜颖提醒，公众在使用AI技术时，必须注意不得制作、传播虚假信息或恶搞视频，尤其是涉及他人肖像、声音等个人特征的内容。公众也要对个人隐私采取防护措施，避免在社交平台公开高清人脸照片、声音片段等生物信息。

　　如何判断使用AI的行为构成侵权？杜颖介绍，主要看产生的后果，如果负面影响比较大，造成社会评价的降低，那么就属于名誉受损，可以依法维权。

　　不法分子利用AI技术正发展出新型诈骗。据IT时报报道，浙江警方数据显示，AI诈骗案件在2024年同比激增270%，单笔损失金额超百万元的案例中，83%涉及伪造视频。

　　长沙市反诈中心提醒：“在日常生活中，但凡涉及交易、转账等行为，一定要核实对方身份，这是避免被骗的关键一步。”“目前AI换脸视频主要集中于静态场景，如带货视频或短时对话。虽然AI技术发展迅速，但‘实时动态换脸’进行诈骗的技术门槛仍极高。”对普通用户生成的换脸视频通常只有几秒，画面模糊、声音机械，仔细观察便能识破。 

　　目前，我国已相继出台《互联网信息服务算法推荐管理规定》《人工智能生成合成内容标识办法》及配套国家标准《网络安全技术人工智能生成合成内容标识方法》等，正在构建多层次的治理制度，在鼓励和保护技术创新的同时，对技术风险的法律监管趋向全链条发力。