受雇于美国民主党总统竞选人、国会众议员迪安·菲利普斯的政治顾问史蒂夫·克雷默2月25日承认，自己用低价以人工智能(AI)技术炮制出模拟总统约瑟夫·拜登声音打给新罕布什尔州民主党初选选民的电话。这通电话呼吁选民不要参与初选。

　　电话特意用了拜登的口头禅

　　菲利普斯是拜登在民主党初选中的唯一竞争对手。克雷默未承认伪造电话受菲利普斯指使，似乎有意把自己的行为描绘成旨在提醒民众防范AI遭误导性应用的“义举”。这通电话被视作世界已知AI深度伪造技术首次应用于总统竞选，已触发多项调查。

　　克雷默2月25日向美国全国广播公司新闻台等媒体发送声明，承认他是伪造拜登电话的始作俑者。按照他的说法，他利用可经由网络轻易获得的技术生成拜登声音，“仅投资500美元，任何人都可复制”这通电话。

　　克雷默说，他策划了1月20日向新罕布什尔州的5000名民主党选民打出这通自动语音电话。电话呼吁选民不要参与初选，而是“把你的票留到11月选举”，理由是参加1月23日新罕布什尔州民主党初选投票的人将无法参加11月总统选举投票。这通电话还特意用了拜登的口头禅“真是一派胡言”。

　　据美联社测算，在今年以来举行的3场民主党初选中，拜登均以绝对优势获胜。

　　造假者曾协助“侃爷”竞选总统

　　克雷默在声明中承认，雇佣路易斯安那州新奥尔良市街头魔术表演艺人保罗·卡彭特和得克萨斯州一家电话营销公司参与炮制AI电话。得州的那家公司事先对电话内容不知情。

　　菲利普斯及其竞选团队多次谴责这通电话，称当时如果知道电话由克雷默谋划，会即刻解雇他。魔术表演艺人卡彭特则称，他去年结识克雷默，接到AI电话任务时还以为克雷默受雇于拜登。

　　克雷默过去20年间为20多次联邦、州及以下地方竞选担任投票动员专员，因2020年协助美国说唱歌手“侃爷”卡尼·韦斯特竞选总统而广为人知。

　　新罕布什尔州1月23日的民主党初选不受民主党全国委员会认可，拜登没有报名参加。当天选举时，选票上没有拜登，但有菲利普斯。不过，选民在选票上可手写拜登姓名为其投票。初选结果显示拜登轻松获胜。据美联社测算，菲利普斯得票率近19.6%，拜登则高达63.9%。

　　新罕布什尔州检方正以涉嫌“抑制选民投票”而对这通电话展开调查，另有多州检方组建联合调查组追查与这起AI电话事件有关的全部人员。美国联邦通信委员会也有意加紧推动把AI自动语音来电列为“非法”。

　　但据报道，克雷默本人未表达悔意，强调他的行为实际有益于社会，因为执法部门今后会为AI技术在竞选中的应用施加更严格限制。“自我监督不起作用”，政府有必要采取更多执法举措，以制止像他一样用AI技术误导民众的行为。

　　观察

　　政治“深伪”时刻到来？

　　AI技术近来逐渐在选举中崭露头角，它与政治的融合既带来进步，也带来“陷阱”。

　　2023年2月，美国芝加哥市长选举前夕，一段“温和派民主党候选人保罗·瓦拉斯猛烈抨击芝加哥”的视频在网络迅速流传。视频中，瓦拉斯称，由于缺乏法律和秩序，芝加哥已经变成一个“无法无天”的真空地带，而且“警察随随便便就可以射杀嫌疑人，人们却对这些情况视而不见。”

　　不过，这段视频被证明是AI合成。虽然社交平台最后删除了该视频，但其产生的负面影响仍无法消除，瓦拉斯也在市长选举中不敌对手布兰登·约翰逊。

　　美国政府监管组织“捍卫公众利益组织”负责人罗伯特·韦斯曼也称，政治“深度伪造”时刻已经到来，政策制定者必须尽快采取保护措施，否则将面临“选举混乱”。

　　关于AI可能被用来误导选民和恶意歪曲选举的担忧，在2024年这个“全球超级大选年”急剧上升。

　　2月16日，OpenAI、亚马逊、谷歌、微软、TikTok、脸书的母公司“元”、社交平台X(原推特)等全球多家领先的科技企业，在第60届慕尼黑安全会议(慕安会)上签署协议，承诺在2024年这个多国举行重要选举的年份，通过技术部署，减少利用人工智能生成和分发欺骗性内容干扰选举的风险。

　　背景

　　“AI换脸”让多国政要“躺枪”

　　近年来，AI技术发展迅猛，文生图、文生视频的工具如Pika、Sora等层出不穷。而“AI换脸”也通过深度合成算法处理，为“二度创作”提供了支持。深度伪造技术似乎愈发出格，甚至多国政要也纷纷“躺枪”。

　　2023年3月18日，美国前总统特朗普曾在社交媒体上发文称，他预计自己将于2023年3月21日被捕。此消息一出，“特朗普被捕”的“照片”在一些社交平台迅速流传开来。这些“照片”包括“特朗普被警察围捕”“特朗普穿囚服”，甚至还有“特朗普越狱”，精彩程度堪比好莱坞大片。

　　日本首相岸田文雄也曾因“AI换脸”技术“躺枪”。2023年11月，日本一名25岁男子借助AI技术，制作了“岸田文雄开发布会”的假视频。

　　视频中的“岸田”身着西装，神态紧张，语气郑重。该视频还带有日本电视台的台标和“突发新闻”字样。这条假视频上线仅一天，播放量就超过230万次。

　　印度总理莫迪也曾陷“深度伪造”风波。2023年11月，一段“莫迪跳舞”的视频在网上疯传。视频中，“莫迪”和其他舞者身穿传统服饰，围成一个圈，欢快地跳着印度古吉拉特邦的一种节日舞蹈——加尔巴舞。莫迪亲自辟谣，称视频是AI合成的。

　　新加坡总理李显龙2023年底也在社交媒体发文称，近日出现了一些利用他的音频制作的深度伪造视频，宣传加密货币骗局。流传的伪造视频中，李显龙提到获新加坡政府批准的投资机会，并推广了一个所谓由特斯拉首席执行官马斯克设计的“革命性投资平台”。李显龙呼吁公众提高警惕，切勿上当受骗。

　　■综合新华社、中新社等