美国总统大选现人工智能造假 “深度伪造”模仿竞选人士

　　据央视新闻消息，据美国媒体日前披露，上周，很多人接到了通过一家人工智能初创公司的技术“深度伪造”的美国总统拜登电话呼叫，“假拜登来电”迅速成为美国多家媒体的热门话题，也再度引发了美国社会关于人工智能“深度伪造”可能影响大选的讨论。

　　冒充拜登的机器人语音电话录音：把你们的选票留在11月份再投很重要。在这周二（23日）投票，只会让共和党人得逞，让特朗普再次当选为共和党候选人。

　　上周美国总统大选共和党党内初选在新罕布什尔州举行前，部分选民接到了这样一通来电。白宫新闻秘书卡里娜·让-皮埃尔22日证实，这一来电是“伪造，不是由总统录制”。

　　美国媒体日前援引消息人士的话报道称，美国人工智能初创公司“十一实验室”暂时关闭了一名用户的账户。美国语音欺诈检测公司——“静默”公司称，分析发现，“十一实验室”公司的科技被用于制作冒充拜登的机器人语音电话录音。“十一实验室”公司在一份声明中称将严肃对待人工智能技术被滥用的情况，但对近日引发关注的“假拜登来电”事件不予置评。

　　新罕布什尔州总检察长表示，正在调查这一事件，并呼吁选民忽视这类假消息。

　　OpenAI停总统参选人仿真聊天机器人账户

　　事实上，人工智能已经渗入美国总统竞选活动。

　　不久前，硅谷的科技开发者为民主党总统参选人迪恩·菲利普斯创造了一个仿真聊天机器人，称用户可以与模仿菲利普斯的人工智能产品对话。本月20日，美国人工智能公司OpenAI表示，已经停用了该开发者账户，称这一做法违反了该公司禁止在竞选活动中滥用人工智能技术的政策。

　　“深度伪造”模仿竞选人士 欺骗选民

　　此前，人工智能生成的虚假信息也已多次干扰美国政治活动。

　　在去年2月举行的芝加哥市长选举第一轮投票前夕，社交媒体上出现了一段关于候选人保罗·瓦拉斯的视频，伪造瓦拉斯的声音发表言论，声称“警察随随便便就可以射杀嫌疑人”，并呼吁削减警察经费。

　　冒充瓦拉斯的机器人语音录音：人们却对这些情况视而不见。

　　在瓦拉斯向社交媒体平台发出投诉之后，社交媒体删除了这段视频，但该视频在下架前已经被浏览了数千次。

　　人工智能带来“深度伪造”立法慢引担忧

　　当前，人工智能的兴起推动了各行业的变革创新，但同时也引发了人们的不少担忧。其中，基于人工智能技术的“深度伪造”现象受到广泛关注。“深度伪造”是指对一个人的声音或图像进行数字更改并意图造成伤害。这种行为目前不仅出现在美国政治中，也波及美国娱乐圈乃至人们生活的方方面面，引发美国舆论的担忧和批评。

　　美国媒体“微软—全国广播公司”在报道中提出疑问，2024年将是“深度伪造”的大选年吗？

　　冒充拜登的机器人语音电话录音：把你们的选票留在11月份再投很重要。

　　美国网络安全专家 克里斯·克雷布斯：生成这类内容非常容易，这就是所谓的20秒规则。只需要一个人20秒的声纹，就能生成这样的内容。我认为执法部门、联邦调查局和司法部长办公室将面临一些挑战。不幸的是，我认为这只是我们将在选举季看到的冰山一角。

　　美国政府监管组织“捍卫公众利益组织”负责人罗伯特·韦斯曼批评称，政治“深度伪造”时刻已经到来，政策制定者必须尽快采取保护措施，否则将面临选举混乱。“深度伪造”会播下混乱的种子，使欺诈行为永久化。

　　近日，美国流行乐歌手泰勒·斯威夫特也成为“深度伪造”技术的又一受害者，虚假合成的不雅照在社交网络疯狂传播，引发美国媒体对人工智能技术被滥用的质疑。

　　记者：对这种技术被滥用的情况白宫有多担心？

　　白宫发言人 卡里娜·让－皮埃尔：虽然社交媒体公司在内容管理方面有独立决策权。但我们认为，它们在严格落实其监管制度上应起到重要作用，以防止错误信息和未经本人允许的私密图像传播。令人遗憾的是，我们都知道，执法不严对妇女和女孩的影响更为恶劣。

　　人工智能技术飞速发展，但美国相关的监管政策和立法却跟进迟缓。业内人士指出，科技发展的双刃剑仅靠企业的自律是无法掌控的，人工智能技术的滥用迫切需要政府监管。

　　美国消费者技术协会首席执行官 夏皮罗：政府需要在人工智能领域扮演重要角色，确保设置安全屏障和护栏，让产业内人士知道，哪些能做，哪些不能做。

　　2023年10月，美国总统拜登签署行政令，为本国人工智能安全制定新标准，要求美国人工智能系统的研发人员与政府分享其安全测试结果及其他关键信息、完善相关标准和测试工具等，但该行政令缺乏强制执行效能。

　　密尔沃基工程学院计算机科学项目主任 德里克·赖利：我们的政府行动不够快，跟不上正在发生的变化。所以我认为，我们不太可能看到有效的监管。