Sora在全球刚火，印度人利用AI生成深度伪造影像影响选举，已经玩得出神入化。印度几乎所有的政党都在学习、利用人工智能技术影响选举。印度的AI公司面对选举中大量的深度伪造订单，也是左右为难。印度法律监管滞后，大选中利用人工智能操纵选民被认为是竞选策略的一部分。利用大型科技公司控制其平台上的深度伪造行为，无法制止利用人工智能技术操纵选民的企图。

　　春节前后， ChatGPT开发者、美国OpenAI公司开发的一种文本转换视频的模型Sora在全球大火。Sora根据文本生成制作的几段一分钟长度的高质量视频，逼真得一般人很难找到瑕疵，区别真伪。

　　毫无疑问Sora不仅可以理解文本内容以及本文内容中描述的物理运动，还能生成具有特定的运动和情感表达的多个角色和复杂场景的视频，这让前两年难以想象的元宇宙中虚拟世界的概念，已经接近于实用化，从而成为一种即将改变世界的智能工具。

　　我们常说，科技用于为人类服务时，一日千里的科技革命是人类的福音，但若将科技用于作恶，其使坏的后果也会让人防不胜防。

　　2023年9月，骗子利用AI智能换脸技术，佯装成福州市某科技公司法人代表好友，不到10分钟诈骗该企业家430万元。

　　2024年1月，美国艺术家泰勒·斯威夫特的虚假色情图片出现在社交媒体平台上，比真实图片还真实的AI技术，让很多网民信以为真，人工智能生成的欺骗性所构成的威胁引起了全世界的关注。

　　但至目前为止，利用人工智能对人类最大的负面影响，应该属于正在2024年印度大选中所发生的一些事。

　　周一，印度时报报道称，2023年 11 月 30 日清晨，印度选民们在立法机构中排队投票，准备选出印度南部特伦甘纳邦的下届政府时，一段 7 秒的视频开始在社交媒体上疯传。

　　当时在该邦的印度反对党国大党在马斯克的 X 平台上发布了一段由人工智能生成的视频，视频图像显示了时任该邦的印度人民党领导人 KT Rama Rao，呼吁人们投票支持国大党的内容，该视频在印度的浏览量超过 50 万次。

　　人民党告诉媒体，这是一段假视频，但AI技术让其看起来完全真实，普通选民无法区分。而视频发布时，投票已经开始，人民党没有时间控制损失。

　　这一事件凸显了深度伪造，是人工智能生成或操纵图片与视频泛滥的一个标志，这些由AI伪造的图片或视频，破坏了近几个月印度各邦的一系列选举，现在正威胁着从根本上影响该国即将举行的2024年大选。

　　2023年11 月，印度信息技术部长阿什维尼·维什瑙称深度伪造是“对民主的威胁”，印度总理纳伦德拉·莫迪也表达了这些担忧。

　　2024年3 月至 5 月期间，印度近 10 亿选民将在世界上、历史上规模最大的选举中选出下一届印度政府。

　　最近，近 40 个竞选活动的管理者告诉印度时报说，随着方便的人工智能工具的可用性不断增加，包括莫迪领导的印度人民党和国大党在内的印度各政党团队，都在部署深度伪造来影响选民。 虽然免费的用于生成深度伪造的几种人工智能工具生成的结果有瑕疵，但没有瑕疵的其他工具可以通过订阅获得，每个视频只需 10 美分。

　　印度人民党可以说是印度深度伪造技术最先进的政党，一直处于利用AI生成的图像进行竞选的最前沿。早在2012年，该党就使用莫迪的3D全息投影，让他可以同时在数十个地方“竞选”whatsapp 大陆破解。该战略在 2014 年莫迪上台大选期间得到了广泛部署。但其中几乎没有涉及欺骗。

　　但 2020 年 2 月，印度人民党议员马诺吉·蒂瓦里成为世界上首批使用深度造假进行竞选活动的人之一。在新德里立法议会选举之前，蒂瓦里在三段视频中用印地语、哈里扬维语和英语向德里选民发表讲话，吸引了这座多元文化城市的三种不同受众。不过只有印地语视频是真实的，另外两个是深度伪造的。其中AI被用来生成他的声音和言语，并改变他的表情和嘴唇运动，使其几乎不可能仅在观看时检测到它们不是真实的。

　　近几个月来，统治南部泰米尔纳德邦的德拉维达·穆内特拉·卡扎加姆，使用人工智能复活了其标志性领导人卡鲁纳尼迪，并使用了用AI制作的这位前电影作家和资深政治家在竞选活动中的逼真视频。

　　随着ChatGPT、特别是Sora的出现，现在，印度的顾问和竞选经理表示，2024 年的选举可能会进一步加剧AI深度伪造的使用。

　　国大党社交媒体全国协调员阿伦·雷迪表示，“政治就是创造认知，借助AI制作、发布语音和视频，可以在一分钟内彻底改变选民的感知” 。 他的团队充满了将人工智能纳入竞选活动的想法，但他们没有足够的“训练有素的人员”来执行所有这些想法。

　　所以阿伦·雷迪正在加强他的团队，其他印度大选组织者也是如此。在印度，人工智能将在创造叙事方面产生巨大的影响，人工智能操纵的政治内容将成倍增加，比以往任何时候都多得多。

　　30 岁的迪维安德拉·辛格·贾杜恩来自印度西部的沙漠小镇普什卡，经营着一家人工智能初创公司 The Indian Deepfaker。 他的公司于 2020 年 10 月成立，克隆了拉贾斯坦邦国会首席部长候选人阿肖克·格洛特的声音，让他的团队在 2023年11 月议会选举期间在 WhatsApp 上发送个性化消息，直呼每位选民的名字。

　　印度深度伪造目前正在与锡金首席部长普雷姆·辛格·塔芒的团队合作，在即将到来的活动中制作全息图。锡金是印度东北部最小的邦之一。

　　贾杜恩说，最近几个月，他被政治竞选活动的不道德要求所淹没。在2023年 11 月份的选举中，他的公司拒绝了 50 多项此类请求，其中潜在客户希望修改视频和音频以针对政治对手，包括色情内容。

　　贾杜恩表示，作为一家初创公司，他的公司特别小心，以避免出现任何法律麻烦。这是对人工智能的一种非常不道德的使用，但印度还是有很多人以非常低的价格做这件事，而且现在很容易买到。

　　2023年 11 月，在印度中部中央邦和西部拉贾斯坦邦的州议会选举期间，警方登记了多起针对高级政治人物的深度伪造视频案件，其中包括印度人民党的莫迪、希夫拉吉·辛格·乔汉、凯拉什·维贾瓦吉亚，和国大党的卡迈勒·纳斯。

　　在印度，深度伪造内容的制作通常外包给私人咨询公司，这些公司依靠以 WhatsApp 为首的社交媒体网络进行分发。

　　与此同时，人工智能操纵的音频在较小的选区中是特别有价值的工具，这些录音通常涉及为选举安排‘黑钱’或威胁某人购买选票，掩盖候选人的真实的声音，或以将其视为腐败的证据。

　　离谱的是，由于法律的滞后，在印度，任何政党都不认为通过人工智能操纵选民是一种罪过，政治家们认为这只是竞选策略的一部分。

　　印度果阿数字未来实验室的政策研究员安努什卡·贾恩表示，印度法律目前没有明确定义“深度伪造”，警方一直在利用反诽谤、假新闻或侵犯个人尊严的法律，结合《信息技术法》，试图解决个别案件，但通常情况下，他们会玩打地鼠游戏。

　　印度政府一直在敦促谷歌和 Meta 等大型科技公司积极努力控制其平台上的深度伪造行为。 IT 部长拉吉夫·钱德拉塞卡会见了这些公司的官员，作为讨论深度伪造威胁的一部分。

　　通过要求科技行业带头，政府避免了任何批评，即政府试图选择性地审查选择性深度伪造，或者试图更广泛地打击新兴人工智能技术。

　　但总部位于新德里的领先科技政策智囊团印度互联网自由基金会执行董事普拉泰克·瓦格尔表示，通过将责任转嫁给私营公司，这几乎是一厢情愿的想法。

　　瓦格尔认为科技公司无法解决内容审核方面的现有问题，人工智能的兴起加剧了挑战。目前的内容审核方法忽略了问题的真正核心。

　　2月16日，各大科技公司在慕尼黑安全会议上签署协议，自愿采取“合理预防措施”，防止人工智能工具被用来扰乱世界各地的民主选举。但这份措辞含糊的协议让许多支持者和批评者感到失望。

　　YouTube 宣布，人们将能够使用其隐私请求流程请求删除人工智能生成或更改的模拟可识别个人的内容，包括他们的面部或声音。

　　互联网自由基金会发表了一封公开信，敦促选举候选人和政党在全国选举前自愿避免使用深度伪造技术。

　　与此同时，政治运动正在增强他们的人工智能武器库。一些人，比如国会社交媒体国家协调员雷迪，承认未来看起来很黑暗。

　　因为大多数使用人工智能的人都是为了歪曲事实。他们想要创造一种不基于事实的看法。将社交媒体在印度的渗透与人工智能的兴起结合起来，现在的选举中人们将无法了解真相，自然也无法做出正确的选择。