深伪（Deepfake）是一种利用人工智能技术生成逼真但虚假的音频、视频或图像的技术。一项调查显示，全球有75%的人担心人工智能（Artificial Intelligence，简称AI）和深伪技术对即将到来的大选造成影响，持这个看法的新加坡人更是多达83%；也有76%的新加坡人因为深伪破坏了对政治人物和网络媒体的信任，相比上一届大选，他们对网上看到的内容更持怀疑态度。
总部位于美国的用户身份识别公司Jumio，上星期三（7月24日）公布《2024年网上身份消费者调查》中有关深伪和大选的内容。这项调查2024年3月25日至4月2日之间进行，访问了新加坡、美国、英国和墨西哥超过8000名成人消费者。
调查也发现，六成新加坡人对自己辨别政治人物的深伪视频具有信心，这个比率高于英国（33%）、美国（37%）和墨西哥（51%）。也有66%的新加坡人说，就算有可能遇到深伪内容，他们还是会相信网上刊登的政治新闻。
政治观察员：须加强措施 尤其能更快删除深伪内容
不过，澳大利亚国立大学2023年11月发布的研究也指出，被AI人脸蒙骗者往往对自己的判断最有信心，这不免让人担心深伪有可能冲击最迟须在2025年11月举行的全国大选。
本地虽然还未出现其他国家这两年所看到的大量误导性政治宣传，但长期观察本地政治的新加坡管理大学杨邦孝法学院副教授陈庆文认为，有必要进一步强化现有的防护措施，在选举法令、刑事法典、防止网络假信息和网络操纵法令，以及防止外来干预（对应措施）法令之外，制定针对深伪的法规。
他说：“我们需要更有针对性的法规，特别是能够更快地删除深伪内容。简单来说就是加强现有防护，因为深伪内容能被人武器化，至少会让选民对候选人产生怀疑。”
人工智能专家：对抗深伪 辨识软件工具永远赢不了
我国的选举期通常只有九天，深伪内容如果未能迅速删除，将对选举造成巨大的冲击。
人工智能专家、新加坡管理大学计算与信息系统学院副教授朱飞达接受《联合早报》访问时也指出，人们不可能对所有资料都有警觉，每次都调用软件工具来检查他们所看到的内容，而且用工具来检查图片、音频和视频的真伪变得越来越困难，已经成为一场永远都赢不了的竞赛。
他解释，在人工智能科技领域有一种称为“生成对抗网络”的技术，如果一方有更好的算法来发现伪造内容，那另一方可以用同样的算法，生成更逼真的产品。“这就好比道高一尺，魔高一丈。从根本上来说是一场永远都不会终结，也永远都赢不了的竞赛。”
现有科技也让造假成本和所需的时间越来越少。朱飞达说，只要有训练好的通用大模型，就可以用非常少的素材，迅速生成许多以假乱真的内容。
因此，一些研究者的思路是放弃开发侦察虚假内容的工具，改为主动追踪造假者并进行标记，最终让人们知道哪些是可以相信的消息来源。
在网络内容里嵌入验证方式，则是另一个可行的途径。一些科技公司合组的C2PA联盟（Coalition for Content Provenance and Authenticity，内容来源和真实性联盟），倡议在图像、音频、视频以及文档中加入签名，记录每一个产生、修改或编辑的步骤，让创作者和消费者追踪内容的起源和演变。
如果采用这样的方式，公众可以检查选举宣传材料的发布过程，确认这些内容的确由个别候选人或政党发布，而且没有被人篡改。
朱飞达强调，重点是建立可信赖的消息来源，以及可靠的内容传播方式。
义工团体：大选期间负载高 检查员人数有限或应付不来
除了借助科技，鉴别虚假信息的工作在很多国家也由媒体或志愿者进行，这不限于在网络传播的内容，也包括参选者在电视广播中的发言。比如说，美国总统候选人6月27日在美国有线电视新闻网（CNN）展开辩论，CNN核实内容的时候，就发现特朗普在辩论时至少做出了30个虚假陈述。
新加坡也有社区伙伴义工团体“查友”（CheckMate），让用户把可疑信息发到一个WhatsApp号码，交由义工协助核实信息真伪。
创办人陈炳文说，目前“查友”每天会核实好几条信息，大选期间也会保持运作。“不过我们到时可能应付不了很高的负载，因为检查员的人数不够多。”
陈炳文透露，“查友”创办至今有大约100名检察员加入，但活跃的只有25名。这些检察员所需的时间取决于核实的难度以及信息量，目前每一条大概需要三至五分钟，但大选期间如果内容暴增，所需的时间会更多。
选举局：若非竞选宣传 冷静日投票日仍允许发文澄清
只要发布的澄清内容不构成在线选举宣传，选举局并未禁止候选人和政党在冷静日和投票日发文，揭穿利用深伪技术等方式伪造的虚假内容。
虚假消息泛滥引起人们关注，而我国政府在大选冷静日和投票日实施的选举广告禁令，更是让人担心如果在冷静日开始前的最后一分钟，有人利用虚假陈述展开政治攻击，候选人和政党会不会因为不能公开发表新的内容而有口莫辩。
选举局答复《联合早报》询问时说，选举官可以在冷静日和投票日发出更正指令，移除在这段期间发布的任何在线选举广告，包括包含被人篡改的不同媒介或者虚假的信息。
延伸阅读
“候选人和政党在这段期间也没有被禁止发文驳斥假消息，包括那些使用了深伪技术伪造的内容，只要他们的澄清内容不构成网络竞选广告。”
竞选广告指的是为某个可识别的政党或候选人提高竞选优势或为了选举成功而做的宣传，在冷静日和投票日于任何平台上发表竞选广告是违法的。
数码发展及新闻部长兼内政部第二部长杨莉明，7月9日曾在路透亚太领导人论坛（Reuters NEXT APAC）的现场访谈中指出，政府必须研究如何应对人工智能生成内容被人拿来作恶的情况，包括大选期间可能出现的“深伪”内容。
她当时举例，韩国在竞选期开始前的90天禁止发布人工智能生成的内容，但新加坡的竞选期非常短，不可能提前那么多天知道大选日期，类似的法律并不适用，我国得寻找适合本地情况的做法。
杨莉明星期二（7月30日）出席由《财富》杂志和国际科技公司埃森哲（Accenture）联办的财富人工智能峰会（Fortune Brainstorm AI Singapore）时也指出，现有的网络假信息和网络操纵法令足以针对具煽动性的网络内容进行管控，但在全国大选等敏感时期会有更多别有居心者滥用科技，政府必须加强管理，目前正探讨是否针对人工智能生成的政治相关内容采取措施或立法。
检讨是否需要额外法规 应对AI虚假信息战威胁
选举局受询时则指出，当局和其他政府机构定期检讨本地的选举程序与法律，包括借鉴国外的最佳做法，以保护选举的公正性。选举局也在检讨是否需要额外的法规，来应对大选期间由人工智能生成的虚假信息和被篡改媒介所带来的危害。
选举局说：“我们近年来看到许多实例，社交媒体和通讯技术被某些个体用来对其他国家发动信息战。这些隐蔽、协调且复杂的网络活动，希望通过操纵目标国内的公众舆论，来影响其国内政治问题，推进攻击国的利益。”
选举局也说，在选举期间保护社交媒体和网络空间免受威胁，需要政府机构、互联网中介机构，以及公众的共同努力。政府对被篡改媒介和网上虚假信息采取强硬立场，如果这些内容在网上发布且违背公众利益，可能会援引《防止网络假信息和网络操纵法令》发布更正指令。
如果内容造成严重危害，当局还可以发出禁止令，被发现故意传播虚假信息的个人也可能须承担责任。
我国的《防止外来干预（对应措施）法令》也授权内政部长发出相关的指令，防止、侦测和干扰外部势力通过恶意信息战干预我国国内政治。
内政部长尚穆根7月19日就援引法令向五大社交媒体平台发出账号限制指示，要求阻止本地用户浏览与自称是流亡美国中国富商郭文贵相关的95个社交媒体账号，因为这些账号在我国政治领导班子交棒之际协调一致地发布虚假消息，可能被用以发动针对新加坡的敌意宣传。
选举局也指出，主要社交媒体平台已经制定了禁止虚假或被篡改信息的社区准则，我国政府也会继续同这些平台合作，确保在选举期间落实内容审核，保障大选的公正性。
当局也提醒公众保持警惕，避免堕入互联网陷阱，应该从可靠来源获取信息。
政党：网宣或加上验证标记 助公众确认发布者身份
通过互联网发布资讯已经是政党直接向选民发消息的重要渠道。但随着造伪技术的不断升级，本地多个政党受访时都表示希望通过可验证的方式发布消息，方便人们确认发布者的身份。
执政的人民行动党受询时说，网络虚假信息和人工智能生成的深伪是各国都面对的问题，新加坡也不能幸免，行动党议员在国会发言时，曾表达他们对网络安全的担忧和建议。
行动党发言人说：“我们鼓励新加坡人通过行动党官方网站和社媒账号等可靠信息源来核实信息，通过保持信息透明和各方努力，确保安全的数码空间，保护本地社区，以及维护我们的民主进程。”
建议选民查阅官网社媒 交叉比对确认信息真伪
在国会拥有两个非选区议席的新加坡前进党也对深伪生成内容感到担忧，并表示前进党打算为大选期间的所有网络宣传资料加上验证标记，比如挂上脸书的认证徽章，帮助公众确认他们所看到内容的真实性。
前进党也建议选民，将可疑的内容和前进党网站发布的信息交叉比对以确定真伪，以及订阅前进党的网站和社媒，通过正式渠道获得资讯。
新加坡民主党会在来届大选来临前几个月就开始发布正式视频。发言人说：“民主党也在探索为视频添加验证功能的可能，但目前尚未决定具体以哪一种形式进行。”
也计划在选举期间发布视频和音频资料的红点同心党秘书长拉维受访时说，红点同心党所发布的内容都会附上党标，也会迅速验证社媒消息和举报恶意造假的内容，尽快将不实的内容撤下。
目前在国会拥有八个议席的工人党婉拒答复。
在早报应用继续阅读
