给“深度伪造”这匹“野马”拴上缰绳

利用生成式人工智能(AI)制造的虚假图片、音频和视频信息等“深度伪造”内容正在快速传播,被用来骚扰他人、诈骗金钱,甚至干扰选举。
英国《新科学家》网站近日报道,美国OpenAI公司的文本—视频模型Sora横空出世,让人们能更快捷、更廉价地制作出视频,事实与虚构的分界线也愈加模糊,进一步加剧了人们对“深度伪造”内容的忧虑,担心其引发虚假和错误信息泛滥。如何预防和阻止“深度伪造”内容误导大众,已成为摆在各国政府和科技巨头面前的重大难题。
“深度伪造”愈演愈烈
2014年,随着生成对抗网络的发展,第一波“深度伪造”内容开始获得关注。生成对抗网络是一种让AI模型相互对抗的技术,这种技术不断发展,可逐步提高虚假图片的真实性。但这一代“深度伪造”内容制造不仅费时,而且需要创作者具备AI方面的技术专长。
美国纽约州立大学布法罗分校计算机与电子工程系教授吕思伟指出,在这段时间,制作一段30秒的视频通常需要数周的数字后处理工作和大量计算能力。尽管如此,视频的真实性仍差强人意。
但在过去两年间,新型AI技术的快速商业化使“深度伪造”内容很容易大批量生产。任何具备文本编写能力的人,都可使用DALL-E、Stable Diffusion等工具,在几秒钟内创建出图像。还有一些工具,能让用户通过上传或录制音频样本来克隆语音。
有研究发现,2023年网上有超过9.5万个“深度伪造”视频,比2019年增长了550%。有研究显示,以对特定受众造成冲击力为目的的虚假信息传播非常容易,速度可达真实信息传播速度的6倍。
虚假视频影响选举
“深度伪造”内容也通过错误信息和虚假信息对选举构成越来越大的威胁,使选举更加复杂化。
去年2月,美国芝加哥市长初选前夕,社交媒体上流传一个模仿候选人保罗·瓦拉斯的声音发表不实陈述的视频,声称“警察可随意射杀嫌疑人”,并呼吁削减警察预算。在瓦拉斯向社交媒体平台发出投诉之后,社交媒体删除了这段视频,但该视频在下架前已经被浏览了数千次。
今年1月底,新罕布什尔州检察长办公室发布一份声明称,一项机器人电话活动使用了由“深度伪造”技术制作的模仿拜登总统的声音,敦促人们不要在该州1月23日的总统初选中投票。该事件迅速在美国引起了广泛关注,并激发了关于AI“深度伪造”对大选可能产生影响的讨论。
去年11月发布的一份民调结果显示,在2023年10月参与调查的美国成年人中,有58%的人认为“AI将对2024年美国大选造成影响”,这一数字较2022年8月增长了5个百分点。此外,英国、印度、尼日利亚、苏丹、埃塞俄比亚和斯洛伐克等国去年都发现了据称利用AI制作并在网络上传播的虚假政客视频。
亟待采取监管措施
《新科学家》网站在报道中指出,很多人已经感受到了“深度伪造”可能带来的巨大影响,但眼下的预防措施还很不够。
欧盟的《数字服务法》要求科技平台识别和标记AI生成的内容,美国也正在制订类似的标准。此外,目前已有多个国家以及美国至少有6个州将创建或传播有害的“深度伪造”内容确定为非法行为。
科技平台需要承担起阻止“深度伪造”浪潮继续奔涌的最大责任。据《金融时报》报道,亚马逊、谷歌、元宇宙平台、微软、TikTok和OpenAI等20家科技公司2月16日在慕尼黑安全会议期间表示,将共同努力打击旨在误导选民的内容制作和传播,并针对这些内容以“迅速和适当”的方式采取行动。比如,在图片中添加水印,以明确其来源以及是否曾被篡改。
目前,科技行业已经采用了“内容来源和真实性联盟”(C2PA)的标准,该标准将用数字内容的来源和创建者的信息对数字内容进行编码。今年2月初,元宇宙平台公司宣布将在其社交媒体平台上标记AI生成的图像;谷歌公司表示将为其生成式AI工具集成C2PA水印系统,OpenAI也作出了类似承诺。
不过,有专家指出,添加水印的方式可能会有所帮助,但它们并不能阻止不怀好意者使用开源AI工具,也没有解决那些饱受“深度伪造”影响的人保护其隐私权的问题。
本文链接:http://knowith.com/news-3-336.html给“深度伪造”这匹“野马”拴上缰绳
声明:本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。
读书的唯美句子
形容夕阳西下时的唯美句子
腊八节古诗词
领款委托书
甄传的经典台词
高中团支书工作计划
安保部日常安全工作计划
公共卫生服务项目工作计划
项目部年工作计划
中学学校学生会工作计划
如今印度/孟加拉瑞戈非尼2025年不出国购买渠道有哪些?印度瑞戈非尼官方报价多少钱?
刷新报价:2025年印度艾曲波帕一盒多少钱~印度孟加拉艾曲波帕最新单价在499元起
2025新手必阅:DY月付如何提到银行卡
正常2025印度劳拉替尼(洛拉替尼)多少钱一盒/一瓶?现在公开yb后洛拉替尼2025年最新价格表!
喜从天降:上海浦东新区上门代还信用卡,的6种刷法 (无视风控秒回款)
摊上:白条加油额度怎么借钱到微信(2024最新秒到提现介绍)
更上层楼:DY月付怎么套出来,试试三个操作步骤
真实:青岛胶南实体店套花呗当面,超高技术不存在失败
苹果id贷还了他不给密码咋办,正规苹果id贷口子2024
经验:京东白条怎样自己套出来(五种方法提现详解)-知者