警惕生成人工智能促进虚假信息运动
科技日报记者 刘霞。警惕 生成人工智能(AI)天空的生成诞生可能会对人类产生巨大的影响。今年早些时候,人工美国高盛集团警告说,促进超过3亿个全职工作可能会受到影响。虚假信息根据美国国会研究服务局5月份发布的运动一份报告,人工智能的警惕最新创新也提出了一个新的版权问题,即如何定义人工智能创建或使用的生成内容是侵权还是合理使用。 在6月9日的人工报道中,福布斯网站指出,促进另一个令人担忧的虚假信息问题已经浮出水面:生成人工智能可以用于社交媒体上的虚假信息运动。虚假信息运动是运动指故意制造和传播有政治目的的谎言,这与一个人的警惕错误或谎言不同。虚假信息运动可以利用各种策略、生成新技术、人工新媒体和传统媒体来扩大分歧和煽动混乱。 塔尔萨大学网络安全教授约翰·希尔表示,众所周知,Facebook、推特、Tiktok等平台现在是信息战的前沿。生成人工智能“染指”不仅造成了新的危险,而且扩大了现有的危险。 “深度造假”:假真假真假。 2017年被称为“深度造假”(Deepfake)当用户第一次在互联网上发布合成视频时,他们可能没有想到他已经打开了“潘多拉魔盒”。随着缺乏监管的“深度欺诈”技术的野蛮增长,经济和社会的稳定逐渐受到危害。 所谓“深度造假”技术,是利用人工智能将现有图像、音频或视频中的人物替换为他人的技术。一些被操纵的“深度欺诈”内容,如图像、视频和音频,曾经需要专业人士来完成,但在生成人工智能的支持下,现在很多人可以更容易地创建。 希尔指出,“深度欺诈”使别有用心的人能够窃取或窃取他人的声音,并将其嵌入图像或视频中,或以不可检测的方式操作或更改数字内容。这一切才刚刚开始。随着技术的不断进步,“深度欺诈”技术制作的内容与真实事物之间的差距将越来越小。此外,随着制作“深度欺诈”内容变得越来越简单,社交媒体将随时向公众传播此类内容。 希尔强调,随着这些“深度欺诈”内容在社交媒体平台上不受限制和管理地传播,将导致影响、说服和误导他人或特定观众的虚假信息运动。随着相关技术的不断发展,未来可能会发生的事情非常令人担忧。 侵蚀对政治选举的信任。 《福布斯》杂志指出,生成人工智能和“深度欺诈”可能会给2024年美国总统选举带来真正可怕的后果。 美国公共广播服务网站在5月份的报告中指出,生成人工智能不仅可以快速生成有针对性的竞选电子邮件、文本或视频,还可能被用来误导、假装候选人,破坏选举,诽谤候选人,甚至煽动暴力。 与此同时,如果社交媒体平台故意或错误地允许人工智能修改或生成的信息停留在其网络上并随意传播,选民可能会进一步减少对人工智能的信任。美国网络安全公司预测,试图干预美国选举的团体将使用人工智能和合成媒体作为侵蚀信任的一种方式。 迫切需要制定“内容认证”标准。 福布斯网站在报告中指出,生成人工智能相关行业正在制定“内容认证”标准,用户可以验证数字内容的来源,但开发和采用这些标准仍需要一些时间。 希尔指出,这是数字媒体发展的必要阶段,但用户在浏览或使用社交媒体平台上的内容时必须更加谨慎。此外,社交媒体网站应该更积极地监督人工智能操作的帖子。 人工智能为颠覆性进步提供了强大的能力,但为了更大程度地发挥科技向善的力量,也必须谨慎使用这种能力。
- 最近发表
- 随机阅读
-
- 中国空间站送来龙年新春祝福
- 近危物种亚历山大鹦鹉现身云南龙陵
- 春节假期全国投递快递包裹超6.41亿件
- 江西省水网建设重点工程乐平水利枢纽开工
- 每秒10.9万笔!除夕夜全行业网络支付交易最高并发量创同期历史新高
- 转基因香蕉首次获准种植
- 科普一下
- 云南德宏发现兰科植物新种——盈江虾脊兰
- 短道赛场激烈角逐 “冰上尖刀”刃锋闪亮
- 小麦进入返青期 各地为麦苗“把脉问诊”确保粮食安全
- 短道赛场激烈角逐 “冰上尖刀”刃锋闪亮
- 一派忙碌景象!节后各地重大项目建设加快推进
- 城市科技“哨兵”春节不休假
- 春节剩饭如何处理?放冰箱要学会这几招!转给家人
- 中国海油智能完井系统首次在分支井应用
- 春节剩饭如何处理?放冰箱要学会这几招!转给家人
- 个税年度汇算即将开始,看看你是否需要办理
- 溪洛渡水电站累计发电量突破6000亿千瓦时
- 今天,你家清垃圾了吗?
- AI文生视频效果“炸裂”,未来扔一部小说出一部大片?
- 搜索
-