2022年9月16日 星期五1111

当前位置: 首页 > 互联网+ > 详情

治理“AI污染”要用技术打败技术
来源:重庆日报 时间:2024/10/24 点击量:835 作者:江德斌

有MCN机构利用人工智能程序日产上千篇虚假新闻,导致大量不实信息在网上病毒式传播;某小说平台账号依靠AI“创作”,每日更新十几本电子书,行文却逻辑不通、辞藻空洞……当前,AI生成、伪造或篡改文本、图片、音频和视频的现象越来越普遍,大量粗制滥造、真假难辨的“信息垃圾”不断涌现,引发了人们关于“AI污染”的讨论。
  在科技日新月异的今天,AI因其强大的数据处理和生成能力,正逐步得到广泛应用,已经渗透到生活的方方面面。然而,一些由AI“创作”的内容,缺乏真正的创意和深度,甚至存在胡编乱造、伪造新闻的情况,却凭借强大的算法推荐和社交媒体的传播力,迅速在网络上病毒式扩散。
  “AI污染”的危害不容小觑,它不仅污染了信息环境,降低了信息的质量,还加剧了谣言传播等。在海量且真假难辨的网络信息面前,人们往往感到无所适从,容易被虚假信息误导、蒙骗,还会产生焦虑和恐慌情绪,甚至被虚假信息“绑架”。此外,“AI污染”对青少年的价值观和行为模式,也会产生负面影响。
  事实上,自AI技术诞生以来,使用AI生成虚假新闻的事件就不断出现,造成了恶劣的社会影响。如今,世界已进入“眼见不一定为实,耳听不一定为真”的数字时代,声音、视频、图像等“深度AI伪造”内容的出现,让人们深陷虚假信息迷雾。有数据显示,2023年基于AI的深度伪造欺诈暴增了3000%。比如近期曝光的某地“天价拆迁”造谣事件,便是由AI软件生成的典型虚假新闻。
  面对“AI污染”,要采取更加积极有效的措施。一方面,要完善相关法律法规,明确AI在内容创作和传播中的责任边界,并对利用AI进行虚假信息传播和欺诈的行为进行严厉打击。另一方面,监管部门要尽快完善AI使用标准,督促平台严格落实AI生成内容须于显著位置予以标注等要求,并通过区块链等可追溯技术,追踪虚假内容,依法严惩违规行为。最后,还要提高公众的信息素养,引导人们辨别AI生成的内容,避免虚假信息误导公众。
  AI是工具,使用者是人。“用技术对抗技术,用魔法打败魔法”,加快探索识别AI虚假信息的技术,高效识别、预防拦截、追根溯源伪造内容,让虚假信息无处躲藏,营造一个健康、有序的信息生态环境,AI应用才能走得更远。