近期,多地公安机关发布了多起利用AI工具实施造谣的相关案件。上海市公安局城市轨道和公交总队官方微博发布警情通报:两名营销人员为博取关注造谣地铁站发生持刀伤人的情况,被上海警方依法处以行政拘留。其中一人使用AI软件生成视频技术,编造了地铁行凶的虚假视频等不实信息发布到网上,造成恶劣社会影响。

信息时代,各种资讯满天飞,有些事情的真假本身就难以分辨,极易混淆视听。谣言往往具有传播速度快、影响范围广的特点,一旦形成规模,就会对社会稳定造成威胁。AI技术的加入使得造谣更加便捷和高效,提升了谣言的数量级和传播力,进一步加剧了谣言的危害性。

去年,在上海一女童走失事件中,一团伙以“标题党”“震惊体”方式,恶意编造炒作“女孩父亲系继父”“女孩被带往温州”等系列谣言。该团伙利用AI工具等生成谣言内容,通过114个账号矩阵,在6天内发布268篇文章,多篇文章点击量超过100万次。

鉴于自媒体造谣严重伤害了网络生态,监管部门对网络谣言的治理一直在持续。今年4月23日,网信办在全国范围内开展为期两个月的“清朗·整治‘自媒体’无底线博流量”专项行动,整治的重点就包括“摆拍发布涉及国内外时事、社会民生等领域虚假事件信息。拼凑剪接网络视频图片,篡改事件发生的时间、地点、人物等要素,以假乱真欺骗公众”。

就总体而言,网络造谣的成本太低了。之前有媒体报道,有机构最高峰一天能生成4000至7000篇,最高的一条收入700元,初步估算每天收入1万元以上,但相关责任人仅被处以行政拘留5日。

网络不是法外之地。除了治安处罚之外,情节严重的应该追究刑事责任,切实提高其造谣成本,方能以儆效尤。《刑法》第291条规定:“编造虚假的险情、疫情、灾情、警情,在信息网络或者其他媒体上传播,或者明知是上述虚假信息,故意在信息网络或者其他媒体上传播,严重扰乱社会秩序的,处3年以下有期徒刑、拘役或者管制;造成严重后果的,处3年以上7年以下有期徒刑。”

AI造谣呈现出门槛低、批量化、识别难等特点,亟待加强监管,斩断背后利益链条。线下的惩处力度固然要加强,线上的技术监管和追踪也要更新迭代。利用AI技术批量造谣往往涉及大量的网络活动和数据传输,相关部门应加强对网络空间的监管和追踪,及时发现和处置谣言信息。对于涉及的网络平台,也应追究其监管责任。

用技术解决技术,在大数据和新技术面前,识别利用AI炮制的垃圾信息,并没有那么困难。如果平台未能有效监管和清理谣言信息,应依法对其进行处罚,并责令其加强内容审核和管理。此外,网络平台、媒体机构等应加强自律,遵守法律法规,不传播未经证实的信息。各行业之间也应加强合作,共同打击利用AI批量造谣的行为。

造谣一张嘴,辟谣跑断腿。我们还要通过教育和宣传,提高公众对谣言的识别能力,使其能够理性看待网络信息,避免被谣言误导。尤其是看到耸人听闻的信息时不妨多留个心眼,让子弹再飞一会儿,切莫落入信息陷阱之中,甚至盲目跟风转发评论,助纣为虐。

文/胡欣红

图源/视觉中国

编辑/王涵

友情提示

本站部分转载文章,皆来自互联网,仅供参考及分享,并不用于任何商业用途;版权归原作者所有,如涉及作品内容、版权和其他问题,请与本网联系,我们将在第一时间删除内容!

联系邮箱:1042463605@qq.com