使用 AI 批量造谣,一水军团伙控制 114 个账号炒作谣言获利被端

IT之家 5 月 15 日消息,综合央视新闻、上海广播电视台《案件聚焦》消息,日前,上海市网信办公布 2023“清朗浦江”网络生态治理专项行动典型案例。其中包括“上海 4 岁儿童走失”事件中,网上出现“儿童非其父亲生”“今年已经是第二次走失”等谣言

据报道,去年国庆长假期间,“4 岁女童在上海南汇新城海滩走失”事件引发全网关注。在此期间,“走失女童曾被丢弃”“走失女童父亲为继父”等类型的言论频频引发网友热议,一些网络账号甚至炮制阴谋论,引发人身攻击。经核查,这些信息均为谣言

事件发生后,浦东警方迅速发布警情通报,通报了事件进展和调查情况,并发布辟谣信息澄清事实。上海市网信办、公安网安部门加强对网络谣言的监测,督促平台处置,遏制谣言传播范围和影响。经查,这起事件中,有一个造谣水军团伙通过批量注册网络账号,转发炒作,非法获利 4 万余元

报道披露了这一水军团伙的更多信息 —— 不实帖文由“巨蟹说娱”、“饭圈娱记”等十余个自媒体账号发布,经进一步侦查发现,账号注册人是山东某网络科技公司旗下员工,他们曾在各大平台注册账号,围绕其他全国性社会热点,高频发帖、转载帖文,采用“震惊体”“标题党”“博眼球”等方式发布虚假负面信息

据上海市公安局网安总队民警张琳介绍,公司高层为公司法人李某、经理田某,在该热点事件中组织周某等 6 名核心写手,选取热点、借助 AI 批量制造不实帖文,并组织 30 名公司员工,通过公司下发的平台账号大量发帖转帖,累计控制 114 个网络账号,持续发布了相关帖文 268 篇,仅 10 月 4 日至 9 日期间就获得发帖收益 4 万余元。

2023 年 10 月 11 日,在公安部的统一指挥下,专案组赴山东会同当地警方将该团伙一举抓获。目前,团伙中 12 名成员已被依法移送起诉,涉案相关网络账号已被全部封禁。

据IT之家此前报道,公安部今年 4 月公布了 10 起打击整治网络谣言违法犯罪典型案例,其中 4 起涉及使用 AI 造谣。

去年 12 月以来,公安部部署全国公安机关统一开展打击整治网络谣言专项行动。截至目前,公安机关累计排查网络谣言线索 8 万余条,侦办网络谣言类案件 1 万余起,抓获犯罪嫌疑人 1500 余名,行政处罚 10700 余人,开展公开辟谣等 4200 余次。

近年来,人工智能 AI 等新技术降低造谣成本。2023 年,最高人民法院、最高人民检察院、公安部联合发布的《关于依法惩治网络暴力违法犯罪的指导意见》中规定,对“利用‘深度合成’等生成式人工智能技术发布违法信息”的情形,依法从重处罚


这是一个从 https://www.ithome.com/0/768/240.htm 下的原始话题分离的讨论话题