国内精品乱码卡一卡2卡三卡:何玉婷慰问养老院的故事有哪些-医学泰斗客死他乡?AI小作文批量如何炮制?对话已被抓获的网络水军成员
现在通过AI生成发布1万条500字左右的小作文有多快?1个AI软件1个小时就能做到。
通过对“资讯池”内容的采集,结合AI加工后,大量自媒体号不实贴文便能自动生成并发布,变为一条条看似货真价实的“新闻”,而内容发布者甚至没阅读过生成的文章内容……
3月下旬,一则“‘医学泰斗’华山医院前院长张明远因阑尾炎未得到及时救治,客死他乡医院走廊长椅”的消息在网络流传。后经上海警方核实确认,该条消息为网络谣言。
4月22日,澎湃新闻(www.thepaper.cn)记者从上海市公安局获悉,编造该谣言的网络水军团伙被捣毁,3名犯罪嫌疑人已被上海静安警方依法采取刑事强制措施,相关违法账号被依法封禁。

“华山医院前院长客死他乡”的虚假消息。 上海市公安局供图
经查,自2025年2月起,犯罪嫌疑人王某某、郭某某、石某某等3人成立了工作室,通过自媒体账号发文吸粉引流牟利。他们通过控制500余个自媒体账号,设置社会热点、明星绯闻、爆款推荐等关键词策略,引导AI软件自动生成并发布不实贴文30余万条,造成恶劣社会影响。截至案发,非法牟利共计4万余元。目前,案件正在进一步侦办中。
记者了解到,今年以来,上海公安按照“以打开路、以打促治”思路重拳出击,全量清理造谣传谣信息,分级惩治涉谣账号,严厉打击“造热点”“带节奏”的网络水军。截至目前,已破获网络水军案件15起,抓获38名违法犯罪嫌疑人。
网络上的不实信息五花八门,用AI软件批量生产小作文的模式究竟是如何运作的?犯罪嫌疑人又是如何看待自身行为及产生的虚假信息风险?4月22日上午,澎湃新闻记者来到上海静安区看守所,采访了犯罪嫌疑人王某某和上海市公安局网安总队。

公安机关审讯犯罪嫌疑人。 上海市公安局供图
【对话犯罪嫌疑人】
澎湃新闻:“张明远”这个名字、身份信息及“病死”经历是从哪里获悉的?
王某某:4月19日警方找到我时告诉我,我在某平台发布的文章涉嫌造谣,当时我并不知道具体是哪条。直到现在我才大概了解到“张明远”这篇文章的具体内容,文章在发布时我没看过,完全没意识到这是AI虚构编造出来的,此前我也不知道上海有华山医院。
澎湃新闻:做AI生产发布“小作文”这个“生意”多久了?为何会对内容如此放心?
王某某:我们是从今年2月开始,在某App内按热度榜去采集别人发布过的内容,再用AI输入关键词批量“搬运加工”,生成后我们就通过软件直接发布。该App内包含大部分网络上的资讯,官方媒体、自媒体都有,我们想都是别人发过的内容,就没有核实内容的真实性。另一方面,出于对平台内容同质化的管理要求,我们也会通过AI“再加工”,“张明远”就是这样生产出来的。
澎湃新闻:你对自己发布的内容是如何分类界定的?现在跳脱出自媒体从业者身份后,作为普通读者,又是如何看待的?
王某某:我们本身做的是短资讯类消息,内容也会限定在体育、娱乐、职场、养老等领域,当时我们只觉得自己做的是日常信息、观点分享,类似于社交平台的内容发布。
(现在回过头来看),作为读者我肯定认为这些社会领域的内容是新闻类型的,我们在内容发布时没有把握好尺度,太急功近利了,没有意识到造谣会产生的不良后果。
澎湃新闻:除了这次因“张明远”文章被公安机关处罚外,此前你也有被平台处罚过的经历,为什么还在做?
王某某:此前做的娱乐领域比较多,在某女明星去世时,我记得有篇文章因为谈到她孩子抚养权的问题被平台扣分。这篇文章也是按热度采集,再用AI改写的。当时觉得出问题可能只是偶发情况,没有意识到问题背后的风险及严重性。
【对话网安总队三队队长符斌】
澎湃新闻:“华山医院前院长客死他乡”这条谣言是怎么被关注到的?
符斌:3月5日,我们在日常巡查中发现,“华山医院前院长客死他乡”的消息先在圈群中广泛传播,随后又传播到网络平台上。我们随即联系属地公安跟医院核实,确认为虚假信息后,我们就立即开展了调查。
澎湃新闻:日常工作中公安机关对网络谣言有哪些发现查处机制?
符斌:针对网络谣言的发现处置,我们除了落实技术+人工的巡查制度外,也有相应的举报机制。同时,公安机关网安部门与相关职能部门建立了“巡查监测-核查反馈-会商研判-线索移送-打击处置”的闭环机制。针对不实谣言信息,公安机关始终采取“零容忍”的态度,发现一起,处置一起。
澎湃新闻:从指导部门的角度看,造谣的目的有哪些?为何上海容易成为谣言的“背景板”?
符斌:谣言涉及的领域类型非常广泛,它本质上属于流量经济的一种劣化表现,造谣的目的究其根本在于养号涨粉带流量。当这些号的关注度达到了一定程度后,就可能进入开直播、带货的状态。贴文中一旦出现热门城市,流量就会有加成,所以很多谣言会选择热门城市作为“发生地”。
澎湃新闻:今年以来,上海公安机关打击整治网络谣言的情况如何?取得哪些成效?
符斌:上海公安按照“以打开路、以打促治”思路重拳出击,全量清理造谣传谣信息,分级惩治涉谣账号,严厉打击“造热点”“带节奏”的网络水军。截至目前,已破获网络水军案件15起,抓获38名违法犯罪嫌疑人。