MCN机构被曝光用AI造谣:一天最高产出7000篇谣言
今年 1 月,有网络平台出现一条“西安发生爆炸”的消息,其时间地点等关键信息和配图齐备,极具迷惑性。经警方调查,消息发布账号归属于一家江西的 MCN 机构。
注:MCN 指“多频道网络”,是与内容创该公司实际控制人为王某某。据南昌市公安局高新分局网络安全保卫大队大队长李毅介绍,上述“爆炸”消息经核实警方立刻对该公司负责人进行约谈,同时勘察该公司办公场所,对使用的电脑和软件工具进行现场取证。
经核实,上述谣言从文本到王某某随后再通过具有语音交互功能的 AI 软件,说出关键词后软件自动从网络上抓取相关信息,生成数百到上千字的文本,并配上“貌似与事件相关”的虚假,从而形成随后,王某某再将 AI 生成的内容使用另一款软件自动上传到该 MCN 机构控制的多网络平台不同账号上,并对外发布,警方在调查过程中发现,该 MCN 机构在网络上发布的内容以民生类信息为主,通过加入夸张故事情节或猎奇性成分,或编造不实信息来获取网民关注度、点赞量,进而实现流量变现。通过这一方式,王某某在短时间内获得了高额报酬。经警方初步估算,经查,江西男子王某江经营有