央视曝光 AI 造谣乱象
并援引了公安部网安局发布的一起网络谣言典型案例,相应案例中嫌疑人使用AI生成一系列“华山医院前院长张明远因阑尾炎未得到及时救治客[*]他乡医院走廊”等抓人眼球的内容,并将相应内容公开发布于网络平台,引发关注。
利用AI自动生成,在未经核实的情况下就在自己控制的账号上发布,一共发布了约 10 余万条的不实信息,造成了恶劣社会影响。
参考通报获悉,目前王某某、郭某某、石某某等 3 人因涉嫌非法利用信息网络罪,央视网表示,随着近年来 AI 深度合成技术的快速发展和应用,网络上频繁出现 AI 造谣乱象,除了伪造新闻外,还有不法商家生成名人带货广告 / 等推销商品。目前国家网信办正对此进行专项打击,截至6月20日,相应打击行动第一阶段已经累计处置违规小程序、应用程序、智能体等 AI 产品 3500 余款,清理违规信息 96 万余条,处置账号 3700 余个,各项工作取得积极进展。