央视曝光 AI 智能体软件行业乱象
央视新闻今天援引“筑梦岛 AppAI智能体对话存在低俗内容被依法约谈”案例,曝光了 AI 聊天软件行业乱象。
参考通报获悉,以筑梦岛 App 为例,央视网提到该平台中的 AI 智能体虚拟互动对象提供“校霸、性感人妻、病娇养兄、人格障碍少爷”等擦边极端角色,生成一系列“明显诱导性内容”,危害未成年人身心健康。
▲ 6 月 19 日上午,上海市网信办依法约谈筑梦岛 App 运营企业主要负责人,要求平台立即整改,健全 AI 生成合成内容审核机制,提升技术把关能力,加强涉未成年人不良内容的整治清理,切实落实未成年人网络保护义务。
央视网表示,当未成年人因 AI 聊天软件诱导性内容身心受损时,开发、运营方的法律责任边界亟待厘清。此外,