央视曝光AI智能体聊天软件行业乱象，利用诱导性内容危害未成年人身心健康需承担相应责任

央视新闻曝光了筑梦岛App中存在的AI聊天软件行业乱象，其提供的极端角色和诱导性内容对未成年人身心健康造成威胁。上海市网信办已依法约谈该企业负责人，要求整改并强化内容审核机制。专家强调，开发和运营方需明确法律责任边界，若因低俗内容导致未成年人自残，可能触及故意伤害罪；若传播色情信息或非法收集隐私数据，更可能面临刑事追责。此事件凸显了规范AI聊天软件行业的紧迫性。
来源：https://tech.ifeng.com/c/8kOUN71Ih6V