近日，一段10岁女孩与AI虚拟男模互动的视频在网络上引发了广泛讨论。视频中，女孩通过LOL游戏与男模进行互动，展现出有趣的对话和游戏配合。然而，这种新兴的互动形式也引发了家长的深思，尤其是在传统色情内容借助AI技术再现的背景下，如何保护儿童免受不良信息的影响成为关注的焦点。家长们担心AI的真实感可能会让孩子接触到不适合的内容，甚至改变他们的认知与价值观。随着技术的发展，如何在享受游戏带来的乐趣的同时，保持健康的网络环境，是每位家长需要认真思考的问题。
1月12日讯 “小学生妹妹沉迷和AI角色进行剧情聊天怎么办？”当央视网《新闻+》记者联系到黄秋月（化名）时，她正因10岁妹妹和“AI男模”之间较为露骨的聊天记录苦恼。
“和她平时在家里比较单纯的形象完全不一样。”黄秋月向记者展示了妹妹的一些聊天截图：妹妹在AI剧情聊天软件中扮演“大小姐”“恶毒女配”，提出诸如“揪住她的头发扇巴掌”“拿着刀划向她的脸”等要求。
在妹妹参与的四十多条剧情线中，AI角色与聊天者双双“出轨”成为常态，其中妹妹作为聊天者发送的一句“你能养大学生，我不能点男模吗？”让黄秋月很是担忧。
黄秋月是在一次偶然中发现，10岁妹妹能和AI角色聊到晚上10点多，AI角色还会根据妹妹的名字生成带有爱情意味的藏头诗。黄秋月在尝试体验AI剧情聊天时，发现类似的聊天软件“偏偏可以绕过验证码”，用户可以直接使用短视频账号的一键登录功能，无需再次验证身份信息。
有业内人士告诉记者，AI剧情聊天其实就是此前互联网“语擦”的变体。在传统“语擦”模式中，由真人扮演情绪价值提供者与用户聊天，但常常会因为“打擦边球”“界限模糊”而引发法律与道德风险。AI剧情聊天由生成式人工智能提供情绪服务，用户在充值后甚至可以自定义AI角色的外貌形象、姓名身份、开场语、语音等。