登录1秒注册

蚁三

搜索
站长论坛»主页首页百科>诱导10岁,AI谈天谈App被约女孩聊色情猎奇论题
查看:9
回复:1
打印上一主题下一主题

[蚁三]诱导10岁,AI谈天谈App被约女孩聊色情猎奇论题

[复制链接]
跳转到指定楼层
楼主

据微信公号“网信上海”音讯 ,诱导约谈近期有媒体报道 ,岁女色情筑梦岛App等AI谈天软件存在虚拟人物互动生成低俗内容等问题,孩聊经核实,猎奇论题该渠道AI智能体内容生成环节存在低俗擦边等违规内容 ,谈天危害未成年人身心健康。诱导约谈

AI谈天软件诱导小学生。岁女色情

聊色情乃至割腕 。孩聊

此前 ,猎奇论题据媒体报道 ,谈天广东丁女士的诱导约谈四年级女儿迷上一款AI谈天软件中的人物“约瑟夫” ,自称“梦女”并频频与其谈天,岁女色情对话中呈现“99朵玫瑰藏99个刀片”等显着诱导性内容 。孩聊

丁女士的猎奇论题女儿不只悄悄携带带小刀的笔 ,心情激动时还呈现割腕行为。谈天

另一位初一男生表明,他常玩的AI谈天软件是筑梦岛App ,他觉得该软件“违禁词少一点”,其间不乏色情擦边和“分尸猎奇”等内容……。

记者下载安装筑梦岛App ,随机挑选一位虚拟互动目标,对方发来的榜首句开场白便是“先叫声老公来听听”,随后的对话中又说到“叫声爸爸来听听” 。

图为该App中部分与虚拟人物的对话。

筑梦岛App中的虚拟互动目标类型 ,既包括贵族校园大小姐 、18岁少女、西汉名将 、高冷奸细等惯例人物,也有蛇蝎财阀令郎 、校霸、性感人妻、病娇养兄 、人格障碍少爷等极点人物 。

揭露材料显现,到本年1月份 ,筑梦岛App已具有近五百万注册用户 ,其间近80%为年青女人用户。均匀单用户单日输入字数可达4000字以上 ,人均日对话次序超120轮。

被网信办约谈。

App负责人:全面整改。

6月19日上午,上海市网信办依法约谈筑梦岛App运营企业首要负责人,要求渠道当即整改,健全AI生成组成内容审阅机制,提高技能把关才能 ,加强涉未成年人不良内容的整治整理,切实落实未成年人网络维护职责 。

打开全文。

企业负责人表明,将依照约谈要求 ,对照问题触类旁通、全面整改。

假如导致未成年人身心受损。

运营方等是否涉嫌犯罪  ?

当未成年人因AI谈天软件诱导性内容身心受损时 ,开发 、运营方的法令职责鸿沟亟待厘清 。

首先是产品职责,若AI模型自身存在规划缺点 ,例如算法成心诱导未成年人发生极点行为 ,致使其遭受精力危害,开发者难逃产品职责的法令追溯;

其次是侵权职责,若软件开发、运营方未严厉实行内容审阅职责,对违规信息视若无睹、听任传达 ,便需为侵权行为承当相应结果 。若AI生成内容触及色情擦边信息 ,软件开发 、运营方极有或许触碰“传达淫秽物品罪”的红线;若软件开发 、运营方不合法搜集未成年人隐私数据 ,将其用于商业牟利 ,相同或许因冒犯“侵略公民个人信息罪”而面对刑事追责;

此外 ,若相关行为导致未成年人呈现自残状况,还有或许构成刑法第234条规则的成心伤害罪 。

这些法令危险警示着软件开发  、运营方:技能创新绝不能以献身未成年人权益为价值 。

未成年人沉浸AI爱情 。

要管技能更要管背面的人。

关于部分未成年人沉浸AI爱情的问题 ,有谈论指出,AI作为一把科技的双刃剑,开展与运用要进一步加以引导。

一方面,家庭 、校园、社会各方要加强对青少年运用AI的教育与引导 ,增加对孩子的关怀与陪同,协助青少年建立正确的观念 。

另一方面 ,渠道要压实主体职责 ,严厉未成年人登录验证,稳固青少年安全意识 ,筑牢青少年安全防地。

一起 ,相关部分也要加强对AI软件的监管,加强审阅监督  ,完善互联网管理条例 ,为青少年划出一片净土 。

来 源丨央视网归纳中国青年报、央广网、法治日报回来搜狐 ,检查更多 。


使用道具举报

您需要登录后才可以回帖 登录 | 1秒注册

站长论坛积分规则

辽ICP备171053号-2|Archiver|手机版|小黑屋|站长论坛

GMT+8, 2025-07-04 , Processed in 0.295106 second(s), 188 queries .

Powered by 蚁三

© 本站内容均为会员发表,并不代表本站长论坛立场!

返回顶部