聊天软件充斥色情暴力内容?AI技术不能偏离正道
《法治日报》记者近日调查发现,聊天不少未成年人的软件家长正在被AI剧情聊天软件所困扰,这些打着“角色扮演”等旗号的充斥AI剧情聊天应用,在吸引未成年人的色情同时,也悄然滋生了一些灰色地带,暴力在部分软件的内容对话中,出现了色情擦边、技术语言暴力以及侮辱用户的偏离内容。(《法治日报》11月23日)
此前,正道ChatGPT的聊天横空出世犹如一颗火种,点燃了人工智能领域的软件热情,催生了各式各样的充斥创新应用。万万没想到,色情这种生成式大语言模型,暴力又一次被带偏了。内容
据报道,一些打着“角色扮演”旗号的AI剧情聊天软件,用色情、暴力的擦边内容吸引未成年人,诱惑他们充值消费,这不仅引发了家长们的强烈担忧,也再次凸显出加强行业监管的紧迫性。
AI剧情聊天软件依托人工智能技术,模拟虚拟人物与玩家进行对话,为青少年打造了一个充满新奇与未知感的虚拟世界,这种创新本身并无不妥。
问题在于,一些软件开发平台为了吸引用户,刻意设置了包含性暗示或暴力元素的对话内容,甚至设计了超出青少年认知范围的场景和剧情,如将聊天对象设定为“出轨对象”,并涉及拥抱、亲吻等亲密行为。更有甚者,部分软件提供色情内容,对青少年健康成长造成极大威胁。
在青少年成长发育的关键时期,营造健康向上的网络环境至关重要。倘若他们沉迷于充斥着低俗、暴力内容的虚拟世界,甚至进行大额充值消费,无疑会对其价值观造成负面影响。
要确保行业健康发展,防止技术被滥用,必须迅速采取措施,加强监管力度,约束平台守法合规运营。比如,一旦发现存在色情内容,应立即对相关应用软件进行下架处理,以儆效尤。
更为重要的是,要将未成年人保护机制真正落到实处。报道提到,有些AI剧情聊天软件,注册极为简便,无需实名验证,根本没有对不同年龄段用户进行区分。还有的软件虽然提供了“青少年模式”,但防火墙形同虚设,用户选择该模式后,照样可以看到一些不适合他们观看的内容。
所以,针对部分AI剧情聊天软件“偏离正轨”的问题,行业监管部门不妨首先系统梳理排查一下,看最基础性的“青少年模式”到底有没有执行到位。在此基础上,加强对平台内容的审核,确保生成的内容合法合规。
另一方面,AI剧情聊天软件的网络开发平台,也应主动承担起主体责任,加强自律,建立完善的内容审核机制,在软件上架前的语言训练阶段,就对可能存在的色情、暴力等有害信息进行有效过滤。总之,绝不能为了追求用户数量而打法律的擦边球。
AI剧情聊天软件乱象,对未成年人身心健康造成的潜在危害,不可不察。无论如何,人工智能作为新兴行业,其快速发展应当为社会经济带来正面的价值。不能让技术跑偏,成为非法牟利的工具。守护好未成年人身心健康的防线,人工智能才能真正实现“技术向善”。(熊志)
(责任编辑:{typename type="name"/})
-
在浩瀚的网络世界中,我们为您精心整理了各类影视资源,包括免费观看、在线播放、视频信息以及剧情介绍等,让我们一起探索这些精彩的内容吧!我们遍历网络上的各类视频资源,为您筛选出最受欢迎的影片,这些影片涵盖 ...[详细]
-
中新网北京12月30日电记者 刘星晨)成都,天府之城;杭州,人间天堂;广西,八桂大地。神鸟升空,来自113个国家和地区的6500余名大学生运动员通过成都大运会承梦翱翔;金桂飘香,杭州亚运会的画笔绘就了 ...[详细]
-
新华社北京11月27日电记者李春宇、田晨旭)27日,第十四届全国冬季运动会钢架雪车比赛在国家雪车雪橇中心继续进行,天津队闫文港和内蒙古队赵丹组队夺得混合团体冠军。在25日结束的比赛中,闫文港、赵丹分获 ...[详细]
-
12月7日,中国队选手樊振东在男单比赛中回球。他以2比1战胜法国队选手费利克斯·勒布伦。新华社记者 胥冰洁 摄当日,在成都举行的2023年国际乒联混合团体世界杯第二阶段比赛中,中国队以8比1战胜法国队 ...[详细]
-
本文目录导读:评论与反馈演员信息免费观看与在线观看视频信息与剧情介绍在体育界中,女运动员安妮特·海雯的名字熠熠生辉,我们将带您遍历有关她的网络内容、评论以及演员信息等,为您提供免费观看、在线观看、视频 ...[详细]
-
中新网成都12月31日电(记者 王昊)即将结束的2023年,对于中国电竞而言是“热闹”的一年。杭州亚运会给了电竞塑造更好自身形象的机会,线下赛事全面恢复,电竞用户的商业开发继续前进。尽管不乏负面新闻, ...[详细]
-
新华社北京12月8日电记者刘阳)据中国举重协会消息,在当地时间7日进行的国际举重联合会卡塔尔大奖赛上,中国队的石智勇在奥运级别男子73公斤级角逐中,以1公斤之差惜败于拉脱维亚选手苏哈里弗斯收获总成绩 ...[详细]
-
新华社武汉12月3日电记者赵建通、乐文婉)3日的武汉体育中心迎来多哈世锦赛跳水项目选拔赛第二站)最后一个比赛日,当天共有4场决赛进行,昌雅妮/陈艺文、龙道一/王宗源获得女子、男子双人3米板冠军,陈芋汐 ...[详细]
-
在浩瀚的网络世界中,捷克街头CZECHSTREETS在线平台为我们打开了一扇探索异国文化的窗口,这里,我们不仅可以遍历网络内容、评论、演员信息等多元信息,还能沉浸于免费观看、在线观看的丰富视频资源中。 ...[详细]
-
记者今天从国家体育总局了解到,我国积极推进巴黎奥运会备战工作,不断提高竞技水平,目前已获得142个项目巴黎参赛资格,奥运项目全年参加世界大赛取得35枚金牌,位居世界第二位,部分项目有新进步、新突破。此 ...[详细]