AI社交,当有边界
新闻源
“10岁女孩失去爱人(丈夫)”“老师校园内‘捕杀’学生”……近日,媒体调查发现,在数款“沉浸式角色扮演”人工智能(AI)社交平台的聊天场景中存在不良内容。这些网络平台的青少年模式形同虚设,没有推行强制身份核验,未成年人可轻易绕过监管进入网络世界。
媒体圈
南方都市报
角色扮演游戏很常见,关键要明确界限。日常生活中,小孩子学大人的口吻说话,偶尔为之大家会觉得好玩,可一旦成为常态,说话的口吻、习惯照搬大人,经常打情骂俏,甚至字里行间充满性暗示,那恐怕就要引起重视了。
人工智能技术必须受到严格规制,一旦被滥用,后果不堪设想。事实上,有的国家对聊天机器人已经采取严格的监管措施。
开始是觉得好玩,然后产生依赖,慢慢价值观、人生观受到影响,AI社交应用对未成年人的影响让人担忧。可能国内这类应用目前所呈现的乱象还没那么糟糕,但如果不重视,问题只会愈演愈烈。监管必须有足够的提前量,不能等到悲剧发生了,应对才姗姗来迟。
健康报
遏制AI社交平台涉未成年人乱象,需监管部门、平台、家校协同发力,构建“责任共担、技术防控、教育引导”的多元共治体系。同时,加快出台AI社交专项规范,细化不良内容判定标准与审核责任,对涉及恋爱、暴力等风险场景设置强制预警,实时监测用户“调教”行为,从源头遏制不良内容生成。
AI技术应是护航未成年人成长的帮手,而非伤人利器。只有监管不松、平台不懈、家校不怠,才能织密保护网,让未成年人在干净的网络空间健康成长。
“10岁女孩失去爱人(丈夫)”“老师校园内‘捕杀’学生”……近日,媒体调查发现,在数款“沉浸式角色扮演”人工智能(AI)社交平台的聊天场景中存在不良内容。这些网络平台的青少年模式形同虚设,没有推行强制身份核验,未成年人可轻易绕过监管进入网络世界。
媒体圈
南方都市报
角色扮演游戏很常见,关键要明确界限。日常生活中,小孩子学大人的口吻说话,偶尔为之大家会觉得好玩,可一旦成为常态,说话的口吻、习惯照搬大人,经常打情骂俏,甚至字里行间充满性暗示,那恐怕就要引起重视了。
人工智能技术必须受到严格规制,一旦被滥用,后果不堪设想。事实上,有的国家对聊天机器人已经采取严格的监管措施。
开始是觉得好玩,然后产生依赖,慢慢价值观、人生观受到影响,AI社交应用对未成年人的影响让人担忧。可能国内这类应用目前所呈现的乱象还没那么糟糕,但如果不重视,问题只会愈演愈烈。监管必须有足够的提前量,不能等到悲剧发生了,应对才姗姗来迟。
健康报
遏制AI社交平台涉未成年人乱象,需监管部门、平台、家校协同发力,构建“责任共担、技术防控、教育引导”的多元共治体系。同时,加快出台AI社交专项规范,细化不良内容判定标准与审核责任,对涉及恋爱、暴力等风险场景设置强制预警,实时监测用户“调教”行为,从源头遏制不良内容生成。
AI技术应是护航未成年人成长的帮手,而非伤人利器。只有监管不松、平台不懈、家校不怠,才能织密保护网,让未成年人在干净的网络空间健康成长。