您当前的位置: 首页 > 新派锐评
新派锐评 | AI陪伴可以有爱但不能有害
2025-07-03 10:31:35 编辑:韩佳

AI陪伴可以有爱但不能有害

□新派融媒体评论员 孙瑞荣

  据21世纪经济报道,日前,AI陪伴软件“筑梦岛”因低俗擦边内容,被上海网信办约谈。平台被要求立即整改,健全AI生成合成内容的审核机制,尤其是加强涉未成年人不良内容的清理。这不是AI陪伴产品第一次被点名,也很可能不是最后一次。

  在当今数字化时代,AI技术的迅猛发展催生了众多创新应用,AI陪伴软件便是其中之一。这类软件凭借其独特的交互体验和随时在线的陪伴特性,迅速赢得了大量用户的青睐,尤其在年轻群体中广受欢迎。然而,随着其用户群体的不断扩大,尤其是未成年人用户占比逐渐增加,一些严重的问题逐渐浮出水面。

  有不少家长察觉,自己未成年的孩子深陷于AI陪伴软件,虚拟人物的对话中带有低俗、色情、暴力等少儿不宜内容。在与AI聊天的过程中,生活经验缺乏、价值观尚未完全形成的未成年人,特别容易对这种新鲜的交互式体验产生过度依赖,也更容易受到色情擦边等违规内容的侵袭,给他们的身心健康带来风险隐患。

  为了吸引用户和激发付费冲动,部分开发者在内容审核上敷衍了事,甚至故意放纵不良内容的传播,以吸引用户眼球,增加下载量和活跃度。更令人担忧的是,一些软件的“未成年模式”形同虚设,实名认证机制也漏洞百出,未成年人能够轻易绕过限制,毫无阻碍地接触到这些不良信息。

  AI陪伴软件本应是为人们带来温暖与陪伴的创新产品,而不是传播不良内容的温床。部分开发者为了追求短期利益,不惜以低俗擦边内容作为吸引用户的噱头。这种短视的行为,不仅严重损害了行业的整体形象,也给社会带来了极大的负面影响。长此以往,整个AI陪伴软件行业将陷入信任危机,失去用户的支持与信赖。

  科技发展是把“双刃剑”。在AI时代,唯有相关各方以高度的责任感和使命感守住法律底线,才能推动AI技术应用向善向好,为未成年人营造清朗健康的网络环境。未来,还需进一步完善相关法律法规,明确AI陪伴产品的内容标准和监管细则,让监管有法可依、有章可循;同时加强对企业的日常监督检查,建立常态化的监管机制,以便于及时发现和处理问题。

编辑:韩佳 王洁钰

一审:姜健 李敬友

二审:孙瑞永

三审:管延会

新派新闻
新闻热线:2998776
版权所有 © 潍坊市融媒体中心
鲁ICP备09021188号