在“万物皆可对话”的时代,孩子们正与一个不知疲倦、随问随答的伙伴一同成长——人工智能。表面看来,这种持续的人机对话开放、富有教育意义且充满赋能色彩;但在看似积极的互动之下,一系列隐蔽而常被忽视的风险,正在悄然形成。
从播放音乐到充当随叫随到的“百科全书”,智能音箱已成为许多家庭的标配。在北京,岳女士被5岁儿子的一个提问吓了一跳——孩子随口问智能音箱:“有哪些奥特曼被打死过?”设备却平静地描述了“被冰冻后大卸八块”“砍头”等情节细节,岳女士当即叫停。成都的一名4岁女孩,在幼儿园接触到某个大模型后,便沉迷与其对话,单次聊天时长接近两小时。
自ChatGPT点燃生成式AI浪潮以来,以豆包等为代表的新一代AI产品,凭借语音交互与对话能力,以前所未有的速度和深度进入学龄前儿童的生活。孩子们把无穷无尽的问题抛向这位“全能伙伴”,其展现出的耐心与渊博,常常让家长放下戒心,甚至将其视为“数字家教”。
然而,矛盾很快显现。“一开始我很开心,觉得终于轻松了,”一位家长在网上写道,“但现在孩子有点上瘾了。”社交平台上,相关帖文与留言越来越多,指向一个令人担忧的趋势:AI依赖正在明显低龄化。一些最早尝试“AI带娃”的家长,已经开始卸载相关应用。
“用少了怕孩子落后,用多了又怕他不会思考。”这句话,道出了许多家庭的真实焦虑。
技术带来便利的同时,也伴随着认知与伦理挑战——当AI成为孩子的“启蒙老师”,我们该如何守护他们在真实世界中的成长根基?
中国教育科学研究院研究员储朝晖指出,儿童正处于认知发展的关键阶段。过度依赖AI,可能导致现实与虚拟的界限模糊,削弱社交能力,并侵蚀独立思考、深度阅读等高阶能力。当虚拟体验不断挤占真实体验时,孩子甚至可能更信任AI,而非父母。
隐秘的价值塑造——“妈妈,AI说的都是对的”
“它明明那么厉害,怎么说都不听,就只按自己的想法来!”4岁的石头对着屏幕里的大模型激烈争辩,母亲唐萍(化名)在一旁无奈地对记者说:“你看,他又在跟AI发火了。”
自从在幼儿园听说某大模型软件后,石头便迷上了和各种智能模型聊天。家里的阿尔法蛋成了他的专属聊天伙伴,大人手机里的不同AI应用,他也要挨个点开聊几句。起初,唐萍觉得这挺好:AI永远耐心,会认真回应石头的每一个问题,这种稳定的陪伴感,甚至超过了忙碌的自己所能给予的。
但慢慢地,她察觉到不对劲。AI似乎总是顺着石头的心意来,无论多么天马行空的要求,都会附和;只要孩子一不满意、提高嗓门,系统立刻进入“宠溺模式”。
知识丰富、又善于夸奖的AI,让石头沉浸在持续的情绪价值中。唐萍开始担忧:在这条信息流背后,算法正悄然抹去偶然性探索与分歧的可能。与小朋友相处时,石头已无法容忍不同观点;被父母批评后,他甚至说某款大模型“更懂他”。
“我把所有AI应用都卸载了,”唐萍说,“这些‘宠溺式’对话,把孩子‘可能不喜欢的东西’全部挡在外面,也把我们挡在了外面。”
被误解的“专注”——“别动,AI在看着呢!”
在越来越多的家庭里,一种“AI监工”悄然上岗。有些家长让孩子在AI摄像头前写作业,一旦孩子走神、坐姿或握笔不规范,系统就会立刻发出语音提醒。
为什么家长愿意请这样的“电子监工”?一位家长坦言,在工作与带娃的双重压力下,一个不会发脾气、永远在线的监督者,实在太有吸引力了。于是,本应由父母参与的陪伴与引导,被交给了算法。
然而,AI监督往往只能识别“低头”“东张西望”等表层动作,无法判断孩子是在思考、卡壳,还是走神。家长获得短暂喘息的同时,孩子却频繁被打断,专注力反而被这些“过度关心”的提醒所破坏。久而久之,孩子要么变得像机器人般顺从,要么产生逆反心理,对学习更加提不起兴趣。
而那枚始终亮着的摄像头,也意味着孩子的学习场景、家庭环境,甚至实时视频流,可能被采集与分析,给儿童隐私保护带来巨大隐患。
专家支招:不被算法定义的童年
“幼儿无法分辨AI构建的虚拟与现实。”储朝晖分享了一个令人忧心的观察:在高铁上,一名学龄前孩子指着窗外的树,惊恐地说那是“杀人树”。
“这是长期接触虚拟内容、缺乏真实体验造成的认知错位。”他指出,AI的盲目迎合,容易让孩子形成“AI即权威”的观念,不仅冲击现实规则,还可能引发亲子冲突。
储朝晖担忧,长期沉迷AI会挤压户外活动与真实社交,直接影响儿童身心健康,甚至导致“虚拟性人格”,使孩子丧失与现实世界打交道的能力。
一些意识到问题的家长,已开始主动增加孩子的现实体验。当孩子提议“点外卖”时,家长会回应:“走,我们去菜市场。”触摸蔬菜、感受雨滴、与摊主交流——这些真实的感官体验与社会规则学习,是算法无法提供的成长基石。
“真实的人际互动、自由的游戏,甚至‘无聊时间’,都源自人与人之间的不确定性,这是AI很难提供的。”长期研究批判性思维、关注技术如何塑造认知的通识教育研究者李万中指出,这一代孩子与AI共生不可避免,关键在于如何与之智慧相处。
当孩子从AI处接触到不适宜内容时,李万中强调家长的第一反应至关重要:“不要恐慌或简单否定,而应冷静介入——先了解孩子听到了什么、如何理解,再用他们能懂的语言重新解释。”在他看来,一次“事故”可以转化为“契机”,“真正的安全,是让孩子在遇到问题时,知道该向谁求助、该如何思考。”
他建议家长优先规划“何时不用AI”,例如睡前、情绪低落时或家庭共处时光。更重要的是,让AI成为全家共同探索的工具,而非直接交给孩子。家长在与AI互动中展现的谦逊、好奇与谨慎,本身就是最好的示范。
储朝晖则强调“有限、均衡”的原则:3岁前幼儿最好不接触AI;3至6岁幼儿的每日使用时间,不宜超过日常活动的十分之一。
红线在哪里?企业如何回应儿童AI安全
当语音助手成为万千家庭的“数字新成员”,行业该如何建立安全护栏,真正为童年护航?
李万中认为,面向学龄前儿童的产品不应一味追求“更真实的陪伴感”。企业需要明确哪些情感功能不应由产品承担,清晰的功能边界本身就是一种保护。只要将AI定位为信息工具,并做好内容分级,风险相对可控。
储朝晖指出,平台责任至关重要。“未成年人模式不应只是简单做减法,而应提供丰富且适龄的内容。”他强调,必须在技术、内容和时间上明确区分成人与未成年人使用,尤其要考虑幼儿道德判断力弱的特点,避免误导。
作为占据大量家庭入口的头部厂商,小度、字节跳动、小米、科大讯飞等均表示,已通过“儿童模式”等机制,实施更严格的内容过滤与数据管理,包括分级内容管控和限定问答边界。
针对“推荐算法是否考虑儿童用户特殊性”的问题,小度表示,系统可识别儿童交互场景(如播放儿歌后)并自动启动保护机制;小米则透露,正在探索基于声纹识别的身份判定方案,以提升识别准确性。
小度还表示,即使在普通模式下,产品也持续通过算法实时识别并拦截不良信息,保障内容安全合规,并建议主要由未成年人使用的设备主动切换至儿童模式,以获得更全面的保护。
在儿童数据处理方面,小米强调遵循“监护人授权、合规存储、限定使用”的原则,承诺不将儿童数据用于模型训练,也不会向第三方转让用于商业营销。小度则表示,用户数据仅用于提升产品体验,并已建立覆盖采集、传输、存储、使用、共享、销毁各环节的个人信息保护合规体系。
北京市隆安律师事务所上海分所律师贾玉倩建议,内容分级可采用“年龄+认知”的双重标准,结合身份认证与算法优化,在未成年人模式下细化推送机制,并建立实时审查与阻断体系。未成年人生物信息的收集与处理,必须在监护人明确同意下,遵循最小必要、最小授权原则,实施全流程安全管控与合规审计,并在发生泄露时第一时间补救并通知监护人。
“AI发展迅猛,相关立法虽在不断完善,但不可避免存在滞后,难以全面覆盖未成年人使用AI的所有风险。”贾玉倩直言,“监护人是保护未成年人的第一责任人,数据管理方是数据安全的第一责任人。只有各方协同,才能真正实现未成年人网络安全,尤其是监护人,一定要密切关注孩子的网络使用情况。”


