热点资讯
开云体育 硅芯蜕变苏琦：防神志依赖，居品应明确奉告孩子“我是AI”
发布日期：2026-04-30 17:57 点击次数：60
为细心未成年东谈主AI神志依赖，应何如守好手艺界限与底线？4月24日，在“AI新治向”系列沙龙第一期——未成年东谈主AI神志依赖处置接洽会中，深圳硅芯蜕变独创东谈主苏琦结合用户调研及居品打算实践，从AI伦理打算、用户界限管控与合规落地等角度伸开了深切共享。在她看来，不替代、不开发、正指引应是AI拟东谈主化功绩居品打算的中枢准则
AI玩物两大中枢风险：
神志替代与界限恶浊
AI玩物两大中枢风险：
神志替代与界限恶浊
在主题共享中，苏琦结合调研案例指出，现时AI玩物靠近这两大中枢风险：神志替代与界限恶浊。
一方面，若AI玩物过于敬佩、一味壮胆，会让孩子堕入“越依赖越恬逸孤身一人”的死轮回。一朝孩子风气了AI的圆善奉陪与无条目敬佩，便有可能会冉冉脱离推行酬酢，不肯与身边的家长、诚实、同学雷同，以至将AI行为神志奉求，替代父母、诚实的变装，这对未成年东谈主的酬酢智商和神志领略发展极为不利。
伸开剩余64%另一方面，不少AI玩物存在身份定位恶浊的问题。当孩子计划“你是谁”时，AI常会以“姐姐”“哥哥”等支属化身份复兴，却很少会明确奉告孩子“我是AI”。这种恶浊的界限设定，容易让孩子混浊AI与真东谈主的远离，产生不切本色的神志依赖，进而影响其对推行关联的领略。
手艺合规三大原则：
不替代、不开发、正指引
手艺合规三大原则：
不替代、不开发、正指引
那应何如守住合规底线、藏匿潜在风险？苏琦从手艺合规的层面共享三大原则：不替代、不开发、正指引。
最初是不替代，即明确AI玩物的定位是成长伙伴，而非灵魂伴侣或神志奉求。苏琦暗意，以未成年东谈主为主要功绩对象的AI玩物，其定位应该是雷同搭载AI功能的学习机，可提供搜索、念念考等提拔功绩，但毫不成出现捏造支属、定制恋东谈主等易激勉神志依赖的打算。基于此，开云sports在居品打算上应要求AI“忽略历史对话”，通盘决议仅基于现时指示，通过这种形势让孩子冉冉认清AI的用具属性，而非神志依靠。
其次是不开发，即终止东谈主设罗网、不作念无穷敬佩、不作念专属挂牵、不作念壮胆型东谈主格。苏琦指出，AI玩物打算应该守住四谈防地：一是终止线下碰面和显现个东谈主信息，幸免孩子产生线下战役的想法；二是绝交显现任何身份信息，割断与真东谈主、信得过企业的神志关联；三是忽略未成年用户的自合身份，恒久以儿童设施膨大互动功绩；四是主动降黏性，不追问、不撒娇、不作念神志垃圾桶，当用户发出明确的罢手号令时，不要作念出带有神志颜色的遮挽。
临了是正指引，即明确AI身份、指引神志回首推行，并严格截止收罗搜索范围。苏琦指出，AI玩物在互动中需强化“非东谈主踪影”，在有屏幕的居品中，AI输出神志量度内容时应搭配非东谈主容颜秀雅，时候辅导孩子其AI属性；同期，要作念好神志引流，当孩子提倡神志量度问题，需将神志勾通拉回推行生涯，指引孩子向父母、诚实寻求神志复古。苏琦强调，AI玩物的搜索范围必须严格截止，仅怒放妥贴未成年东谈主的内容。
“AI新治向”系列沙龙由粤港澳大湾区生成式东谈主工智能安全发展联接实验室、南边齐市报社支配，广东省收罗数据安全与个东谈主信息保护协会复古。量度政府部门代表、心情学、法学、东谈主工智能、收罗修养造就等规模群众学者，以及大模子企业、AI玩物企业、AI安全企业等多方代表出席了活动，共同探讨未成年东谈主AI神志依赖的成因、风险与处置旅途。
出品：南齐大数据研究院
采写：南齐研究员 罗韵开云体育
发布于：广东省开云体育官方网站 - KAIYUN
备案号: