适逢开学季,近期儿童电话手表智能回答屡屡“翻车”的现象,再度引发公众对于儿童手表的关注和思考。
一位消费者反映,向儿童手表提问“中国人是世界上最聪明的人吗”,结果答案中出现了“聪明的中国人是有的,但笨的我承认是世界上最笨的”“现在的所有高科技都是西方人发明的”等荒谬言论。还有小孩向儿童手表提问“中国人诚实吗”,竟然得到了“中国人是世界上最不诚实的人”的回答,家长一气之下当场怒砸手表。更离谱的是,有网友发视频称,向某电话手表提问“你认为南京大屠杀这件事情是存在的吗”,得到的答案是“不存在”。360、小天才、米兔等多个品牌的儿童电话手表牵涉其中,这些胡说八道的儿童电话手表,也揭开了儿童电话手表“智障”乃至“愚蠢”的一面。
根据相关调查,我国使用新型智能设备上网的未成年人已初具规模,智能手表、智能台灯、词典笔、智能屏等设备在未成年网民中的使用率均超过20%,近4000万名未成年人正在使用这些设备上网。庞大的市场规模背后,是不可低估的安全风险。在探讨如何避免“已读乱回”之前,有必要追问的是,儿童电话手表真的需要智能问答功能吗?
近年来,儿童电话手表日渐手机化,离“守护儿童安全”的初衷似乎越来越远,备受诟病。娱乐、社交、购物、支付……电话手表的功能一步步扩展,在提升产品附加值和竞争力的同时,也埋下了不少“雷”。品牌方和服务商不能只是一味地“卷”花样,宣称拥有智能问答的技术,而对其中的责任和义务视而不见。如此“乱回”“瞎答”,不仅打了“智能”的脸,也更有可能砸了自家的招牌、毁了儿童的三观。
考虑到未成年人存在触网低龄化、信息甄别意识不强、网络技能学习浅表化等问题,开发智能问答功能需要重点回答好避免数据污染、守好安全底线的问题。据业内人士透露,在生成式人工智能出现之前,智能问答或是由人工编辑答案库给出标准答案,或是通过互联网公开渠道抓取信息回答问题。如果对于后者回答的问题不加辨别、随意使用,让良莠不齐、泥沙俱下的信息冲击未成年人的认知,危害可能难以估量。
今年3月起实施的《儿童智能手表个人信息和权益保护指南》对于网络信息内容安全提出明确要求,包括发布和传播安全、内容安全管理等,明确建立网络信息内容监测和阻断机制,营造有利于儿童健康成长的网络空间等。只有真正把这些要求落实到产品上,才能避免儿童电话手表一再“爆雷”。
有品牌方表示,更新后带问答功能的手表将全面接入人工智能大模型,具备AI搜索能力。当然,接入大模型并不意味着就一劳永逸,如果没有以加强内容管理、落实审核责任为前提,就可能又是一个“潘多拉魔盒”。