据《法治日报》报道,一些品牌的儿童手表在AI问答时出现“毁三观”的“毒答案”,滋长了儿童受到“诱导”而形成不正确的历史观、价值观的风险;更有甚者,还出现了“诱导未成年人消费”“儿童不宜”等许多可能会影响儿童身心健康的内容。儿童手表的屡次翻车,给智能问答产品应用敲响警钟。
这些“毒答案”,往往具有随意窜改历史事实,违背正确的社会主流历史、价值观念等缺陷。若是成年人,可能在“瞠目结舌”之余,仍秉持着内心的价值准则和知识储备等给出自己的判断。但对判断能力尚在完善、知识储备仍在丰富的未成年人来说,他们难免会在一定程度上被这些“毒答案”误导,对他们身心发展极为不利。由此看来,这些信息审核不能放任自流,必须遵循更严格的标准。
从技术方面看,AI作为与未成年人进行沟通联络的“虚拟中介”,在收到使用者的问题后,“快马加鞭”地搜集网络信息资源,经过整合与处理之后,再将信息呈现给提问者。这一过程看似简单,但很大程度上是“不可控”的,特别是在互联网进入UGC(用户生成内容时代)后,任何人都可以成为网络信息的发布者,AI回答所摘取的内容便更加具有随机性。在未知的源头和随机的过程之下,数据的污染便很难避免。谁也不知道,AI会选择将怎样“离谱”的答案呈现给未成年人。
然而,技术壁垒是儿童手表商家忽视信息审核与管控的借口吗?类似“毒答案”“诱导消费”“儿童不宜”等数据污染,难道真的没办法被最大限度地隔离在儿童成长之外吗?答案显然是否定的。对于这些问题,依然可以精准施策、对症下药进行“源头”处理。
具体来说,作为手表的制造方与监测方,企业与相关平台应当负首要责任。譬如,按照《儿童智能手表个人信息和权益保护指南》的要求,在监护人控制应用程序中设置足够的功能,确保监护人能够对手表进行控制;对使用的APP和AI模型进行审查,最大限度地过滤“毒信息”;最为重要的是加强行业监管,企业、平台与监管部门都应当自觉遵循保护儿童、关爱儿童的理念,在技术应用中赋予更多的“人性”。护航每一个儿童的健康成长,把控好数据污染的源头,才是解决问题的治本之策。
同时,也应当加强对家长和未成年人的安全防范与网络知识教育。家长要为孩子的健康成长站好岗、把好关,不断增强未成年人辨别“毒信息”的能力,也是应对数据污染的关键一环。随着技术壁垒的不断打破,AI的持续更新迭代,会给信息监管带来更大的挑战,但理想化的状态还是,在人们的合理使用下,AI会更好地服务于人们的生活、服务于儿童成长。在如何处理好两者的界限,让科技更好地“为我所用”这个问题上,我们仍有许多值得探索的地方。
评论员 康钰
《郑州晚报》版面截图