近日,一位市民反映,她在某电商平台付费8.8元下单四维超声图AI预测胎儿长相。一开始,她感到商家反馈的生成照片和彩超影像有几分相似,但当其他宝妈将生成图分享出来时,她才发现,宝宝们竟然“撞脸”了。当她向卖家申请退费时,商家怀疑其是同行在搞鬼,拒绝退费。(6月24日上观新闻)
AI预测宝宝长相,以一种娱乐的方式,满足很多准父母的期待和好奇心,让他们可以提前看到未来宝宝的相貌,由此获得一种情绪价值。
的确,AI预测宝宝长相,可以通过一些算法和数据,对图像进行处理和推测,但只能作为娱乐和参考,并不能完全依赖和相信。
一方面,四维超声图本是为了看清胎儿肢体、五官等是否健全,其展现的画面信息可能模糊不全,甚至没有正面的五官信息,若以此进行推测,其科学性和准确性需要打上一个问号;另一方面,真实胎儿在母体发育以及出生过程中可能会受到遗传、环境等方面因素的影响,AI很难准确预测出最终模样。
对于“AI预测宝宝长相”使用了何种技术,一家售价8.8元的店铺客服表示是Midjourney制图工具。实际上,这只是美国一个工作室研发的AI制图工具,官方中文版仍然处于内测中。或许正因如此,很多卖家看到商机,当然,也不排除其通过“二道贩子”等代理服务的方式,为国内用户提供镜像服务获得生成结果。
进一步来看,如果商家在提供服务时存在欺诈行为,比如使用固定模板或伪造结果来欺骗消费者,让宝宝们频频“撞脸”,那么,就违反相关法律法规,是要承担法律责任的。
不仅如此,一些应用软件也上线“四维AI预测宝宝长相”的拍摄功能,其要求用户将诊断报告放在摄像头前,并露出孕妇的名称、年龄等信息,更有甚者要求提供宝宝父母的人脸信息。预测宝宝长相,却要提供其父母的身份信息,这些应用软件的真实目的自不待言。
本质上,“AI预测宝宝长相”只是一个工具,技术没有善恶,重要的是如何使用它。哪怕是一些正规软件,其功能也可能被别有用心的人非法使用。所以,平台要采取必要的手段和措施,防止技术被滥用,对于侵犯他人合法权益的不法行为,也要及时采取处置措施,切实肩负起责任。
与此同时,商家应该在商品详情页面进行明确告知,不得误导、欺骗消费者,或侵害消费者的个人隐私等各项合法权益;消费者也应该提高警惕,了解AI技术的局限性,避免盲目追求和过度依赖,保护好个人的隐私信息。
“AI预测宝宝长相”服务的火热,带来的不仅仅是娱乐性,还提醒人们,对于新科技的出现,既要珍惜其带来的价值,也要警惕其可能带来的风险。只有保持敬畏、守住边界,才能确保AI技术能够真正为人类带来便利。
评论员 任思凝
《郑州晚报》版面截图