徐建辉
6月5日,针对“豆包误判蘑菇导致用户中毒”一事,抖音集团副总裁李亮发文表示,“野生蘑菇的辨别风险极高,仅凭图片无法100%排除有毒相似种的可能”。AI目前还在发展阶段,涉及类似人身安全的问题,建议大家多方咨询求证,以免造成伤害。
“豆包误判蘑菇致用户中毒”,这起事件看似“技术翻车”,实则敲响了一记沉重警钟:在高风险甚至攸关生死的复杂场景中,盲目信任乃至完全依赖AI,就是拿生命赌博。
AI识物出错的案例并不鲜见。从误将宠物狗识别为“毛绒玩具”,到把天空云朵判定为“雪山”,大多数时候只是笑谈。但一旦识别对象是“能否入口的蘑菇”,错误就不再是段子,而是实实在在的性命攸关。用户之所以敢跟着AI下嘴,恐怕是长期被“智能”“精准”“高效”等宣传语潜移默化,误以为AI已经无所不能。这正是“AI万能论”最危险的渗透——它不是让人变得更聪明,而是让人变得更轻率、更懒惰、更盲从。
我们必须清醒认识到,当前大模型的本质,是基于概率的预测,而非基于事实的判断。它根据海量图像数据,算出“最有可能”的答案,但“最有可能”绝不等于“一定正确”。尤其在野生菌识别这类高度专业化、容错率为零的领域,AI的“经验”远不如专业菌类学者的知识可靠,更无法替代实物检测、化学分析等科学手段。
“君子不立于危墙之下。”技术虽然不是危墙,但轻信和依赖技术、放弃独立思考,就是主动站到危墙下面。AI可以帮我们识别一朵花、翻译一段话、推荐一家餐厅,但在重大关键决策面前,请把判断权牢牢握在自己手中。
(作者单位:安徽省淮南市政策法规研究室)