□ 陈城
近日,教育部基础教育教学指导委员会正式发布《中小学生成式人工智能使用指南(2025年版)》(简称《使用指南》)。《使用指南》提出,小学阶段禁止学生独自使用开放式内容生成功能,教师不得将生成式人工智能作为替代性教学主体。
(5月15日 《光明日报》)
在人工智能应用越来越普及的当下,“禁止小学生独自使用开放式内容生成功能”,这一要求引发热议。开放式内容生成功能的使用门槛早已降低,如今许多人都在使用相关功能来提升日常工作效率,不少学生也在学习中用它来答疑解惑。
只不过,当前开放式内容生成功能存在诸多问题待解。《使用指南》的禁止性建议,不仅旨在防范学生因过度依赖生成式人工智能而弱化独立思考能力,还有更深层的考量。“禁止小学生独自使用”的表述,表明了《使用指南》的相关建议并非只是为了防止学生投机取巧完成作业。
值得关注的现象是,当前开放式内容生成功能尚不完善,最核心的问题在于,人工智能所生成的内容并非完全准确。面对人工智能提供的五花八门的生成内容,一部分成年人尚可以通过社会经验或行业经历来判断其可靠性,但小学生群体显然不具备这样的能力。因此,教育部发布政策性指南文件,有其现实必要性。
开放式内容生成功能依托的是机器学习、深度学习等人工智能算法,对于信息内容来者不拒,这让一部分使用者可以通过大量灌输无意义内容,训练人工智能生成难以判断真假的信息,并“污染”其他用户的正常使用结果。尽管“AI污染”是人工智能发展初期所必须经历的问题,但这也提醒我们,在人工智能适用人群足够广泛的当下,保护好认知能力较弱的小学生尤为必要。
如何让生成式人工智能更具信息辨识能力,如何让开放式内容生成功能尽快走出“AI污染”发展阶段,需要包括研发主体、使用主体在内的全社会一道共同努力解决。