湖南日报全媒体记者 王铭俊 通讯员 谢婧繁

　　日前，聊天机器人程序ChatGPT大火。红火之余，ChatGPT却因其帮学生完成家庭作业、生成的内容成为讲稿与学术研究作品，甚至直接登上学术论文作者栏，而引发一系列伦理担忧，成为人们茶余饭后的讨论热点。

　　科学技术新突破在造福人类的同时，伦理风险和挑战也相伴而生。如何深入开展科技伦理治理，实现科技创新高质量发展与高水平安全间的良性互动，已经成为许多国家面临的新任务。

　　我国出台《关于加强科技伦理治理的意见》一年来，湖南在省级层面首批成立科技伦理治理委员会，紧接着在全国成立首家区域科技伦理审查中心，并开始了具体探索，期待为建设具有中国特色的科技伦理治理体系贡献“湖南经验”。

　　新技术广泛应用，引发科技伦理治理需求

　　什么是科技伦理？简而言之，就是开展科技活动需要遵循的价值理念和行为规范，是促进科技事业健康发展的重要保障。

　　湖南师范大学人工智能道德决策研究所研究员孙保学介绍，近年来，随着人工智能、基因工程等领域新技术的广泛应用，引发了不少新的伦理争议和社会讨论，推动科技伦理治理从幕后走向前台。

　　孙保学告诉记者，他们团队在走访人工智能企业时发现，企业方在业务活动中大多能意识到应该有一个伦理边界，但边界到底在哪，企业自己并不清楚。

　　孙保学举例，某些企业为提高人力资源管理能力，向人工智能服务提供商提出研发监控员工行为的系统，在员工不知情的情况下，分析员工是否存在上班“摸鱼”、办公室恋情和离职倾向等，甚至作为考评员工的指标。这种侵犯员工个人隐私权的做法，目前法律上缺少明确规定和案例，从而在规制服务提供商和应用企业行为方面提出挑战。

　　这样的问题也出现在生物科学领域。

　　“我们迫切希望湖南成立相关机构，指导企业开展科技伦理审查工作。”湖南源品细胞生物科技有限公司研发事业部总经理郑春兵介绍，该公司主营细胞储存服务，并开展细胞产品研发工作，细胞原料的捐献、采集与保藏过程均牵涉伦理问题。此外，采集、保存的细胞原料属于人类遗传资源，来自省内近百家医院，涉及的伦理问题需要各家医院单独审核，在工作效率和伦理审查标准的统一上，都存在着现实问题，对企业工作的开展提出了挑战。

　　填补“政策真空”，构建科技伦理协同治理体系

　　源品生物等从事生物科学、医学、人工智能、实验动物等领域科学研究的有关高校、科研院所和企业，可以自主成立伦理审查委员会了。2月9日，省科技厅下发通知，开展科技伦理审查机构登记和试点单位申报工作。

　　这是去年底湖南成立科技伦理治理委员会后开启的一项重点举措。经省科技伦理治理委员会批复，全国首家省级区域科技伦理审查中心随后在湖南成立。

　　“省区域科技伦理审查中心的重要职责之一，便是引导高等学校、科研机构、医疗卫生机构和企业设立科技伦理（审查）委员会并规范运行。”省科技信息研究所党委书记、所长，省区域科技伦理审查中心主任李贵龙说，该中心还将接受未设立科技伦理审查委员会单位委托的科技伦理审查，为有争议的科技伦理审查结果进行审查裁决。

　　相关的审查结果需报省科技伦理治理委员会备案。省科技厅科技监督与诚信建设处处长刘高介绍，根据问题导向，结合湖南实际，省科技伦理治理委员会组建了生物科学、医学、人工智能和实验动物4个领域专家委员会。领域专家委员会将在增进人类福祉、尊重生命权利、坚持公平公正、合理控制风险、保持公开透明等科技伦理原则上，依据伦理审查的要点内容，如医学领域的“受试者可能遭受的风险程度与研究预期的受益相比合理、对受试者在研究中可能承受的风险采取最小化措施”等，进行复核。

　　下一步，湖南的动作将越来越大。记者从省科技伦理治理委员会秘书处获悉，湖南将对可能产生较大伦理风险挑战的新兴科技活动实施清单管理；推动科技伦理治理原则和要求成为地方法规的重要内容；强化财政科技项目科技伦理监管，推进科技伦理审查结果互认，推动科技向善、造福人类，促进实现高水平科技自立自强。