医疗服务严谨复杂，将大模型运用到临床应用前，应通过相对完备的标准测试。

文 | 闵栋 中国信通院云计算与大数据研究所副所长

编 | 王小

图/unsplash

对标准体系的建立，中国亦不能落于人后。标准体系建设贯穿医疗健康行业大模型应用的全生命周期，涉及规划论证、科研生产、使用管理等多个部门，是复杂的系统工程，需要人工智能技术与卫生健康两个领域倾力协作配合，相互衔接、互为补充与支撑，以期尽快建立国家标准、行业标准。

笔者建议，从国家层面，推动标准应用试点示范。也就是依托人工智能标准体系，以“优势先行、成熟先用、应用牵引”为原则，通过重点标准的先试先行，总结提炼可借鉴、可复制、可推广的实践经验，以点带面拓展标准应用深度和广度，持续推动大模型技术在医疗健康领域的应用，为医疗健康服务数字化转型及智能化发展奠定基础。

另外，重视数据资源安全防护。从技术层面看，大模型技术在医疗健康领域应用有利于提高诊断治疗效率，但也存在数据泄露、模型被篡改破坏导致诊疗辅助决策误判等情况，要加强对数据资源的安全防护。通过技术、标准与规范等方式排除系统遭黑客攻击、程序被修改而导致错误内容输出等的可能性。

从过往经验看，技术跑马快行时，要有伦理作为束缚的缰绳。大模型技术在医疗健康领域的发展尤其要注意科技伦理风险，由人工智能算法所带来的偏见歧视、责任缺失、技术失控、隐私侵犯等伦理问题在医疗健康领域将会引发严重后果，要加强对医疗健康大模型的科技伦理治理工作，由产学研用各方联合开发科技伦理治理工具，引导医疗健康大模型有序、安全发展。