新京报贝壳财经讯（记者白昊天）今年的北京两会上，北京市政协常委、民盟北京市委副主委、国际宇航科学院院士张振军与民盟同仁一起带来了《关于我市在发展人工智能产业中加强风险防控的提案》，建议建立人工智能重点领域质量保障体系，构建人工智能重点产品应用推广机制。
北京市政协常委、民盟北京市委副主委、国际宇航科学院院士张振军。新京报记者 王贵彬 摄
人工智能是新一轮科技革命和产业变革的重要驱动力。近年来北京积极抢占战略先机，大力推动人工智能产业发展。张振军介绍，2024年民盟北京市委对人工智能产业进行专题调研发现，人工智能作为战略性新兴产业，一些前所未有的新风险逐步显现，例如技术滥用风险、数据安全风险、知识产权保护风险等。
面对这些风险，张振军建议北京率先建立人工智能重点领域质量保障体系，严把人工智能技术产品供给准入关，明确对人工智能企业、产品、研发过程等的安全要求，包括人工智能企业应具备的设计验证、安全保障等能力，人工智能产品应具备的预期功能安全、数据记录与分析等功能，以及人工智能技术产品研发过程中应建立必要的质量保障体系，多维度确保供给质量。
同时，要针对垂直大模型、智能机器人等人工智能产品的应用示范及推广需要，制定相关地方标准、团体标准，明确应用准入、退出和过程中的安全保障要求、配套条件要求和安全监测要求。对可能出现的安全和伦理问题，需要规范事件调查程序、责任判定方法和救济措施。
此外，张振军期待北京针对算力安全、算法安全、数据安全等人工智能产业关键环节的安全风险，组织隐私保护、算法防御加固、虚假信息检测等技术和产品研发，打造人工智能安全解决方案、安全保障平台，为人工智能产业高质量发展保驾护航。
编辑 程子姣
校对 王心