奇安信集团发布的《政务大模型安全治理框架》强调了政务大模型在提升政府决策和公共服务效率的同时，也伴随着潜在的安全风险。政务大模型的安全风险主要包括数据安全、训练语料、模型使用、应用安全、软件供应链、生成内容以及大模型自身风险等七个方面。

报告提出了一个全面的安全治理框架，以确保政务大模型的安全和合规运行。这个框架要求满足合规要求、建立完善的安全机制，并提供安全技术保障。合规性是首要原则，涉及多项法律法规的遵循。安全技术保障是核心，包括基础安全措施、数据安全、大模型开发安全和运行安全等方面。

政务大模型的安全治理需要政府、企业、研究机构和监管机构等多方协作，形成良性互动的生态体系，构建安全、可靠、有序的环境，以充分发挥政务大模型在提升政府服务效能和社会进步方面的积极作用。

报告还提出了一系列关键举措，包括大模型分类分级安全管控、大模型与应用系统安全测试与评估、内容风险控制、数据安全风险控制和监管沙盒机制等，以确保政务大模型的安全治理能够适应技术发展和实际应用的需求。报告展望了政务大模型安全治理的未来，预测随着大模型监管逐渐规范和行业细化规范的出现，政务大模型安全生态将逐步建立，安全产品和服务将不断完善。

来源：奇安信