开源大模型在推动人工智能技术发展的也带来了安全、合规等多方面的风险挑战。开源模式虽打破了技术垄断，加速了技术创新，但也增加了风险暴露和被恶意利用的可能性，使合规风险更加复杂，并可能加剧技术滥用风险。

开源大模型的发展态势，从软件到大模型，开源的核心原则始终是开放和可复制。开源大模型的开放性是获取社区贡献的前提，而可复制性是研究和应用的重要基石。开源重塑了AI生态，从垄断到开放，降低了部署及应用门槛，促进了技术在欠发达地区的普及，也加速了AI商业模式的孵化。开源也是AI风险治理的探照灯，其透明度有助于识别安全漏洞和算法瑕疵，保障数据权利人的基本权益。

在创新趋势方面，开源语言大模型开启了百家争鸣的新纪元，开源多模态大模型注入了AI生态的新活力，而开源AGENT则引领了人工智能发展的新方向。这些创新不仅推动了技术的发展，也为个人、企业和国家提供了更广阔的发展空间。

然而，开源大模型的应用也面临着多重风险挑战。安全风险方面，开源模式可能加剧模型攻击风险，算法缺陷可能引发新型安全风险。合规风险方面，开源许可协议的适用面临层层限制，训练数据的合规风险问题突出，大模型生成物的侵权风险也不容忽视。开源模式还可能加剧大模型技术的滥用风险，影响个体发展和社会的可持续发展。

全球范围内，国际组织和各国政府都在积极探索开源大模型的治理方案。联合国等国际组织强调开源数据和模型共享的重要性，欧盟通过立法谋求人工智能监管主导权，美国则呈现出人工智能监管增强化趋势，中国的人工智能治理规则也在逐渐确立，对开源大模型实行包容性监管。

企业应用开源大模型时，需要构建统一的治理体系，包括治理组织的构建和治理机制的建立。在风险防控方面，企业应从项目生态选型、安全风险防控、合规风险防控等方面入手，确保开源大模型的应用既安全又合规。

国内开源大模型应用生态的完善方向，包括构建高质量中文数据集、探索建构训练数据合理使用制度、推动建立开源大模型标准化评估框架以及建立推广本土化开源大模型许可协议等，以促进开源大模型的安全、合规、高效和可持续应用。

来源：云计算开源产业联盟