周鸿祎:研究制定大模型安全标准体系 推进更多场景应用落地

科技 2024-03-04 10:40 阅读:14

2024年全国两会上,全国政协委员、三六零创始人兼董事长周鸿祎的提案聚焦数字安全和AI大模型的发展。他指出通用大模型的安全性是一个重要方面,特别是随着OpenAI系列模型工具的发布,AGI加速实现,将带来更加复杂的安全风险,包括技术安全、内容安全和人类安全等方面。为此,周鸿祎建议国家研究制定保障通用大模型安全的标准体系,推动大模型安全评测工作,降低安全风险。

周鸿祎还提出,现阶段将安全模块作为大模型外挂已不可行,建议国家在内容安全、数据安全、科技伦理、网络安全等领域制定安全检测标准,推动大模型的安全评测工作,确保大模型的安全性。此外,他建议政府、央国企与具备“安全和AI”能力的企业展开深入合作,共同推动大模型安全领域的发展。

在大模型应用方面,周鸿祎认为2024年是大模型应用场景元年。他建议政府、央国企率先提供更多应用场景,推动大模型垂直化、产业化落地。同时,他强调知识管理的重要性,鼓励企业在定制AI前做好知识管理,将企业大数据平台升级为企业知识平台。此外,他还提出业务融合的重要性,鼓励企业将大模型与数字化业务系统深度融合,充分发挥大模型的价值。

另外,在数字安全方面,周鸿祎提出建设云化数字安全基础设施“安全云”,集中数字安全能力,以云服务的方式向各单位输出安全效果。他呼吁改变重建设轻效果的思路,鼓励各单位购买数字安全云化服务,推动国家整体数字安全水平的提升。同时,他鼓励网络安全企业积极转型,以安全即服务的方式为国家数字安全水平作出贡献。

总之,周鸿祎的提案着眼于大模型安全和应用落地两个关键领域,为推动数字安全和AI发展提供了重要思路和建议。希望相关部门能够重视这些提案,加快推进相关工作,确保数字安全和大模型应用的顺利发展。