沈昌祥院士：构建安全可信的人工智能需在三方面发力

（原标题：沈昌祥院士：构建安全可信的人工智能需在三方面发力）

由中国企业改革与发展研究会、网易财经、网易财经智库联合主办的2024网易经济学家年会·夏季论坛于7月在上海举行，本届论坛的主题是《智造聚力 质焕新生》。

中国工程院院士沈昌祥在会上表示，我国提出要发展新质生产力，尤其要聚焦产业和产业链，改造提升传统产业、培育壮大新兴产业、布局未来产业、完善现代化产业体系，而人工智能对我们整个产业来说，不仅是支柱，而且是很大的驱动力。

他表示，我们要提高产业链、供应链韧性和安全水平，保证产业体系自主可控、安全可靠，这是非常重要的。党的二十大指出，“要加快建设网络强国、数字中国”，没有网络安全就没有国家安全，安全是发展的前提。 

我国《网络安全法》第16条提出，“国务院和省、自治区、人民政府应当统筹规划，加大投入，扶持重点网络安全技术产业和项目，支持网络安全技术的研究开发和应用，推广安全可信的网络产品和服务，保护网络技术知识产权。”我国《国家网络空间安全战略》提出，“坚持创新驱动发展，积极创造有利于技术创新的政策环境，统筹资源和力量，以企业为主体，产学研用相结合，协同攻关、以点带面、整体推进，尽快在核心技术上取得突破。”

在ChatGPT出来以后，新的大模型不断涌现，大模型也在逐步扩大逐步完善，大模型参数规模越来越大。在沈昌祥院士看来，这么大体量的数据，如何去顺利保证安全运行，这是一个挑战。“为什么人工智能的安全问题被放大了呢？关键是大模型继承了深度学习的模型，我们叫‘黑盒子’，构成了学习的闭环环节，导致决策和推理过程中难以被理解，因此也埋下了极大的风险隐患。”他解释道。