聚焦中关村论坛|清华大学薛澜：人工智能安全上路，首先装好“刹车”

（原标题：聚焦中关村论坛|清华大学薛澜：人工智能安全上路，首先装好“刹车”）

红星资本局4月27日消息，“人工智能必须装上‘刹车’再上路。”清华大学苏世民书院院长、清华大学人工智能国际治理研究院院长薛澜在26日召开的在2024中关村论坛年会——数据安全治理与发展论坛上表示，“刹车”指的是针对技术风险的治理体系，生成式人工智能的使用过程中，需要防止一些滥用、误用和恶用的行为。

会后薛澜接受媒体采访时表示，这套治理体系分为三个层次——上层就是国家新一代人工智能治理专业委员会在2019年发布的《新一代人工智能治理原则——发展负责任的人工智能》和2021年发布的《新一代人工智能伦理规范》，不论是技术开发商、技术应用商还是社会公民都应当遵守的一些基础原则。中层就是针对人工智能具体领域的具体法律法规，比如2023年发布的《生成式人工智能服务管理暂行办法》等。下层就是鼓励企业加强内部机制建设，成立伦理委员会等。

薛澜在论坛

安装好刹车，出台各项法律法规，并非意味着人工智能至此能够安全上路。“我们特别鼓励企业自身加强自己内部的机制建设，这非常关键。另一方面也需要全社会的公众监督。”薛澜说。

各国对人工智能态度各异。调查显示，超70%中国公众是持积极态度的；但在北美和欧洲，持积极态度者不到50%。他指出，总体而言，包括中国在内的许多国家对人工智能态度积极。差异很大程度上源于各国人工智能应用场景的差别。

薛澜认为，今后人工智能技术就像一个操作系统，将嵌入到各种工作平台里，“你可能都感觉不到它的存在，但是你在工作中会更加方便。”

红星新闻记者 王田

编辑 肖子琦