(以下内容从海通国际《中国科技战略:AIGC迭代迅速,OpenAI建议规范AI监管》研报附件原文摘录)
事件
5月16日,美国国会召开主题为“AI监管:人工智能规则的听证会”,首次对OpenAI创始人SamAltman质询,ChatGPT和其他生成式AI工具的不断出现引发了美国立法者对AI安全的担忧,参议院表示该场听证会开启了对人工智能先进算法和强大技术的监督和阐释工作。
点评
AI技术监管意义重大,Altman建议引进监管机制。在听证会上,Altman表示AI技术的迅速发展无疑将会增加潜在风险和滥用,可能对世界造成的重大伤害,他认为加强AI技术监管,并引入政府监管在确保AI技术负责任的发展方面是十分重要的。此外,在监管措施方面,Altman还提出了一个成体系的有准备的方案:1)成立一个新的政府机构,负责LLM的授权,同时也有权撤销不符合标准公司的许可证;2)为AI模型建立一套安全标准,对其危险性进行评估;3)需要独立专家对模型的各个指标进行独立评估。我们认为Altman对技术的担忧是合理的,只有制定相关监管措施,才能确保AI的安全和道德的发展。
AI集中度提高有利有弊,OpenAI或将涉足广告业务。在听证会中,议员对于企业在AI领域的高度集中和垄断表示担忧,但是Altman指出,目前只有少数的供应商能制造生成式AI大模型,但是在AI领域的竞争是足够的。集中度的提高有利有弊,虽然增加了垄断风险但是因为真正需要密切关注的目标较少,所以反而易于监管。我们认为,AI领域具备很强的潜在多样性和创新性,因此如果使用不当破坏性也是巨大,将风险控制在少数公司上或许有利于AI技术的发展。此外,Altman还提到,OpenAI有可能涉足广告业务,虽然他个人喜欢订阅模式,且广告模式不适用于AI系统,但存在潜在客户只接受广告模式的情况。他认为AI不会重蹈社交网络和算法推荐的覆辙,OpenAI在探索商业模式时将更注重用户订阅和价值交换,而非依赖广告收入。
推动AI技术全球合作,加强监管和规范化。面对议员提出的AI是否会像社交媒体一样成为新的数字殖民工具,Altman提到OpenAI关注并致力于推动AI技术的全球化和包容性发展,最新版本的ChatGPT在支持多种语言方面已经取得了很大进展,OpenAI愿意与合作伙伴合作,将更多小语种纳入模型。此外,Altman认为美国1996通过的针对社交媒体的条款已经不适用于人工智能,他主张建立类似国际原子能机构的组织,旨在为AI制定全球规则,以确保其安全和可持续性发展。
风险
人工智能发展不及预期;政策风险等。
相关附件