大模型将重塑人工智能产业 发展与治理同步推进

       人工智能已经成为新一轮科技革命和产业变革的重要驱动力。以预训练大模型引领的人工智能创新浪潮呼啸而来。“大模型将重塑人工智能产业链竞争格局。”国家工业信息安全发展研究中心人工智能所副所长刘永东表示，“大模型正处于快速发展的窗口期，同时也暴露出诸多安全隐患，引发热议和担忧，还需不断完善针对性的监管政策，做到发展与治理‘同谋划、同布局’。”

                   

  

       7月2日，以“智能涌现，重塑未来”为主题的2023全球数字经济大会人工智能高峰论坛在京举办。刘永东在论坛间隙接受记者采访时如此表述。

  类ChatGPT产品正不断涌现，标志着大模型时代正在来临。北京市经济和信息化局党组书记、局长姜广智在当日论坛致辞中表示，人工智能产业风头正劲，迄今已有八十余个大模型公开发布，其中北京约占一半。大模型产品数量众多，百度、腾讯、华为、阿里、商汤、科大讯飞、360等企业和清华大学、智源研究院、浦江实验室等高校和科研机构相继推出了大模型产品或解决方案。360集团创始人周鸿祎在论坛上表示，大模型在城市、行业、企业数字化转型到智能化的过程中大有可为，进化迭代刚刚开始，相信未来会成为数字化系统的标配。未来可能不是“百模大战”，而是“万模群舞”。

 

  刘永东认为，以ChatGPT为代表的生成式人工智能将推动跨时代的范式变革。它提供了人工智能商业化落地新范式，可以为各个领域带来巨大的生产力提升，引发行业重要升级，提振了产业信心。多模态预训练大模型将成为人工智能基础设施。“多模态大模型将成为具有泛化能力的模型底座、不同领域的共性平台技术，成为迈向通用人工智能的重要探索，也是解决人工智能应用落地所面临的需求碎片化、多样化等问题的有效解决方式。”

 

  刘永东强调，大模型将重塑人工智能产业链竞争格局。一是开发范式变革，逐渐形成围绕大模型结合特定领域模型微调的方式，打造垂直应用模型，科技巨头围绕大模型的生态竞争加剧。二是挤占技术层企业生存空间。生成式大模型的出现严重冲击了以人工智能单一算法开发为主的初创企业，如图像识别、语音识别等。

 

  “与此同时，我们也应关注到大模型带来的挑战。”刘永东表示，一是训练大模型所需的算力资源被科技巨头掌控，在新一轮竞争中筑起较高的行业壁垒。二是训练大模型所需的高质量数据集匮乏，大模型所需的数据资源掌握在传统行业巨头和行业协会手中，需统筹行业力量加大开源数据集的建设力度。三是人工智能安全治理面临的挑战加剧，需不断完善有针对性的监管政策，做到发展与治理“同谋划、同布局”。

 

  刘永东介绍，大模型具有算法不透明、数据强依赖、易被滥用等人工智能固有的风险，与其平台性、易使用、超能力等特点相互交织，风险快速传递并极速放大。敏感数据泄露、虚假信息生成、漏洞攻击加剧等安全风险频现，给人工智能治理带来新挑战，引发热议和担忧，多个国家和地区已经着手研究和探索应对举措。

 

  “如何对具有生成式特征的大模型进行监管，以确保其发展符合公共利益，已成为全球人工智能治理的新课题。”刘永东称。当日论坛上，清华大学计算机系长聘教授、人工智能研究院副院长朱军介绍，大模型在安全方面的问题表现为数据泄露、算法偏见、虚假信息等多个方面，需要有相应的防范措施。周鸿祎也认为，大模型产业化方案需要遵循安全、可信、可控的原则。

 

  刘永东表示，国家工业信息安全发展研究中心正联合有关单位共同发起人工智能可信安全护航计划，探索人工智能安全可信管理解决方案，护航大模型健康良性发展。该中心建议要明确各方责任，加强安全技术，推动行业自律，强化宣传引导，坚持“以人为本”的初心，积极参与全球监管规则建立。