加急见刊

重视人工智能发展中的安全与治理

何积丰 中国工程院

摘要:人工智能作为引领未来的战略性技术,近年来随着海量可用数据的产生、算力提高与算法的优化,其在理论前沿、技术研发和产业落地均有不小的突破。随之而来的是,人工智能在国家安全、政治秩序、经济发展、国际格局、社会治理等各个领域的影响愈发强烈,治理与安全议题的重要性日益提升。作为颠覆性新兴技术的代表,人工智能的“双刃剑”影响是其与生俱来的特性,拥有广泛可期的发展前景,并革新了人类发展理念和路径,同时也带来了复杂泛化的风险挑战。因此,为保证人工智能健康发展,应对技术进步的外溢风险,抢占未来科技高地,必须兼顾发展与安全,加强安全与治理的前瞻性研究,才能在人工智能发展浪潮和竞争格局中赢得主动。本期专题汇集了上海“新一代人工智能治理准则”专家研讨会的主要成果,通过剖析我国人工智能安全与治理方面存在主要问题,对美、英、欧、日等主要国家在人工智能安全领域政策发展的对比、战略倾向的作出研判,解读我国人工智能安全与治理发展模式应有的要素和关切,并从顶层布局、制度机制、未来法治、原则标准、技术发展等不同视域对我国推进人工智能安全与治理工作进行了思考和探索。

注: 保护知识产权,如需阅读全文请联系信息安全与通信保密杂志社