新一代人工智能以燎原之势在全球快速发展，将对经济、社会、军事等各领域发展产生重大而深远的影响。
在抓住人工智能这一重要发展机遇的同时，世界各国政府、企业和学术界也高度重视对人工智能发展中的各种新问题和挑战的研究与防范，尤其是与人们生活和安全息息相关的风险和威胁，如伦理道德侵犯、算法偏见和歧视、隐私泄露等。全国人大代表、中国信息通信研究院院长刘多建议，为确保人工智能安全、可靠、可控发展和广泛应用，我国需从推动人工智能与实体经济深度融合、行业和企业自律、立法、治理构架和标准制定、监测和监管手段建设等方面，全方位、分层次打造生态安全体系。
发展安全、可靠、可控的人工智能意义重大
当前，人工智能和实体经济融合发展已成为新的经济增长点和发展新动能，同时人工智能发展也引发国家安全、经济安全和人民利益全新挑战。
刘多认为，人工智能是影响面广的颠覆性技术，可能带来改变就业结构、冲击法律与社会伦理、侵犯个人隐私、挑战国际关系准则等问题，将对政府管理、经济安全和社会稳定乃至全球治理产生深远影响。
她介绍说，国外政府和科技公司已积极开展人工智能治理相关工作。政府方面，欧盟委员会2018年就发布了《可信人工智能伦理指南草案》，新加坡政府也于今年1月发布了《人工智能监管模式框架》。企业方面，微软总裁两次发文呼吁世界各国对人工智能技术和应用进行合理监管，微软和谷歌等互联网巨头都在企业内部建立了人工智能研究与应用应遵循的准则。
我国人工智能应用丰富 但面临较多挑战
我国人工智能产业和应用发展处于全球第一梯队。在产业发展方面初步形成巨头企业、中小企业、独角兽公司的多层次发展梯队。百度、阿里、华为等领先企业初步形成了覆盖芯片到平台、产品到服务、云端到终端的全面布局发展战略，商汤、寒武纪等独角兽企业以算法和芯片为突破口，拓展至智能解决方案等环节。在行业应用和产品方面，部分应用产品取得突破，应用场景丰富多样。当前，人工智能技术在安防、交通、家居等领域已有规模化的成功应用。比如，2017年我国计算机视觉技术产品的市场规模达到82.8亿元，其中以生物特征识别、人脸识别等为典型产品和应用，占据我国人工智能整体市场规模的34.9%。未来随着人工智能技术的突破和拓展，在工业互联网、生产制造、城市建设、生态环保、医疗养老等领域将会进一步向纵深发展。
人工智能在高速发展的同时，也出现了信息茧房、算法歧视、隐私泄露等问题，刘多认为主要源于三个因素：
一是尚未制定人工智能法律规范、治理准则和伦理指南。欧盟等国已针对人工智能发展过程中存在的问题和风险，有针对性地提出可信人工智能的规范与指南。我国人工智能的法律伦理研究和制定工作相对滞后。
二是我国人工智能安全政策和监管体系有待完善。目前，我国尚无专门的人工智能安全相关的法律法规，同时针对算法设计、产品开发和成果应用等全流程进行有效监管的体系也有待完善。
三是基础设施尚待完善，企业发展存在行业壁垒、数据割据等问题。在人工智能推广应用中，面临资质、数据、标准、安全评估等行业准入壁垒，影响融合领域的拓展和应用进一步深入。数据资源垄断现象较为严重，数据流通不畅，用户隐私保护缺失，关键领域数据集不足，学术领域数据集缺失，数据质量良莠不齐，市场生态尚未形成。
打造健康融合的人工智能产业生态圈
结合我国人工智能发展现状和面临的问题与挑战，刘多提出四项建议：
一是推动人工智能和实体经济深度融合应用，大力培育发展智能经济。促进人工智能同一、二、三产业深度融合，发展智能农业、智能制造、智能服务等“智能+”经济，推动产业提质增效，构建数据驱动、人机协同、跨界融合、共创分享的智能经济形态。
二是发挥联盟等生态圈作用，促进人工智能行业和企业自律。建议由相关行业组织与科研机构研究和编制行业自律公约或准则，推动人工智能领军企业带头发声响应并落实主体责任，营造良好的产业氛围。
三是加快相关法律、伦理、治理框架和标准的研究与制定。建议重点研究人工智能算法、产品和系统的安全性、公平性、数据隐私、合伦理性等，研究制定相关标准，建立伦理和治理框架，并适时提出立法建议。
四是加快监测平台建设，完善人工智能安全、可靠、可控技术监测和检测能力。建议加快各领域人工智能产品、应用与服务监测和检测能力建设，推动人工智能行业认可的产品和服务可信认证，加快解决我国人工智能标准数据测试集和测试能力滞后的问题。
