构建“以人为本”的人工智能治理体系

 近年来我国人工智能技术快速发展，技术自主性也不断提高。高度普及的移动网络终端催生了万物互联的数据技术，算力和存储从用户端向云端转移降低了步入数字生活的门槛，深刻改变了人的生产生活方式。目前人工智能已经普遍应用于社会生活的各个方面，从出行路径规划、网络购物选择到知识内容获取、信贷申请审批，人工智能也在改变人类惯常的决策方式，但在提高效率的同时也带来了系统性的问题，比如人工智能技术不够安全、稳定，影响了系统的可靠性；人工智能决策目标单一，难以满足多元的社会需求；人工智能使用的数据和模型复杂不透明，结果难以解释等。
　　揭开人工智能的面纱，不断解决其发展应用中的诸多挑战和问题，是人类社会的共识。我国近年来不断加强对人工智能治理的要求，结合我国实际情况出台了《新一代人工智能伦理规范》《关于加强科技伦理治理的意见》《互联网信息服务算法推荐管理规定》等一系列政策规范，确立了我国人工智能伦理治理的核心目标和基本原则，创设并完善了人工智能影响评估、备案、分级分类等治理管理工具，引导科技企业评估人工智能技术研发应用风险，健全全生命周期伦理治理体系，为社会提供更为安全、更负责任的人工智能产品服务。
　　帮助提高人的劳动效率，增加劳动价值。人工智能技术本身处在快速发展的过程之中，从专家系统到深度学习、从有监督学习到无监督的自主学习，机器在不断模拟人类智能的过程中智能化水平不断提高，对人的劳动方式和价值实现产生了影响。一方面，人工智能创造了新的生产生活方式，促进了职业模式的创新，新业态的产生带来了新的就业机会。比如，通过人工智能技术对分散的劳动资源进行线上化整合和实时性调度，催生了网约车司机、外卖配送员等新职业，通过连接消费者、商户建设起共享性的零工经济，但新的劳动生产方式也带来了劳动保障不足、劳动权益被忽视等问题。另一方面，人工智能降低了知识获取和利用的门槛，对部分传统劳动产生挤出效应和替代效果，例如自然语言学习算法的不断优化让人工智能系统的语音转译、外语翻译能力有了显著提升，目前线上会议软件已经实现了实时记录和翻译功能，提高了对会议内容的记录效率，但也一定程度上降低了对速记、翻译等人员的需求。总体来看，人工智能技术目前在创造性、感知性等方面和人类智能还有较大的差距，完全替代人类的强人工智能尚不具备可能。但人工智能技术会持续影响人类的知识学习和生产工作方式。一是人工智能技术的发展可能将替代部分重复性高、规律性强的人类劳动；二是创造新的、非传统的工作形态，影响现有的劳动价值分配方式和劳动保障制度；三是可能扩大技术赋能与技术失能两大群体间的差距。人工智能治理需要关注其对人的劳动的替代以及对劳动价值的影响，让技术方案更便捷、友好、易用，帮助更多的人提高劳动效率；同时，进一步完善针对新就业形态的劳动保障，让人工智能驱动的劳动者享受到更为充分全面的劳动权益保障。
　　尊重人的权益，做到有克制、不伤害。随着人工智能的广泛应用，人工智能下的公共决策更加精准，人们生活更为便捷，社会效率也得到提升，但技术渗入社会生活也改变了人们的沟通交流方式，产生了一系列新问题、新挑战。一是个人隐私受到威胁。和物理空间一样，数字社会中人们的隐私也受到保护，但人工智能技术需要大量的数据进行模型训练，不加约束地收集和利用数据侵入了人们在数字社会中的隐私空间，对数字身份带来了安全风险。二是公平公正难以保障。当人工智能被用于调配生产生活资料、分配社会资源的时候，人们期待其能够做出公平、不带偏见的决定。然而受制于有限的数据分布和数据质量，以及在模型设计和部署实施中的人为错误，人工智能存在难以避免的偏差，而当被用于决定资源分配的时候，技术的偏差就可能造成结果的不公平。三是信任机制存在缺失。人工智能系统的设计、部署和应用比较复杂，机器学习更增加了技术的不透明性，给人们留下了“黑箱”的印象，普通用户很难理解人工智能系统如何做出决策，当决策影响到其权益的时候，也很难要求说明、提出申辩、获得救济，往往是被动接受而不是主动选择人工智能的决策结果。
　　人工智能治理需要重点关注人工智能对隐私、公平的侵犯，提高人工智能技术的透明度，让包括数据使用、模型设计、影响评估等在内的人工智能决策过程更清晰、可解释，为人们提供沟通反馈的渠道、并对产生的负面效果提供及时充分有效的救济，变人工智能“黑箱”为好用、受信任的“工具箱”。
　　促进社会包容可持续发展。当人工智能成为人类社会生产生活的基本工具，除了考虑此项技术当前的问题，还需面向未来，探讨其在中长期对人的生存和发展带来的影响。在环境保护方面，人工智能技术可以让能源的生产和使用符合可持续发展目标要求，比如通过控制物联网设备实现实时的能源消耗调节，帮助创建更为智慧和低碳的城市；通过智能电网整合可再生能源，实现更为稳定的替代电能供应；利用图像识别技术实时监控分析卫星图，确定荒漠化和海洋污染情况，并提出针对性的方案。但同时，人工智能技术的发展也推高了能源消耗，比如适用于自然语言处理的预训练大模型，在训练过程中算力消耗较大，带来了过多的碳排放。在人的发展方面，人工智能以及更为广义的数据智能改变了人认识和理解世界的方法，在不同的领域驱动新的创新和创造。目前在医学领域，通过人工智能设计药物分子式、预测药物的理化性质和生物活性，节约了大量的实验成本，而图像识别技术应用于医学影像分析也会大大提高了诊疗的准确性。在文化领域，人工智能创作音乐、影视作品的艺术表现力不断提高。但上述应用对药物研发和诊疗监管、知识产权等针对创新活动的监管制度也带来了挑战，以人的创新为对象的治理体系难以适配人工智能驱动的创新。因此，从长期来看，人工智能的发展需要充分考虑可持续发展目标、推动创新创造，人工智能的开发使用者应当主动承担社会责任，让技术应用服务更为先进的生产力；另一方面，也需要调整现有制度，以适应人工智能对人的生产发展带来的积极改变。
　　构建“以人为本”的人工智能治理体系，让人工智能坚持以人为中心的价值目标，需要多方协同、共商共治。政府应当做好顶层设计，确定人工智能发展的价值目标和治理的总体要求，加强对影响隐私、公平等权益的人工智能的监督管理，在劳动保障、环境保护、知识创新等方面引导人工智能的发展方向。企业应该强化审慎自律，加强人工智能伦理教育培训，对人工智能进行全生命周期管理，防范人工智能对人带来的各种风险，开发和利用更负责任的人工智能。社会应当增进对人工智能技术的理解，对人工智能治理形成共识，积极反馈意见、提供建议，让每一个人成为人工智能的使用者、受益者，也让每一个人成为人工智能的设计者、治理者。

（责编：赵珊）