生成式人工智能：以人为本，智能向善

随着ChatGPT、Sora、自动驾驶等前沿技术走进公众视野，理论概念转换为实际生产生活的推动力，成为动动手指就能直接触达的高科技，服务人们的日常生活和工作。人工智能技术日新月异，为各行各业提质赋能，成为全民热议的话题。很多人已经体验过人工智能的高效与便利，但仍对此一知半解。党的二十届三中全会指出，完善生成式人工智能发展和管理机制。对此，本刊特邀安徽大学党委副书记、校长，安徽省科学技术协会副主席孙长银进行解读。

 

 

记者：按照基础模型划分，人工智能主要有两大类：决策式AI和生成式AI。党的二十届三中全会通过的《中共中央关于进一步全面深化改革、推进中国式现代化的决定》为什么要特别强调“生成式人工智能”？

孙长银：生成式人工智能是基于机器学习技术，通过对大量数据的学习来生成新的数据和内容的人工智能技术或系统。从内容生成的角度来说，以前的内容生成方式是专业工作者经过专业采编、撰写和发布生成的内容（例如书籍、新闻和报纸）；到了移动互联网时代，用户生成内容（例如互联网用户撰写和发布的信息）成为主流方式之一；进入人工智能时代，生成式人工智能可基于海量训练数据和大规模预训练模型，按指定要求自动生成创建文本、音频、图像、视频以及跨模态信息，生成方式简单，潜在价值巨大，但质量参差不齐。

党的二十届三中全会特别强调“生成式人工智能”，我个人认为，因为生成式人工智能既是新质生产力，也是生成新质生产力的重要工具，还是发动新型生产关系生成的引擎。以内容生成为例，生成式人工智能通过知识流程自动化和大规模人力组织智能化（如众包、众筹等）手段，缩短了需求侧和供给侧的时空距离，显著提高了生产效率。同时，它具备创造多模态（如文本、图像、音频和视频等）新内容的能力，这使得它既是新质内容的生产力又是新质内容的生产工具。再者，生成式人工智能通过数据、算法和算力的集成创新，连接产品或服务，形成新生产模式、新服务方式、新运营模式的新路径。因此，生成式人工智能通过智能采集数据和自动生成内容的技术优势，可进一步激活数据要素潜能、推动数据要素市场化、加速数字经济与实体经济的深度融合，为经济高质量发展注入强劲动力。

记者：当前，生成式人工智能在图文、音视频等领域大放异彩，产业前景广受看好，未来还有哪些发展趋势？

孙长银：生成式人工智能有望在新材料和新物质发现、新药物和新型蛋白质合成、新型工艺设计等科学研究领域发挥重要作用，加速科学发现、疾病诊断、药物研发和研发成果验证。安徽大学新成立的智能学部，就是要通过多学院和多平台的支撑联动、交叉融合，寻找新的理论方法，研究智能产生的机理，探索其场景应用潜力，为支撑国家和地方重大需要做好储备。

新技术的普及对相关人才的需求会快速增加，也对当下的教育方式产生巨大冲击。生成式人工智能将促使传统的以知识传授为主的教学模式向启发式、探究式、合作式师生互动教学模式转变，既能为老师根据学生的学习数据生成个性化的教学内容、提供教学效率和质量实时评估与反馈创造潜在的实现路径，又能应用于虚拟教师和智能辅导系统，为学生提供24小时的学习支持和即时反馈。安徽大学在2022年12月成立的元宇宙系，结合生成式人工智能技术为学生提供虚实互动、沉浸式、具身化的模拟学习环境和场景，通过数字教师人工智能 Agent来实现与学生的轻松友好互动，进而提高学生主动提问、延伸探索、联想学习的意愿，为创新并研究新时代新型教学模式提供了基础平台。

 

 

记者：生成式人工智能对人类劳动方式、生产形式、创新能力、知识结构带来前所未有的冲击。新技术变革浪潮中，机遇与挑战并存。我们应该如何直面挑战？

孙长银：教育和培训是关键。政府和企业应加强对高校探索新型育人模式的支持，加强产教融合实践教材、课程、平台的体系化建设，提供专业再培训与职业转型的渠道。这也是贯彻落实教育、科技、人才一体化统筹建设的有力举措。教育机构需更新教学方式和培训方法，强化终身学习理念，提升劳动者服务社会和产业发展的能力。企业为教育机构的人才培养提供试验和实践平台支撑，一方面为人才面向产业发展来思考技术攻关需求提供启发，另一方面为人才磨炼意志、锻炼能力、增强本领提供环境。具身智能，就强调机器人通过与物理环境交互学习、增强自身执行任务的智能。人的学习和成长应有异曲同工之处，也要在实践环境中摸索，提高自身解决问题的本领。

生成式人工智能的广泛运用，降低了内容生成的门槛、成本和难度，为大众创新、万众创业提供低成本的智能技术工具，也为内容的质量管理、传播管控带来新的挑战。

以人工智能生成内容为例，可能出现语法错误、逻辑混乱或内容偏离主题的问题，例如“林黛玉倒拔垂杨柳”的无稽之谈；而且可能继承训练数据中的偏见，导致生成的内容带有主观色彩或不准确的信息；还有可能被用于制造虚假信息、煽动公众情绪等负面活动，产生不良影响。因此，生成式人工智能技术在对一部分岗位造成冲击的同时，也会产生一些新的岗位，如人工智能内容审核员、模型训练师和算法伦理审查员等。与此同时，个人可以通过使用人工智能创作工具快速输出高质量的内容或创意，开启全新就业机会。

 

 

记者：生成式人工智能重塑了资源整合、信息生成和使用范式，在促进社会进步的同时，也引发了数据安全、知识产权、社会伦理等风险问题。我们应该从哪些方面加强治理，才能确保这项技术安全、可靠、可控？

孙长银：科学技术本身没有利害之分，其创造的价值取决于使用者的道德和伦理观念。但科技的双刃剑效应也提醒我们，必须始终秉持“以人为本，智能向善”。

生成式人工智能通常基于深度学习和神经网络，这些模型的内部运作过程非常复杂且不透明，难以直观展示其决策过程且不可解释，因此又被称为“黑盒”模型。这样的不可解释性会对其应用和管理产生多方面挑战，为社会发展和安全埋下隐患。以安徽大学为依托建立的自主无人系统技术教育部工程中心，就致力于研发并构建安全可信可靠的人工智能方法和系统。我们在2022年获批了安徽省安全人工智能实验室，这是省内首个聚焦“安全人工智能”的省实验室，目前在可解释的人工智能方法、类人智能决策、类脑神经网络模型等方面取得了一系列成果，服务了省内外智能网联汽车、智能制造、智能交通等领域众多企业的智能化升级。

此外，生成式人工智能涉及大量敏感数据的收集和使用，可能导致数据泄露和滥用，威胁国家安全和个人隐私。在艺术创作和文学作品领域，生成式人工智能导致的侵权行为难以界定和追责。社会伦理方面，人工智能生成的虚假信息和深度伪造技术可能误导公众，破坏社会信任体系，带来意识形态方面的风险。

目前，全球多个国家和地区都在探索制定相关法律法规，以应对生成式人工智能带来的挑战。欧盟通过的《人工智能法案》是全球首部全面规范人工智能产业的综合性法律文件，该法案采用风险等级为基础的监管模式，并对不同风险等级提出差异化的合规要求。英国议会发布有关人工智能技术在工作场所使用的立法草案，制定五项原则指导人工智能监管，包括防止算法歧视和要求算法透明度。中国出台的《生成式人工智能服务管理暂行办法》是全球首个针对生成式人工智能做出迅速反应的法律，明确了生成式人工智能服务提供者的行为规范，涉及网络安全、数据隐私保护等内容，并引入了监管沙盒机制以减少创新障碍。

各国在生成式人工智能的监管上采取了不同策略，但普遍强调了风险分级管理、透明度要求以及对高风险应用的严格控制。这些探索不仅有助于防范潜在风险，也为全球生成式人工智能的健康发展提供了重要的参考和借鉴。

 

（《人民周刊》2024年第23期）

（责编：张若涵）