ChatGPT人工智能技术发展对经济社会的影响、挑战及威胁

　　ChatGPT作为新一代人工智能技术，将深刻地影响人类的经济和社会发展。本文分析了ChatGPT在人工智能产业、劳动力与就业、教育、以及科学研究和科技伦理等多个领域的发展机遇与挑战。研究认为，ChatGPT加速了生成式AI布局、劳动力市场结构演进和教育体系重塑，但与此同时也带来了科技与学术伦理、价值渗透、信息泄露等问题。此外，ChatGPT也存在着潜在威胁，其快速产业应用给传统产业带来了难以估量的“调整成本”，相应的认知污染可能会引发知识和价值观偏差。为充分利用好ChatGPT带来的发展红利，加速各种应用场景落地，并防范其可能引发诸多冲击和风险，本文最后亦提出了系列政策建议。

　　As a new generation of AI technology, ChatGPT will profoundly affect human economic and social development. This paper analyzes the opportunities and challenges of ChatGPT for the development of the AI industry, workforce and employment, education, as well as scientific research and ethics in science and technology. The study concludes that ChatGPT accelerates the generative AI layout, the evolution of the labor market structure, and the reshaping of the education system. However, at the same time, ChatGPT also brings about the problems of ethics in science and technology, value penetration, information leakage, and so on. In addition, there are potential threats to ChatGPT. The rapid industrial application brings incalculable “adjustment costs” to traditional industries, cognitive pollutionleads to deviations in knowledge and values, and the vacuum generated by the existing social moral and legal system brings risks to social stability. To make full use of the development dividend brought by ChatGPT, accelerate the implementation of various application scenarios, and prevent them from causing many shocks and risks, this paper makes a series of policy recommendations: promote the development of the new generation of AI industry, improve the regulatory regulation of the new generation of AI technology.

一、引言

　　自2010年起，社会技术革新进程日益加快，人工智能领域呈现出飞速发展和应用逐步广泛的态势（何哲，2016）。以新一代信息技术为支撑的人工智能正逐渐成为新时代产业革命与社会经济发展的新型支撑力量。学界已有大量研究表明人工智能对经济增长、生产率与技术创新、劳动力市场、收入分配、市场结构与产业组织、法律规则与法律秩序等诸多方面产生着影响（Autor等，2003；Acemoglu & Restrepo，2020；Acemoglu等，2022；Fumagalli等，2022；吴汉东，2017；曹静和周亚林，2018；陈彦斌等，2019）。2022年11月30日，美国人工智能公司OpenAI发布的ChatGPT以其“对话式”的直接互动方式及“人性化”的语言文本服务让人们进一步感受到人工智能的魅力，打破了对于生成式人工智能技术的传统认知。仅在发布短短两个月后，ChatGPT的月活跃用户数已达一亿，成为史上用户数增长最快的消费者应用。ChatGPT的出现掀起了人工智能技术投资与发展的浪潮，改变了现有的产业格局，给传统产业带来了强烈的冲击和重大的发展机遇。那么，ChatGPT作为一种广泛影响人类经济生活的新一代人工智能技术，应该采取何种政策加以规范和引导正逐渐成为重要的研究问题。

　　从现有的研究成果来看，国内外学者已经就ChatGPT对科学研究方面的影响进行了探究。Bert Gordijn等（2023）认为ChatGPT的发明可能会提升科研人员的工作效率。例如，当学者们文思枯竭时可以将ChatGPT作为一种工具或一种搜索引擎，甚至可以让ChatGPT作为讨论者加入这场头脑风暴，在碰撞中产生新的思想火花，提升科研工作的效率。进一步，Eva等（2023）发现已有研究人员使用这种对话式的人工智能来进行统计分析、总结文献内容以及撰写论文和演讲内容，加速了创新进程，缩短发表时间，帮助人们更流畅地写作。然而，ChatGPT带来机遇的同时，也使人类暴露于诸多危险与挑战中。ChatGPT作为“非人类”，无法拥有人的思考能力以及道德伦理观念，它所需要的是源源不断大数据的“滋养”，进而“消化吸收”，在不断读取数据的过程中训练其深度学习的能力。一方面，ChatGPT所生成的文本内容容易出错。例如，它可能会编造并不存在的文献，且输出内容冗长重复（Gordijn& Have，2023），这会降低研究的质量以及透明度，从根本上改变科研人员自主性（Eva等，2023），使得科学研究结果不再可靠。另一方面，ChatGPT输出的文本内容又很难被识别。研究人员将ChatGPT所生成的摘要送去评审时，仅有63%的内容被审稿人识别（Thorp，2023），这必然会影响所发文章的科学性与公正性。同时，ChatGPT在引用文章回答用户问题时，是否会侵犯被引用文章作者的权利？ChatGPT能否作为文章写作的工具？倘若作者使用ChatGPT是否需要将生成内容标注等等？这些都是需要进一步深刻思考的问题。此外，ChatGPT的“爆红”有极大可能改变甚至颠覆人们的生存与交往方式，重新塑造社会的资源分配方式。然而，由于ChatGPT推出时间较短，目前鲜有研究系统剖析ChatGPT对经济和社会发展的影响，更未系统讨论ChatGPT的潜在威胁，以及政府应采取的监管对策。

　　在上述背景下，本文基于以ChatGPT技术冲击为切入点，从传统人工智能产业、劳动力与就业、教育以及科学研究与科技伦理四个方面进行探讨，探究新一代人工智能技术发展对经济与社会的影响。本文研究认为，ChatGPT加速了生成式AI布局的同时也可能对传统人工智能产业的生存造成打击并引发伦理与安全挑战；在劳动力与就业方面，ChatGPT的出现对不同技能劳动者的影响是不同的，中等技能劳动者受到影响较大，而高等和低等技能劳动者受到影响相对较小；在教育方面，ChatGPT对教育体系的冲击加速了人们对教育方式、教育侧重点和教育评价的思考；在科学研究与科技伦理方面，由于ChatGPT生成的学术研究不满足严谨性和科学性，从而助长了虚假信息传播和剽窃抄袭等行为并影响了整个学术生态。同时，ChatGPT创建者的大型企业利用技术的垄断也带来了科技伦理问题和价值渗透问题。最后，本文也分析了ChatGPT对社会运行机制、社会安全和社会主体层面的潜在威胁，展望了ChatGPT自身技术的完善和应用场景的落地，并提出了相应的监管政策建议。

　　与国内外既有文献相比，本文的主要贡献体现如下：一方面，开拓了ChatGPT对经济和社会等方面影响的探索。已有文献主要集中在ChatGPT对科学研究的影响方面，而本文则从人工智能产业、劳动力与就业、教育以及科学研究等诸多方面分析了ChatGPT所带来的影响，讨论AI行业中科技哲学及伦理问题，分析了ChatGPT对于经济和社会潜在的威胁及未来发展趋势，并对这种潜在的颠覆性技术的影响讨论应对策略。另一方面，以ChatGPT为研究对象，本文拓宽了人工智能领域对经济和社会影响的研究视角。ChatGPT作为新一代生成式人工智能产品，对它的研究将会进一步丰富人工智能领域的相关文献，从而对新一代人工智能领域所带来的产业发展空间具有启发意义，对人工智能监管模式变革具有政策参考价值。

　　本文余下部分的结构安排为：第二部分对ChatGPT的概念及其发展脉络进行梳理；第三部分在总结前人的观点的基础上，从传统人工智能行业、劳动力与就业、教育行业等方面探讨ChatGPT带来的机遇，以及可能造成的产业冲击；第四部分则进一步分析了ChatGPT的潜在威胁与未来发展趋势；第五部分在上述内容基础上，结合以往的相关政策文件，提出针对类似ChatGPT的人工智能监管的可行性建议。

二、ChatGPT概念与主要特征

　　ChatGPT（Chat Generative Pre-trained Transformer）的中文全称为生成型预训练变换模型。它是美国人工智能研究实验室OpenAI于2022年11月30日发布研发的聊天机器人程序，使用了Transformer神经网络架构（GPT-3.5架构）。ChatGPT是一款人工智能技术驱动的自然语言处理工具，通过海量数据存储和高效设计架构理解和解读用户请求，可以以近乎人类自然语言的方式生成具有“较高复杂度的回应文本”，甚至能完成撰写、视频脚本、文案、机器翻译、分类、代码生成、对话AI等任务。ChatGPT的原理是在GPT3.5 的基础上增加了人类反馈强化模型，使用人类偏好作为奖励信号来微调模型，并引入“人工标注数据+强化学习”来反复训练（令小雄等，2023）。与传统人工智能技术相比，ChatGPT代表了未来人工智能的发展趋势，它可以基于大数据集自己生成内容，在语言能力、语言风格、论证效力及思想深度上赋予了新一代人工智能技术的鲜明特征。

　　第一，在语言能力方面，ChatGPT的可互动性是基于OpenAI公司开发的GPT-3架构的大型语言模型LLM（Large Language Model）。通过在大量的文本数据上进行预训练，ChatGPT可以实现出色的语言理解能力，生成更自然、更流畅的文本。同时，基于人类反馈的强化学习模型和微调技术，ChatGPT能够有效记忆所有历史对话，从而可以显著提升连续多轮对话的能力。然而，普通人工智能机器人大多使用的是基于规则的模型或基于机器学习的模型。基于规则的模型通常需要手动编写大量的规则，对特定的问题和回答进行匹配，因此训练效率低、准确率差、连续对话能力弱。在普通的人工智能对话系统中，经多轮对话后，话题的一致性难以保障。相对比而言，ChatGPT在理解准确度、用户意图有效捕捉、连续对话能力等核心功能显著提升，并敢于质疑人类提问的不正确及承认回答中的错误。作为“人机互动”的辅助工具，ChatGPT具有更高的适应性，其语言理解和生成水平的便捷性能够更快更好地回答客户问题，能够广泛应用于业界和客户服务，在教育、医疗、媒介、法律等领域发挥重要作用。

　　第二，在语言风格方面，ChatGPT基于强大的自然语言生成式模型，其训练的“自然语言处理”（NLP）模型使ChatGPT具有拟人化风格，为提供各种灵活性话术、更人性化风格的语言文本服务赋能（令小雄等，2023）。普通的人工智能机器人语言表达方面具有“非自然语言生成式”特点，其语言风格呈现出明显的僵硬化和机械化，不便于同人类的交流与合作。相比于普通的人工智能，ChatGPT克服了以往人工智能语言非人化的缺点，能够提供更加自然、人性化的对话体验，被称为“有史以来向公众发布的最好的人工智能聊天机器人”。但是，ChatGPT在涉及人类情感细微之处的理解或措辞的使用方面还并不准确，整体语言风格也缺乏个性化，更像是多种混合的中性风格。ChatGPT表现的语言趋同化或同质化将对语言伦理产生影响。

　　第三，在论证效力方面，ChatGPT在以往大语言模型的基础上，其语料库中构建了逻辑模型或数理模型。通过使用更高的计算资源，ChatGPT在回答逻辑推理相关的问题时能够展示出较详细的逻辑推理步骤和推理结果。普通人工智能论证能力的实现，本质上是通过大量参数模型对海量数据进行拟合，按照固定的程序运行，其严重依赖于数据。如果训练集中尚未存在某种情况，普通的人工智能很难对此展现出逻辑思考能力。因此，ChatGPT获得了比普通人工智能更高的计算能力、准确性和逻辑上的连贯性。但由于技术盲区限制，ChatGPT目前仍然是深度学习模型，仅仅学会了推理的表面逻辑，不具备较强的逻辑推理能力和因果关系的数理运算能力。ChatGPT只能依靠语料库驱动中的概率匹配，在相近数据中得出一个估计值。因此，在基本的四则运算中ChatGPT还经常出错。

　　第四，在思想深度方面，ChatGPT是基于各知识领域数据库和在巨大的文本语料库基础上进行预训练的大型语言模型。ChatGPT基于的是内在逻辑，具备“思考”或深度学习能力。基于训练数据库和模型结构的自动学习生成能力，语料库可以无限扩充，ChatGPT的学习力和涉猎认知范围将不断增加，拥有“举一反三”的能力。因此，ChatGPT的思考或计算的样本范围极具庞大。然而，普通人工智能在复杂问题理解方面还不具备与人类近似或同等的智能行为，只能通过“喂养”大量数据之后，基于对应关系进行 “模仿”。如果没有按照人工智能习惯的方式进行提问，普通人工智能其回答往往答非所问。此外，ChatGPT还拥有上下文矫正的能力，即ChatGPT被指出问题后会立刻意识到问题所在，并及时准确地修正相关信息。然而，以往的人工智能尚未拥有交互修正能力的通用模型。但是，ChatGPT只是在庞大的语料库基础上通过深度学习实现仿风格化，在创作时有“抄袭”痕迹（令小雄等，2023）。

三、ChatGPT对于经济和社会的机遇与挑战

（一）对人工智能产业的影响

　　ChatGPT的推出被视为人工智能技术历史上的重要里程碑，其以强大的算力支撑，从量变走向质变，达到了当前AI技术的巅峰水平。正是由于ChatGPT所具有的重要意义，国内外巨头纷纷加快了针对以ChatGPT为代表的生成式AI的布局，加速了AI智能化时代的进一步推进。这一进程为人工智能产业带来了机遇，但同时也伴随着许多未知的风险。

1. 机遇：加速了AI时代，促进国内外科技巨头积极布局生成式AI

　　ChatGPT将人机对话推向了新的高度的同时，也为推动人工智能产业的发展走向新篇章带来机遇。国内外科技巨头纷纷展开新一轮AI竞赛，积极布局生成式AI。ChatGPT模型的研发主要基于强大算力和资金支持，OpenAI研发的GPT-1在18年仅有1.17亿参数而到2020年的GPT-3就实现了1750亿参数量。在OpenAI基础上，国内科研团队也相继推出了许多大型模型。例如，由清华大学联合智谱AI于2022年发布的中英双语模型 GLM-130B，参数规模为1300亿参数，已经达到了GPT-3的水平。据慧博智能投研中所公布的 Pitch Book 统计数据，2022 年生成式 AI 赛道总共获得约 14 亿美元的融资，几乎达到了过去5年的总和。除了OpenAI、Stability AI等明星公司，其他初创企业如Jasper、Regie.AI、Replika等也获得了资本关注和支持，获得上亿美元的融资。

　　在ChatGPT的应用探索中，微软公司作为OpenAI的最大投资方也是最大受益方，开始围绕ChatGPT，将其整合入旗下所有产品中（例如，Bing引擎、Office全家桶等），以扩大产品竞争力，实现多种应用场景的落地。亚马逊公司已经将ChatGPT集成在多种工作职能中。Jasper公司通过采用OpenAI下的GPT-3作为技术底层，提供高质量文本内容。美国新媒体巨头Buzzfeed也在ChatGPT浪潮的风口上宣布计划采用ChatGPT协助内容创作等。

………………

　　ChatGPT新一代人工智能技术发展的经济和社会影响 PDF 完整版下载（文字可复制）：

https://www.aliyundrive.com/s/8fnM1Vgraxt 提取码: 9z8m