ChatGPT时代的制度重构与风险规制

　　ChatGPT的风靡不仅引发全球对人工智能技术发展的广泛热议，也让我们开始关注并思考ChatGPT时代的制度重构与风险规制。早在阿尔法围棋（AlphaGo）面世时，人工智能就对人类认识造成了巨大冲击。2016年3月，AlphaGo与围棋世界冠军、职业九段棋手李世石进行对战，以4比1的总比分获胜，同年年末又在中国棋类网站上与中日韩数十位围棋高手进行快棋对决，连续60局无一败绩，次年5月，它与排名世界第一的世界围棋冠军柯洁对战，又以3比0的总比分获胜。围棋界公认，阿尔法围棋的棋力已经超过人类职业围棋顶尖水平。作为问答界的“AlphaGo”，ChatGPT的到来也引发了同样的拷问：ChatGPT究竟是福是祸，未来该何去何从，如何为我所用？随着人工智能技术的迭代发展和进步，“智能”是否会取代“人工”？

　　针对这些议题，我们需要审视ChatGPT带来的变革与风险，探讨ChatGPT时代的制度重构，并思考如何合理管控ChatGPT的应用边界。

一、现实情境：ChatGPT时代的机遇与挑战

　　从原理来看，ChatGPT对知识来源进行机器学习（消化、吸收），在算力支撑下形成知识关联、交互，最后生成文本，其文本追溯来源是人类在互联网上积累的文本。在一定程度上，ChatGPT是全能型复合“人才”，能够极大强化人类的生物计算能力，具有解放重复性脑力和机械工业系统的潜力，可以部分或完全替代知识蓝领和知识密集型产品行业人员。由于ChatGPT采取的是嵌入式运行模式，不改变人类既有的生产方式和生活方式，成本低且应用范围广，可以带来不同行业生产关系的范式变革，相应的AI提携可以衍生多种商业模式，具有很强的经济性特征，是人类发展过程中的颠覆性产品，也是人类对客观世界螺旋式认知进阶的重要标志，具有类似里程碑式的价值。ChatGPT的出现，建立在人类物质文明与精神文明的成果之上，是人类智慧的具体体现，在通往高阶文明的算力阶梯上，机器智能已展现出同质的能力苗头，甚至更出色。人类作为生物族群的优越性面临着前所未有的挑战。ChatGPT代表的机器智能，即使在现有的算力架构下，只要给予相应的建设资源，其并行计算能力会持续增长，获取人类知识生产模式力不所及的客观优势，冲击人类这个生物族群的优越性。然而，不管未来前景如何，ChatGPT始终面临着以下不足：一是缺少对“价值-意义”的感知，二是缺少对“目的-手段”的思考，三是缺少对“交际-情感”的认同，四是缺少对“想象-创新”的突破。所以，ChatGPT与人类不会是取代与被取代的关系，而应是工具与利用的关系，即ChatGPT可以作为人类工作者的辅助工具，取代人类的一部分职业，但不能完全替代人类。经如此，正如蒸汽机、内燃机、互联网等技术工具的发明引发产业革命和时代变革一样，ChatGPT对新一代人工智能技术来说具有里程碑意义，极有可能引发新的制度挑战。

　　在生产制度上，ChatGPT带来新的内容生产模式，符合传媒、电商、影视等行业对内容数字化程度高、内容多样以及内容更新快的要求，可以促进数实共生，助力产业升级。比如“ChatGPT+传媒”降本增效，采编工作自动化，提升新闻的时效性，“ChatGPT+工业”自动完成低层次任务，高效创建数字孪生系统。

　　在法律制度上，ChatGPT正在对现有的法律理论和法律制度提出挑战，当前迫切需要调整法律边界，法律科技共生共进。比如ChatGPT可能引发的“法律主体资格”、人类隐私保护的人格权问题、机器“工人群体”的劳动法问题。

　　在经济制度上，ChatGPT作为新的生产力，会带来新的控制关系、新的对抗关系、新的分配关系。而当新就业形态、数字劳工开始出现时，财富分配结构、社会供需结构必然面临新挑战。此外，ChatGPT对财富的创造根本上是利用了人类共有知识，但在规模经济效应的作用下，共享性知识一旦与产业资本相结合，可能会产生显著的排他效应，加剧社会的不平等，并引发新一轮的“数字鸿沟”。

　　在管理制度上，ChatGPT会在一定程度上拓宽管理边界，促进社会价值更新。要建成虚实同构、人机共处的新型社会，政府部门不仅要对ChatGPT制定相应的管理举措，还要进一步明确ChatGPT的权力与责任。以是否赋权ChatGPT参与公共决策为例，政府部门需要思考运用ChatGPT辅助决策是否会出现公众信任问题，是否会在决策过程中因其学习机制强化或放大过去存在的偏见，从而导致公平性和歧视等问题，同时，如果造成了不良的决策后果，应如何界定相应的责任。此外，在ChatGPT时代，人们的整体工作时间将持续减少，社会空闲时间大大增加，这种由新技术革命带来的整体性“认知盈余”，可以使人类摆脱重复性的基础劳动，转而从事那些更有价值和更有意义的工作，并对“自由”“福利”等提出更高的要求。

　　从产权制度而言，ChatGPT会助推产权治理的革新，并推动构建新的产权生态。ChatGPT的生成作品往往面临广泛的“著作权”争议，需要及时出台更多开放式条款或标准型规范，形成精准匹配。

二、潜在风险：ChatGPT亟待解决的发展困境

　　ChatGPT时代的治理之问：首先，公共事务治理结构普遍建立在科层制基础上，能否适应技术发展和应用过程中大规模激发的不确定性和不可预知性？其次，长久以来围绕人类行为的规制制度，能否适应以数据、算法为主体的应用环境？再次，如何借力ChatGPT赋能知识生产，并兼顾对ChatGPT人工智能生成内容和人类创作成果的保护？最后，如何构建新的治理体系和治理工具来应对伴随人工智能发展而涌现的经济、社会、政治新问题？

　　ChatGPT时代的合规性问题：首先，ChatGPT整合收集来的数据并形成答复时是否产生相应的知识产权？其次，ChatGPT进行数据挖掘和训练的过程是否需要获得相应的知识产权授权？再次，是否会出现未征得用户授权，或者超范围使用，而导致的个人信息和隐私泄露风险？最后，ChatGPT生产出来的错误内容会进而导致虚假信息传播的法律风险，如何降低这一风险？

　　ChatGPT时代的技术性问题：首先，ChatGPT只有2021年前的语料素材，之后能否实现更及时的信息更新？其次，ChatGPT是基于过去的数据、经验等进行新的回复，有可能强化过去信息中存在的偏见，这种数据使用的偏见性如何避免？再次，ChatGPT的英文回答和中文回答存在明显差异，如何打通已有材料的跨语种融合渠道？最后，ChatGPT对非本质事实数据的整合应用会推动虚假信息在现实中的再传播，人类知识数据库如何规避知识污染危机？

　　ChatGPT时代的有效性问题：首先，ChatGPT有时会“一本正经地胡说八道”，存在事实性错误、知识盲区和常识偏差等诸多问题，而且不提供引用来源，无法对给出的数据或者内容进行核实。其次，ChatGPT能回复一般性的观点与常规内容，面对高度具体化的复杂问题，只能输出“正确的废话”，更无法把新知识纳入其中。再次，ChatGPT倾向于表达具有群体倾向性的观点，以表现出所谓的“政治正确”。最后，ChatGPT存在的数学计算和逻辑缺陷。

三、未来路径：ChatGPT潜在风险的治理之策

　　ChatGPT存在的几大问题几乎是短时间内很难通过数据喂养或优化解决。我们不应将ChatGPT看做取代人类的“洪水猛兽”，其本质是一个基于AI的、高质量的信息搜索与整合加工工具。这种工具能否通过图灵测试，还需要时间去慢慢检验。而如何化解ChatGPT的潜在风险，可从以下几个方面进行思考：

　　一是明确人工智能治理的行为准则与基本原则。首先，正确评价人工智能，敏捷调整政策基调。人工智能在为国家赋能的同时也在为国家赋责，应当既鼓励发展人工智能，又重视对人工智能的防范，找准“发展为主”抑或“防范为主”的转化节点，灵活调整应对政策。其次，维护以人为中心的核心理念。对ChatGPT的治理应遵循基本的伦理准则，遵从安全性、透明性、公平性、问责性等原则，并明确这项“聪明技术”的本质只是工具，人类才是世界的中心，ChatGPT实质还是为人服务。再次，平衡技术与制度的发展速度。技术进步本身会对国家治理制度提出调适与转型要求，制度方面的落后与陈旧在一定程度上会抑制技术变革与进步的积极效应，在ChatGPT的应用中应技术发展与制度进步并重。

　　二是以制度重构为抓手，推进知识产权保护。首先，法律须为ChatGPT的内容生产划定边界。在立法上对ChatGPT的应用场景及效果作出明确界定，在司法上对明显损害竞争秩序、违背公序良俗的应用方式给予否定性评价。只有通过权威法律赋能社会治理，才能让ChatGPT的运用正义、有效。其次，加强治理工具的开发。针对可能引发的产权问题，尤其是学术领域的抄袭、剽窃问题，要合理运用“数字水印”等已有管制手段，不断优化面向ChatGPT的内容加密技术、内容检测技术，以构建强精度、广覆盖、深层次的监督管理体系。再次，调动多元主体力量，共助知识产权领域的风险治理。面对ChatGPT对全人类社会的冲击，政府应与行业协会尽快牵头，形成行业共识，出台ChatGPT使用指引，并通过媒体、企业等做好用户教育，让公众了解如何正确合法使用ChatGPT，减少因不了解而造成的知识产权纠纷。

　　三是构建面向ChatGPT的全方位、多层次、宽领域的风险防范系统。首先，完善风险管理体制机制，建立以社会监管为重要内容的政策体系，形成以全面理性(兼顾社会理性与科学理性)为基本内涵的风险控制机制。其次，构建风险治理共同体。在风险全球化、风险共同体的趋势下，应积极建立和完善跨国家和地区的人工智能风险治理协调和联动机制，搭建人工智能风险信息共享平台，促进风险共担，实现命运与共。再次，需注重社会效应，弥合“数字鸿沟”。ChatGPT在实践中的广泛运用可能带来“数字贫民”“数字歧视”等一系列影响社会公平正义的问题，警惕群体性事件发生，提前建立相应的社会保障体系、制定新的社会分工体系，是防范和化解新型技术风险的重要举措。

　　最后，上述思考共同导向一个更深刻的感触——ChatGPT时代的到来，实际上是技术发展到一定程度的正常结果。每个时代都会面临人工和智能如何共处的问题，我们既不应妄自菲薄，认为人工马上会被智能超越，也不应狂妄自大，认为ChatGPT带来的风险可以忽略不计。面对未来的不确定性，我们要及时做好调整与优化，将风险防范和制度重构作为当前亟待研究的重要议题。