编者荐语

生成式人工智能让专业知识变得更容易获取：不必掌握复杂的检索方法，也不必拥有特定的教育背景，普通用户就能通过自然语言获得解释。但使用门槛降低，是否就意味着知识真正走向平等？

吴静的这篇论文给出了审慎的回答。作者认为，DeepSeek等生成式人工智能在削弱传统知识壁垒的同时，也可能带来新的不平等：算法为何得出某个答案并不透明，训练数据可能延续既有偏见，算力资源仍集中在少数主体手中，流畅、肯定的表达还可能掩盖事实错误。技术扩大了知识入口，却没有自动解决知识可信、资源分配和责任归属等问题。

当生成式人工智能进入政务服务，这组矛盾会更加突出。效率提升之外，公共部门还需要回答：哪些决定不能交给机器？错误如何追溯？公众如何提出质疑？数字能力不足的人会不会再次被挡在服务之外？本文沿着知识可及性、AI幻觉和政务治理三条线索，梳理论文提出的风险及其治理思路。

学术名片

中文题名：

DeepSeek应用下的技术可及性与社会治理挑战——基于生成式人工智能的大规模部署

摘要：

生成式人工智能的快速发展显著改变了知识生产与获取的范式，其技术可及性推动了知识平权化进程，同时也对社会治理体系提出深刻挑战。由于生成式AI的技术特性与社会嵌入效应，尤其是DeepSeek的大规模部署，需要从知识社会学与系统动力学视角对治理难度进行分析。

在技术层面，生成式AI通过降低知识获取门槛解构了传统知识权威体系，但算法黑箱、数据偏向性与算力资源垄断导致了新的信息壁垒与文化鸿沟。同时，AI幻觉现象暴露了统计驱动模型的逻辑脆弱性，虚假信息扩散与责任归属模糊动摇了社会信任体系，亟待构建包含动态验证、风险概率评估及人机协同伦理的新型标准。

而在社会治理领域，政务AI部署面临数据主权、决策可控性与公共信任等复杂问题，更需借助动态知识生态、领域约束推理及认知安全防护实现技术赋能与风险防控的平衡，强调技术创新、制度重构与跨界协作的协同作用，为应对生成式AI引发的社会复杂性挑战探索系统性路径。

作者：

吴静，南京师范大学公共管理学院教授、博士生导师

文献来源：

吴静.DeepSeek应用下的技术可及性与社会治理挑战:基于生成式人工智能的大规模部署[J].苏州大学学报(哲学社会科学版), 2025(3):30-38.

从GPT、Google系列产品到DeepSeek，生成式人工智能正在改变知识生产与获取的方式。过去，传统知识获取高度依赖于专业资源、教育背景和经济条件。如今， DeepSeek等国内外大模型能够快速生成高质量、多领域的知识内容，降低了使用和部署成本，挑战着传统范式的知识精英主义和信息壁垒。

技术更容易使用，也会更快进入不同社会场景。论文指出，自2025年2月以来，已有多个省份宣布将DeepSeek用于政务办公、政务服务和城市治理；多所高校在进行本地部署的同时，也开始制定AI辅助写作规范。随着新业态和创新性场景应用不断涌现，社会迫切需要以技术为元问题的新管理范式。

论文借助布尔迪厄的分析指出，科层化的学术建制、专业化的知识认证机制和稀缺的传播渠道共同构成了传统知识权威体系。一个人能否进入知识生产与传播过程，往往受到教育背景、专业资格和资源条件的限制。

生成式人工智能改变了其中一部分条件。自然语言交互降低了使用的技术门槛，对知识生产范式产生多方面影响。越来越多的人能够独立获取专业知识，知识生产者范围得以扩大。人工智能甚至变成了比过去的学术中介更具权威性的发布主体，多语言能力也进一步推动了知识超越地域、文化、阶层和行业的传播。

生成式人工智能扩大了人们接触和使用知识的机会，也削弱了传统中介的部分控制力。可这不等于知识已经实现平等。技术门槛降低之后，至少还有三道新的关口。

第一道关口是算法黑箱。模型如何选择和组织信息并不透明，普通用户很难判断一个看似完整、肯定的答案究竟依据了什么。用户可能同时依赖模型，又怀疑模型。

第二道关口来自训练数据。不同语言、地区和群体留下的数据规模并不相同，模型输出也可能更多地反映数据资源占优势者的经验和价值取向。社会历史数据中已经存在的偏见，还可能被模型学习并带入新的应用场景。

第三道关口是算力和开发资源的集中。大模型的训练和维护需要大量资金、数据与计算资源，有能力主导模型开发的仍主要是少数国家和大型企业。普通用户更容易接触AI，并不意味着所有社会主体都能同等参与技术设计、规则制定和利益分配。

论文还担心，大模型追求通用性时，必然要求资本主义意识形态的技术无意识。它会把不同历史和文化背景的知识处理成较统一的表达，压缩其中的差异，并且试图通过计算机脑力劳动建立起一种仅凭“数字-字母”语言而工作的主体性，而摆脱身体负重与差异。

知识变得容易获取之后，下一个问题是：这些知识是否可靠？

包括DeepSeek在内的大语言模型通过学习大量文本之间的统计关系生成内容。它们可以给出语言流畅、结构完整的回答，但这种表达能力不能保证答案符合事实，也不能证明模型真正理解了问题。由此就可能出现“AI幻觉”。

AI幻觉分为两类。事实性幻觉是模型输出与客观事实不符；忠实性幻觉是回答偏离用户指令或上下文。两者都可能混在看似可信的表达中，用户很难仅凭语言是否自然判断真伪。其虚构内容实质是参数空间对现实世界动态发展的畸形投射。

虚构内容如果再次进入后续的模型训练过程，它便不只是一个孤立的错误，而会在数字环境中迅速传播并被放大。这种不良循环可能被利用。例如，在自动驾驶汽车系统中，攻击者可能注入模仿AI幻觉的虚假传感数据，扰乱车辆决策从而引发道路险情。

这条风险链提出了一个更深的问题：由谁负责验证AI生成的知识？

传统知识体系主要依靠专业资格、学术机构和同行评价建立可信度。生成式人工智能其实并不独立于传统知识体系，其训练过程中严重依赖精英构建的知识体系，但又不断自我消解着这些知识来源的权威性。原有的专业验证机制仍然重要，却不能直接覆盖AI生成、传播和再利用的全过程。

基于上述问题，作者提出从三个方面重置标准。

首先是知识验证。具体来说要加强三个秩序构建：证据链完整性、多模态信息一致性检验和动态知识溯源追踪。同时注重时间维度适应性，可能随时间变化的知识还需持续更新。

其次是技术评估。传统评估往往重视总体准确率，但平均表现不能完整反映模型在特定场景中的风险。论文主张同时考察幻觉、逻辑脆弱性、模型变化、可解释性、抗干扰能力，以及面对未知场景时的表现。

最后是应用规范。新闻、医疗等领域不能只规定是否可以使用AI，还要明确生成内容如何审核、哪些任务不得由AI独立完成、出现错误后怎样追溯责任。论文认为，人类的经验判断不能被模型输出直接替代。

生成式人工智能进入政务办公、公共服务和城市治理后，输出还可能影响行政决定和公众权益。作者指出，传统的政策工具正在陷入“观测者困境”，即“收集人类数据的社会技术系统正在积极地（在某些情况下是有意地）改变社会科学将要研究的社会世界”。制度供给已经形成显著的治理真空。论文因此把讨论从信息可靠性推进到社会治理。

首先需要解决责任问题。论文指出，当虚假信息获得与真实信息同等的传播势能，传统的基于人工审核与事后追责的治理模式会根本性失效。一旦AI生成内容引发社会危害，责任难以在开发者、运营者、使用者与算法本体之间认定。

以深度伪造技术为例，现有法律对合成媒体的责任认定仍主要停留在“结果追责”阶段，尚未覆盖技术研发、平台传播和终端应用的全过程。其背后是立法逻辑与技术特性之间的结构性矛盾：传统法律建立在因果关系明确、行为主体清晰的基础上，而AI系统的黑箱特征和自主决策能力可能造成责任主体虚化、因果链条断裂。

为此，论文主张根据人工智能的技术特性和应用场景制定专门规范，明确不同主体的责任边界，区分“实质性人类干预”与“完全自主的智能行为”。AI系统还应提高可追溯性与透明度，使问题发生后能够回溯技术和应用过程，确定问题来源及责任主体。

责任认定也关系到整个网络安全生态。论文援引相关专项调研指出，一些本地部署的大模型可能通过简单的攻击语句被控制，后台数据也可能因此暴露。建立在源代码开放基础上的大语言模型虽然具有灵活、成本较低等优势，但对漏洞监测、攻击防范和数据安全提出了更高要求。

随着人工智能向垂直领域加速扩散，网络安全风险也不再局限于单个应用。论文将其演化概括为“技术扩散-漏洞裂变-防御重构”的传导过程。深度伪造、数据污染、隐私泄露和知识产权问题相互交织，可能形成具有技术共生性和系统破坏性的复合风险。

针对这些风险，论文转引了一套多层次治理框架。治理首先要识别风险究竟来自算法层还是数据层，再进一步确定具体问题。在技术层面，需要加强数据审查、隐私保护、算法优化和对抗训练，提高模型的稳定性和抵御攻击的能力。

在组织层面，需要完善法律法规，将数据最小化和伦理要求纳入制度设计，健全风险评估与审核机制。在社会层面，则需要政府、企业、科研机构和公众共同参与，形成多元共治格局。论文将《人工智能生成合成内容标识方法》视为组织层面的规范性举措，其作用是规范各环节的标识行为，推动从生成到传播的全流程安全管理。

然而，在政务系统中部署DeepSeek等生成式人工智能，涉及的公共利益和公共服务远超一般商业应用。论文认为，政务AI系统实质上是公权力的数字化延伸；政务数据同时具有公共属性和主权属性，系统输出还可能直接影响行政行为的法律效力。

因此，政务AI不能只用于提高行政效率。更重要的问题是，在确保公权力基本属性不受改变的前提下，如何通过人机协同构建能够适应复杂治理环境的智能治理生态。除了一般性的风险治理措施，论文提出了四项具体要求。

第一，构建动态知识生态系统。数据偏差和知识固化会直接影响政务AI的应用效果。论文建议搭建跨部门实时数据中台，整合政策法规库、民生数据库和突发事件案例库等结构化知识源，形成持续更新的知识图谱。

这一系统既要为模型提供较为完整的政务知识背景，也要通过增量学习不断吸收新的政策和数据。只有知识基础能够随现实变化，模型才不至于因为信息孤立或知识过时而给出与现行政策不符的回答。

第二，开发领域约束推理框架。通用模型进入复杂多变的政务场景后，可能出现推理偏差或决策失误。论文提出在通用大模型之上建立政务认知增强层，将符号推理引擎与神经网络结合，并在关键决策节点嵌入领域专家规则。

这一框架面临的难点，是如何把政策条件中的弹性和裁量空间转化为可计算规则。当政策条件难以被准确计算时，不能强行交由模型处理，而应引入人工判断，形成机器推理与人工处理并行的双轨机制。

第三，构建认知安全防护网。政务AI的安全审查应覆盖系统的整个生命周期。训练数据需要标明来源、质量和更新时间，并根据可信程度进行分级；一般性应用涉及个人信息时，还要进行必要的去敏化处理。

模型输出也不能未经审核便进入行政过程。论文提出设置逻辑自洽性检测、政策合规性审查和伦理风险评估等多重校验机制，从数据输入、模型运行到结果输出形成完整的治理防线。

第四，保持人工决策的独立性。在涉及国家安全和公民重大权益的领域，生成式人工智能不得独立作出决定，只能作为辅助工具为人类决策提供参考。这里要求的不是在机器结果上补一道形式化审批，而是确保人仍然能够独立判断，并对最终决定负责。

论文将上述措施概括为政务AI系统的“免疫体系”：通过技术架构创新保持知识的动态性，通过制度设计保障决策的可控性，再通过人机协同维持系统的适应能力。其目标是在技术赋能与风险防控之间形成动态平衡。

除了系统内部的安全与决策机制，政务AI还需要警惕“数字鸿沟”和“技术背锅”。这两个问题虽然并不直接来自AI系统本身，却关系到政务工作的人民性、普遍性和公信力。

政务服务应当惠及全体民众，并覆盖不同阶层和区域。如果数字鸿沟使部分群体被排除在人工智能政务服务之外，政务服务便难以实现应有的公平与普惠。长期如此，社会不平等可能进一步加剧，政府与民众之间的信任也会受到损害。

“技术背锅”则是把公共机构无法解决的问题推给技术。当系统出现错误，或某项服务无法办理时，政府部门不能仅以机器结论作为解释。技术进入行政过程，并没有取消公共机构说明、纠错和承担责任的义务。

人工智能深度嵌入社会，在提升效率、优化服务和推动产教创新方面具有重要意义。与此同时，AI平台的发展正在系统性冲击传统治理规范，具体应用中出现的问题又需要逐项识别和处理。技术本身与应用场景不断变化，也进一步增加了治理难度。

论文据此主张，应从现实需求出发，建立灵活、协同并具有前瞻性的治理机制。一方面需要以新的视角审视人工智能对既有治理规范的影响，另一方面也要对数据、责任、决策和服务中的具体问题进行精准定位。

对于政务AI而言，治理不能只追求技术部署和行政效率。知识能否及时更新，模型是否受到政务规则约束，系统输出能否接受安全审查，人工决策是否保持独立，以及不同群体能否公平获得公共服务，共同构成政务AI不能越过的边界。