首页 行业信息库 政策文件 国家 详情
【发布部门】:中央网信办秘书局,市场监管总局办公厅【发布文号】:
【发布日期】:2025-06-10【时效状态】:现行有效

智能社会发展与治理标准化指引(2025版)

  人类社会正迈向以人工智能为关键技术支撑的智能社会。总结形成智能社会发展与治理的经验规律和理论,超前探索智能社会发展与治理的标准规范,完善适应智能社会发展与治理的体制机制,将有效支撑国家治理体系和治理能力现代化建设。为落实中共中央、国务院《关于加快建设全国统一大市场的意见》和《国家标准化发展纲要》的要求,深入推进人工智能社会实验,加快形成适应智能社会发展与治理的标准体系,充分发挥标准化的基础性、引领性作用,特制定《智能社会发展与治理标准化指引(2025 版)》。

  一、总体要求

  (一)基本内涵

  智能社会发展与治理的标准化,是指围绕智能社会发展与治理的现实或潜在问题,基于人工智能社会实验等科学循证方法,探究智能技术带来的社会影响及其作用机理,围绕智能技术社会应用的基本原则、测试优化方法和效果评估,制定、发布和实施规范性文件的活动。

  (二)工作目标

  建立健全科学合理的智能社会发展与治理标准研究制定、实施反馈、优化完善的工作机制,建成覆盖智能技术主要社会应用场景、有效保障技术全生命周期良性健康发展的标准体系,为推动智能社会发展与治理标准化创新打下良好基础。

  (三)主要内容和适用范围

  本指引提出了智能社会发展与治理的基本原则和要求,明确了常见智能技术应用场景、社会影响及其观测评估指标,规定了人工智能社会实验的一般程序和要求,构建了智能社会发展与治理的标准体系框架。

  本指引适用于智能技术社会应用与评估领域的标准化活动,为智能社会发展与治理相关工作提供技术支撑,同时可为国家智能社会治理实验基地建设等专项工作提供规范。各地方、各部门、科研院所、企事业单位等开展智能社会发展与治理理论研究和实践活动时,可参考使用本指引。

  二、智能社会发展与治理原则

  开展人工智能社会实验,推进智能社会发展与治理标准化工作,须遵循以下三方面原则。

  (一)增进福祉,注重和谐

  在社会发展层面,应以社会高质量发展为目标,建设人与智能技术相和谐的社会环境,提升生活水平与社会福利,促进经济社会可持续发展。相关内容包括但不限于:

  一是促进和谐共生。推动社会和智能技术的协同发展,降低智能技术发展造成社会冲突的风险,以技术进步促进社会发展,增强社会向心力、塑造社会凝聚力。

  二是遵守公序良俗。坚持有益社会的价值导向,坚守智能技术全生命周期中应遵循的基本伦理价值和道德观念,以科技向善引导文明行为,保障社会规范。

  三是确保公平普惠。保证智能技术应用中秉持公正平等,充分考虑社会各界多元需求,采取有效措施防止产生偏见歧视,最大限度实现惠及全民的技术覆盖,保障全社会共享技术创新成果。

  (二)以人为本,保障权益

  在个人权益层面,应保障人类各项基本权利,尊重个人利益诉求,以技术进步促进个人发展。相关内容包括但不限于:

  一是保障基本权利。在智能技术发展中保障个人生命健康、人身自由、私人财产等权利不受侵犯,切实保障智能技术在产品设计、系统搭建、应用服务过程中符合法律法规和各项要求,确保安全、合法、高效。

  二是体现关怀救济。充分尊重对智能技术接受程度和使用意愿的个体化差异。提升各类群体技术适应性,努力弥合技术鸿沟,为无法接触技术或者技术使用困难的个体提供替代方式,促进人机和谐友好交互。

  三是保证知情同意。在产品与服务中使用智能技术应明确告知用户,明示智能产品与服务的功能与局限,保障用户的知情、同意等权利。尊重用户选择,为使用或者退出智能产品与服务提供简便易懂的解决方案。

  (三)包容创新,持续优化

  在技术治理层面,应保障智能技术安全和系统可控,为智能技术的研发、应用与共享提供敏捷包容的发展环境。相关内容包括但不限于:

  一是实现责任可溯。明确智能技术研发和使用等相关方的责任,建立伦理冲突和技术事故的问责机制。强化智能技术研发过程安全管理和风险评估能力,实现智能技术的可审核、可监督、可追溯。

  二是强调审慎敏捷。持续评估智能技术发展水平与社会影响,避免技术滥用与误用,禁止违规恶用。根据智能技术特征优化监管模式,建立敏捷的响应与协调机制,及时发现和解决可能引发的风险。

  三是促进包容开放。推进智能社会发展与治理多元参与,推动政府部门、科研院所、教育机构、企业、社会团体、社会公众互动协调。促进跨学科、跨领域、跨地区、跨国界交流合作,推动形成具有广泛共识的智能社会发展与治理框架和标准规范。

  三、智能技术社会应用场景与影响评估

推动智能社会发展与治理,必须厘清智能技术的应用场景,识别、界定、观测和评估相关社会影响,对可能出现的风险和挑战做好应对。根据智能技术的作用对象,可将智能社会发展与治理的应用场景及影响划分为微观、中观、宏观三个层面。

  (一)微观层面

  智能技术作用于个人的主要场景包括:自动驾驶、智能家居、智能客服等。如利用生物特征识别、行踪轨迹等敏感信息进行身份验证;通过智能传感技术感知周围环境进行辅助驾驶;智能监测个人健康状况为医师诊断和治疗提供辅助参考;基于推荐算法的智能检索和信息推送服务等。

  上述应用场景中,可能产生的影响包括:心理状态、行为模式、价值观念、社会关系等的变化。如人脸识别技术应用对个人安全感的影响;自动驾驶对个人出行范围、社交网络和就业的影响;网络游戏对用户沉迷、过度消费、家庭关系变化的影响等。

  评估智能技术在微观层面产生的影响,可观测的指标包括:一是个体行为。如测量移动应用程序测量使用频率、用户使用意愿,收集用户兴趣热点、活动轨迹等行为偏好。二是个体感知。如通过问卷调查收集个人的风险认知、技术接受程度等心理动态,以及幸福感、获得感和安全感等主观感受。

  (二)中观层面

  智能技术作用于组织与行业的主要应用场景包括:智慧教育、智慧医疗、智慧金融等。如线上教育平台利用大数据智能技术进行师生画像、知识推送并提供虚拟教师;医疗机构运用图像识别技术、自然语言处理进行医学影像智能识别并提供辅助诊断参考;金融机构运用智能技术开展市场预测、风险评估、投资分析业务等。

  上述应用场景中,可能产生的影响包括:业务流程、组织关系、职责分工和组织运行模式等的变化。如智能制造技术应用对行业和组织管理流程再造的影响;智能电网应用对供电企业能源分配和管理方式的影响等。

  评估智能技术在中观层面产生的影响,可观测的指标包括:一是经济效益变化情况。如通过在线销量数据分析智能推荐技术应用前后对销售效益的影响;通过生产效率、质量控制等数据观测智能制造技术应用对产品制造流程的影响。二是组织治理或者行业协同水平变化情况。如通过收集企业战略转型动向、产业生态发展情况、组织响应速度等数据,观察智能技术应用对战略实施情况、行业协同效能、组织结构适应性等的影响。

  (三)宏观层面

  智能技术作用于社会的主要应用场景包括:数字政府、智慧城市、数字乡村、智能应急管理等。如通过建立城市大脑监测调度城市运行情况;利用能源大数据预测用能需求、经济发展等。

  上述应用场景中,可能产生的影响包括:公共治理方式、社会服务能力、应急响应流程、公众参与模式等的变化。如互联网平台信息传播对于社会舆论的影响;数字金融技术应用对于金融体系和经济安全的影响;智能应急管理对于风险管理能力的影响,数字乡村建设中移动应用程序使用对乡村治理结构的影响等。

  评估智能技术在宏观层面产生的影响,可观测的指标包括:一是政府治理与决策的效率和效果。如通过数字公共服务平台的数据变化,分析智能技术应用对政府响应与资源调配速率的影响;通过经济运行数据变化,观察智能技术应用对区域经济增长率、节能减排的贡献等。二是公共服务质量的优化改进情况。如通过终端传感器运行数据或舆情监测数据,分析公共服务均衡度与满意度的改善等。

  四、人工智能社会实验规程

  人工智能社会实验是国家智能社会治理实验基地探索智能社会发展与治理路径的关键方法,也是智能社会发展与治理标准化的基础方法之一。人工智能社会实验通过识别、界定、观测和评估特定智能技术社会应用场景的影响,分析可能带来的治理挑战,总结应对措施,形成解决方案和标准。其规程主要包括组织应用、科学测量和综合反馈三个阶段。

  (一)实验准备,组织应用

  一是明确技术与应用场景。聚焦突出问题,选取具有典型代表性的技术和应用场景,观测技术对微观个人、中观组织或宏观治理的综合影响。应用场景可选择已有场景,或新建场景,若为新建场景,应充分评估,减少重复建设。

  二是明确参与主体。实验要有明确的应用主体、研究主体、技术主体,各建设主体间分工明确。应用主体具备建设实验场景的条件,研究主体具有智能社会发展与治理研究能力和相关领域政策制定经验,技术主体具有搭建实验场景所需的技术水平。

  三是明确实验方案。各主体应建立组织实施机制,明确沟通协商程序,共同设计实验方案,为实验场地、经费、数据等提供必要保障,解决场景建设、实验布点、成果转化等环节出现的问题。

  四是防范伦理风险。方案要明确伦理风险预警机制,制定应急预案,注重全流程伦理风险防控,开展必要的伦理审查,确保实验符合法规政策、社会伦理、科研伦理。例如,抽样分组要充分考虑弱势群体的公平性,以符合科研伦理。

  (二)实验开展,科学测量

  一是选取测量要素。围绕实验要解决的社会问题或要达到的治理目标,选取科学合理的测量要素。要素应体现技术应用对微观个人、中观组织或宏观治理的综合影响。

  二是明确测量指标。将测量要素转变为内涵清晰、概念准确的可测度变量。例如,将人工智能技术对组织运转模式、行为轨迹等影响,转变为机构调整、出行方式等可测量的具体数据指标。

  三是科学抽样与分组。选择合理的实验类型和规范的抽样方法,科学设置实验组和控制组,充分考虑弱势群体、特殊群体等因素,保证实验数据的科学性和代表性。

  四是数据收集与分析。依据科学、规范的社会科学测量手段,综合利用观察记录、问卷调查、大数据捕捉与社会计算等方法,进行数据收集和处理,并开展恰当的定性或定量分析。

  (三)实验反馈,综合评估

  一是综合集成。综合技术发展可能、社会个体的接受程度、经济文化环境等因素,形成技术标准、技术规范、政策建议等实验成果。

  二是实验评价。对实验过程和成效进行评价,内容包括实验场景建设情况、组织与保障机制、风险防范与伦理审查、工作计划执行效果、实验成果及转化等。

  三是成果反馈。实验成果反馈给各有关方面,以提供智能技术赋能社会发展与治理的经验与政策建议。

  五、智能社会发展与治理标准体系框架

  标准是人工智能社会实验工作的重要成果。为充分发挥标准在智能社会发展与治理中的基础性、引领性作用,应整体部署和系统推进,构建适应技术创新需要、满足产业发展需求、支撑智能社会建设的智能社会发展与治理标准体系。

智能社会发展与治理标准体系框架结构包括基础通用、发展与治理原则、智能社会发展与治理场景应用、技术和方法、效果评价等五个部分,如图1所示。

图 1 智能社会发展与治理标准体系框架图

  (一)基础通用标准

  1.术语标准。规范智能社会发展与治理的术语使用,包括相关概念的界定、涉及的新技术和新应用场景的定义。

  2.分类与代码标准。规定智能社会发展与治理分类原则、依据、编码方法和要求等,包括规定智能社会发展与治理所需的概念、事项、治理工具、治理场景等的分类,并对其赋予代码。

  3.通用指南标准。提供智能社会发展与治理通常所需的指导性资料或参考,包括各类指南、指引等。

  (二)发展与治理原则标准

  1.通用原则标准。规范智能社会发展与治理过程中通常涉及到的技术、研究及伦理原则,包括智能技术应用原则、人工智能社会实验原则等。

  2.智能技术与人类福祉原则标准。规范智能技术发展与应用的价值导向,保障技术始终促进人类福祉、体现人文精神。比如智能技术发展应用中的人类心理感知、社区参与、经济公平与平等、气候变化、人居环境、工作场所治理等方面的福祉原则标准等。

  3.智能技术伦理原则标准。规定智能技术应用与治理过程中需遵循的伦理原则,保障智能社会发展与治理符合社会伦理,包括技术应用伦理、科学研究伦理等。

  4.智能技术安全治理原则标准。规定智能技术应用与治理中需遵循的安全治理要求,包括建立隐私保护、响应机制安全治理原则等。

  (三)智能社会发展与治理场景应用标准

  1.基层应用标准。规范基层治理中智慧社区建设、智慧村务管理、数字化积分制治理、“数字码”治理、智能化网格管理平台、智能矛盾调解系统、智能安防监控系统等技术应用,识别运用智能技术提升基层治理效率、辅助基层治理决策,提升信息识别与风险评估能力、监测预警与综合应对能力的方法等。

  2.医疗健康应用标准。规范医疗健康领域中智慧医疗等技术应用,包括智能临床辅助诊断系统、智能医学影像辅助诊断、医疗机器人、健康管理辅助支持系统等,包括识别医疗健康公平性、合规性、安全性的方法等。

  3.能源应用标准。规范能源治理中能源数据汇集与开放、区域能效分析、智慧能耗监测、精准用能分析、能源应急响应、能源规划设计等技术应用,识别运用智能技术提高数据获取的公平性与透明性、能源利用效率、决策水平的方法等。

  4.环境应用标准。规范环境治理中绿色低碳智能模拟,污染防治智慧治理、生态保护模拟感知、生态安全智慧支撑,全民行动智慧评估等技术应用,包括运用智能技术提升精准科学依法治污水平,促进山水林田湖草沙一体化保护和系统治理,以高水平保护支撑保障绿色低碳高质量发展的方法等。

  5.教育应用标准。规范智慧校园、个性化辅导、智能在线学习教育平台、儿童陪伴等技术应用,包括针对教育领域中儿童、青少年等弱势群体的特有属性,维护青少年身心健康,识别和防治青少年网络沉迷的方法等。

  6.养老应用标准。规范居家、社区、机构场景中养老服务提供、适老化改造以及相关设备用品、辅助器具等的智能技术应用,包括针对老年人需求信息采集分析、养老服务资源有效配置、促进老年群体融入智能社会、保护老年人人身和信息安全的方法等。

  7.体育应用标准。规范智慧场馆建设、智慧体测、智慧体育公园、虚拟体育、智能穿戴设备和体育器械、智能训练系统等技术应用,包括针对群众性体育锻炼和大型体育活动保障等应用场景,引导技术中立透明,确保公众健身数据安全管理和使用,保障体育服务公平性的方法等。

  8.经济应用标准。规范经济治理中智能工厂、智慧港口、智能制造、智慧矿山、智慧金融、智慧信贷、线上支付等技术应用,包括针对人工智能在促进实体经济和虚拟经济高质量发展的应用场景,解决智能技术带来的经济发展不平等、经济安全风险、结构性失业等问题的方法等。

  9.政法应用标准。规范人工智能在廉政建设、智慧法庭、智慧检务、在线诉讼办案服务平台、政法大数据分析平台等应用技术中的治理要求,包括确保算法决策的合理性的方法等。

  (四)技术和方法标准

  1.智能技术综合社会影响分析测量技术标准。规定智能技术综合社会影响的概念框架与测量指标,包括技术综合影响的分析方法、评估维度和测量路径等。

  2.智能社会多元治理主体特征、关系及治理规范的测量标准。规范智能社会发展与治理主体属性行为、相互关系、治理要求的主要方面及具体测度方法。比如智能社会多元实体的虚拟身份鉴别、多元实体统一身份表示技术等。

  3.智能社会发展与治理计算实验和模拟演化技术标准。规范对智能社会发展与治理进行计算实验和模拟演化的技术要求,包括模拟演化机理、计算实验方法、演化推演模型技术要求等。

  4.人工智能社会实验方法标准。规范开展人工智能社会实验的具体方法,包括实验规程、实验规范性测评与实验方法选取等。

  5.伦理审查与风险管理方法标准。规范智能技术发展与应用中的伦理审查与风险管理方法,包括伦理风险、审查程序、审查内容、审查类别、风险管理方法等。

  6.数据收集、汇交、解析与验证方法标准。规范智能技术发展与应用中的数据存储、读取、处理、分析、验证方法。比如数据管理机制、数据汇交共享、数据解析验证方法等。

  (五)效果评价标准

  1.综合影响评价标准。规范典型智能社会发展与治理场景治理效果整体情况评价方法和要求,包括围绕社会影响分析的完整性、测量方法准确性、数据管理规范性、演化推演模型合理性,提出的评价要求、方法和参考等。

  2.治理绩效评价标准。规范应用主体在智能社会发展与治理过程中表现与问题的评估方法和要求,包括围绕治理绩效评价的科学性、有效性、准确性,提出治理效能评估、效果反馈、治理纠偏的评价要求、方法和参考等。

  3.风险跟踪与评价标准。规范针对人工智能社会实验过程中产生的伦理风险与社会问题,包括围绕风险跟踪与评价的科学性、有效性、准确性,提出风险识别、风险预防、风险监测、风险跟踪与预防评估的方法等。

服务号
小程序
在线咨询
返回顶部