2022年9月2日，同济大学和上海市杨浦区人民政府将共同主办2022世界人工智能大会智能社会论坛。以协同治理应对智能社会新挑战，用人工智能赋能城市数字化转型。

审慎面对智能社会治理挑战，超前布局智能社会治理体系

施 骞 同济大学经济与管理学院党委书记、教授；上海市人工智能社会治理协同创新中心副主任

肖 超 同济大学经济与管理学院助理教授

陈建国 同济大学经济与管理学院教授

来源：同济大学“人工智能伦理、法律与治理”学科交叉示范项目《基于情景特征的智能社会治理模式重构与机制体制优化》

随着第四次工业革命高歌猛进，人类社会处于新旧技术革命衔接，从信息社会迈入智能社会的巨变时代。智能社会延续了农业与工业社会的基因，又在诸多核心领域发生突变，通过高度集成的虚拟与物理空间，无需人工干预、情境感知的变革性技术进行管理决策，以提高社会效率与福祉。由于智能技术兼具的技术与社会属性，构建智能社会治理体系时，不仅要看到新技术的便利性，更要考量其可能引发的法律、社会伦理与安全风险等问题，以及伴随着智能社会的逐步形成而给城市与基层治理所带来的若干挑战。

1. 社会公众预期与人工智能脆弱性的冲突引发信任危机

智能技术的发展趋势难以为公众所预测，导致公众面对技术的不确定性与颠覆性，在认知层面难以快速适应和接受智能社会变革。同时，智能技术的应用形成了新型的社会与技术、人与社会的关系，构成了多维度的人-社会-技术复杂系统。这一复杂系统中的多群体以及各主体具有不同的技能、需求和价值观，所扮演的角色不同但又互联互通，这些差异和交互关系更加剧了彼此间的信任危机。

2. 智能社会资源分配存在不均衡性

智能技术在各应用领域的成熟度不一致，技术发展程度在不同地区间不均衡，导致智能社会在逐步形成的过程中，技术红利在不同地区与不同社会阶层之间的分化，可能会加剧社会资源分配的不均衡。同时，智能社会更强调信息、数据与算法算力等资源，人工智能产业主体易出现技术垄断、数据垄断、算例垄断等行为，造成另一维度的资源失衡问题。

3. 信息过度采集带来的伦理挑战

数据是人工智能相关应用迭代升级不可缺少的资源，在获取和处理过程中，不可避免会涉及个人隐私保护等重要伦理问题。智能社会中，用户身份、行为、偏好等被以数据的形式进行存储、复制、分析、传播与整合，形成精准的数字“画像”，一旦泄露即形成不可忽视的伦理问题。其二，信息化的社会导致伦理本身被重塑，物与物、物与人、人与人之间存在深度的信息互联，认知主体不仅局限于自然人，认知方式也往往呈现分布式，智能体的出现使道德伦理的判断已经上升至整个社会层面。

4. 社会特殊群体面临信息壁垒与数字鸿沟

智能化技术的推广和生活方式的转变是循序渐进的过程，追求跨越式发展，会边缘化部分特殊群体。智能技术的应用开发、终端设备、产品内容等，如缺乏对特殊群体的考量，未能进行适老化及无障碍改造，会导致并加剧特殊群体面临的信息壁垒和数字鸿沟；智能社会治理方面若缺乏对特殊社会群体技术适应性的论证与思考，社会支持体系不完整，忽视对特殊群体的引导与教育，也会进一步加剧特殊群体面临的挑战。

5. 新技术快速更新迭代带来公众适应难题

社会公众对新技术的接受采纳需要领会的过程与认知的改变，而智能技术的发展往往是颠覆性的。社会公众尚未完全接受技术，而技术已经历了新一轮迭代。这会对社会公众带来心理威胁与压力，反而阻碍技术的应用。社会的认知和发展水平跟不上技术的更迭可能会诱发技术失控的风险，适应与应用的失衡可能会造成技术滥用的危机。

6. 碎片化智能场景构建造成整体资源浪费

社会治理的相关场景及场景间逻辑关系亟待明晰，系统整合势在必行。在缺乏智能社会的完整生态下，场景的碎片化导致算法、产品与解决方案也呈现碎片化，社会治理的手段沦为人工智能、大数据、云计算等技术的堆砌，智能社会治理的技术难以进行通用维度的扩展，导致重复的数据规划与低层次的数据治理，造成算法的冗余以及数据资源和算力的浪费。

7. 人工智能体带来社会责任主体缺失

人工智能技术推动社会发展的作用愈发重要，但其功能、角色和地位尚未界定清晰，对现有的社会责任体系造成巨大冲击，并可能导致社会责任空白。不同主体享有对应的权利、承担相应的责任，目前人工智能的应用程度不一致，对某类活动或工作决策的参与程度也不一样，造成其责任边界难以界定。再者，若进一步将人工智能作为责任承担的主体，其如何承担责任，如何受到奖惩，以及其承担责任的意义与价值也难以评判。

为了科学预判和有效应对智能社会发展产生的挑战、推进智能社会发展，需要通过产学研协同创新，分阶段逐步厘清技术、政策、社会三者间关系，超前布局国家智能社会治理体系。首先，通过推进数字基础设施建设，打通数据资源，形成数据资产与数据流通枢纽，构建智能社会治理的数据底座；其次，针对智能社会典型场景中存在的社会问题，采用理论分析和社会实验等方式开展研究工作，探索智能技术应用实施方案，应对智能技术应用挑战，形成可复制推广的智能社会研究范式和实施路径，解决智能社会发展中的共性问题。基于此，形成以共性问题为主线、典型问题为突破点的体系化研究方案与治理对策，针对智能技术的二元属性提炼形成技术与管理“双回路耦合”的智能社会治理机制；最后，通过建立健全智能社会治理的伦理原则，制定智能社会治理的政策规范，集成法律法规、制度措施、伦理道德形成国家智能社会治理的完整体系，对智能社会进行前瞻预测、科学约束、正确引导。

转自：“人工智能社会治理协同创新中心”微信公众号

编辑：刘蕊