报告简介
本报告由复旦大学全球人工智能创新治理中心发布,聚焦超级智能时代的风险转变与伦理应对策略。报告指出,当前AI伦理呈现出学术化气质减弱、法律化、制度化和工程化加强的趋势。研究团队创造性地构建了"智能契约伦理"框架,主张以契约伦理重构人机关系,为人类主体性寻找数字立足点。报告还提出了"伦理学家AI"的概念,作为智能契约的实践尝试,为未来人机共生社会提供理论支撑。
核心数据
报告分析了AI伦理的三个显著变化:制度化、法律化和工程化,以克服伦理原则缺乏刚性约束力的先天弱点。研究指出,欧盟AI法案将人工智能风险划分为四类:最低风险、有限风险、高风险和不可接受的风险,并引入动态生效机制将高风险系统规则与技术标准挂钩。2025年11月20日,欧盟委员会推出的数字综合方案(Digital Omnibus)对《人工智能法案》中的高风险系统规则生效实践与技术标准进行了动态绑定。
主要趋势
报告揭示了超级智能时代的风险已演变为存在论层面的结构性问题,表现为复杂的球状风险。与一般人工智能不同,超级智能表现出明显差异:人工智能开始作为新的主体重构生产关系和生产力;"超级能动性"成为影响人类和人工智能关系构建的关键概念。研究还发现,AI伦理构建必须从"产品"思维转向"实践"思维,包含两大关键维度:技术指向的AI伦理和人文指向的AI伦理。
关键结论
报告认为,面对超级智能可能引发的权力失衡,需要设立以智能契约为内核的"伦理学家AI"作为契约构建者的实践范式。研究提出采用动态契约机制实时监测伦理摩擦,并在冲突发生时将其"挂起",通过引入四值逻辑交由人类商谈决定,确保人类的最终决策权。这一框架将契约伦理从单向"对齐"向双向"共契"演进,为未来人机共生社会提供伦理基础。
...































