当大模型从“回答问题”走向“替人做事”，当AI智能体开始自主规划、决策与执行，一个绕不开的问题浮出水面：人可以把手上的“权”交给机器多少？万一出了事，谁来负责？
7月17日，2026世界人工智能大会暨人工智能全球治理高级别会议在上海开幕。这场以“智能伙伴 共创未来”为主题的大会，首次将“治理”写入名称。会场内外，一个共识越来越清晰：技术跑得再快，治理这根“缰绳”也得同步拴上，正如上海人工智能实验室主任、首席科学家周伯文所说：“AI可以代表人行动，但不能代表人负责。每一次人类对AI的授权都应该可以撤回，每一个行动都应该可以被追责。”
开幕式当天，主论坛的圆桌论坛上，学界、业界大咖共探AI治理 新民晚报记者 马丹 摄
边界在哪？涉及价值判断的事不能交给AI
许多人会问，为什么是今年特别提到“治理”？这是因为在这个时间节点上，人工智能的角色发生了实质性的转变。前几年的世界人工智能大会上，大家还在津津乐道于大模型写诗、画画、陪人聊天的“小聪明”。如今，大模型正在迈向智能体（Agent）时代，AI正加速从“回答问题”走向“自主做规划、执行长程任务”。简单来说，AI开始真正“替人做事”了。与此同时，安全、责任等迫切的现实问题也被推到人类面前。
清华大学人工智能国际治理研究院院长薛澜说：人类社会传统的委托代理基于人和人的信任，但是，AI代理既存在信息不对称和目标不对齐的问题，更面临新的挑战，“人工智能系统做的事情，对人产生重大危害，无法反悔，需要预先有沙盒实验，重新创造规则”，而且，“人工智能自动系统是没有办法承担任何责任的”。比如，当人给智能体设定一个“不惜代价提高社区信息平台的点击率”的命令，AI很可能会为了完成指标，自主选择推送大量能引发焦虑、或者博人眼球的虚假信息。更棘手的是，由于它是自主长线运行，等人类回过头发现不对劲时，社会信任的裂痕往往已经无法修补。
那么，什么决策永远不能交给AI？加州大学伯克利分校人类兼容人工智能中心执行主任马克·尼兹伯格（Mark Nitzberg）的回答尤为坚决：“任何有生死相关后果的事都不行。”薛澜的回答更加直接：“涉及价值判断的问题不能交给AI。”
信任在哪？安全的AI不是造出来再“补课”
AI的“黑盒”属性，让信任问题更令人担忧。尼兹伯格说，现代工程学盖一座桥，工程师能通过严密的力学计算，百分之百保证桥的承重和安全，但现在的AI代理依然是一个“黑盒”，缺乏这种确定性。“现在，很多科技企业都是先把桥盖好，等通了车、发现有了塌方迹象，再急忙去打补丁。这太危险了！必须像建造桥梁一样，让开发系统的人承担举证责任。在写代码、设计架构的最初阶段，就将安全性在设计阶段就融入系统本身，做到先造出安全的AI，而不是造出AI再去想办法让它变得安全。”
“AI发展如果盲目崇拜效率，会把透明度‘省’掉。系统的复杂叠加也正在剥夺公众的知情权。”纽约科学院院长兼首席执行官杜宁凯（Nicholas B. Dirks）指出：当人类把越来越多的工作、意图和主动性委托给智能体时，往往为了追求极致的效率和生产力而让渡了决策原则。“但是，当千百个智能体开始在社会的各个角落长线运行，它们自己拆解任务、自己调用工具、甚至智能体之间自己进行数据交互。这时候，技术的黑盒开始发生叠加，信息不对称的鸿沟会越拉越大。当作为技术成果承受者的普通老百姓，无法去追踪：某一个关乎自己切身利益的决定，到底是哪个算法在什么时间、根据什么逻辑做出来，社会信任将遭遇大麻烦。”
圆桌讨论 新民晚报记者 马丹 摄
行动在哪？AI治理正在按下加速键
AI治理还需全球合作，让共识变成一套管用的国际机制。2026世界人工智能大会已经释放出了明确的信号：AI全球治理正在从碎片化讨论走向实质性合作。大会开幕前一天，来自29个国家的代表共同签署协定，世界人工智能合作组织在上海正式成立。这是一个独立的政府间国际组织，旨在促进人工智能国际合作和全球治理。大会发布了主席声明，明确四项核心原则：以人为本、智能向善、公平普惠、协同共治。
国家发展改革委会同有关部门发布《人工智能合作发展行动计划》，从数据、算力、生态、赋能、人才、规则、治理和伦理等方面提出八项行动。工业和信息化部指导发布《国际人工智能伦理治理行动计划》。未来5年，中国将面向发展中国家提供5000个人工智能专题研修培训名额。去年成立的全球人工智能创新治理中心也集中发布系列重磅成果，包括伦理审查智能体系统“一鉴”2.0、《全球人工智能治理指数（2026）》等。其中，治理指数首次将“全球南方”视角纳入AI治理评估，覆盖全球40个代表性经济体，确立了能力、责任、普惠、持续四维并重的评估框架。
专家们开出了各自的“药方”。杜宁凯认为，AI治理可以借鉴航空、金融等行业成熟的监管经验，“而且，AI发展到今天，也需要这样一个多方参与、能真正进行技术审查的国际监管体系”。薛澜则建议，国际社会要确定公认的安全红线，建立一个跨国界的风险预警机制，当模型有欺骗人类的行为就及时发出预警，与此同时，要让大众对人工智能体系更加了解，并且支持人工智能伦理道德问题和相关的研究知识。
伯乐配资提示：文章来自网络，不代表本站观点。
