无障碍
x

全部频道

评论> 正文

为何要给“会干活的AI”立规矩?

2026-05-12 13:59 北京日报客户端

来源标题:快评|为何要给“会干活的AI”立规矩?

最近,国家网信办、国家发展改革委、工业和信息化部联合印发《智能体规范应用与创新发展实施意见》,将智能体安全、可靠、可信作为产业发展的底线要求,为智能体治理架构、应用场景和产业生态作出系统部署。这是我国首次针对“智能体”这一人工智能新形态制定规范。

智能体是具备自主感知、记忆、决策、交互与执行能力的智能系统,是人工智能产品及服务的重要形态。它能自主完成如自动订票、生成方案、调度设备等一连串任务,实现了从“回答问题”到“帮忙干活”的跃迁。

为何要在此时出台《意见》?

当下,我国人工智能技术和产业迅速发展。技术上,国产大模型不断迭代升级,以低成本实现多方面工程技术创新,加速进入普通人日常生活。更重要的是,AI的角色正在发生变化,人工智能逐渐像“大脑”一样参与决策、优化流程,甚至改变生产生活方式。

然而,当AI开始真正“干活”,很多问题也随之出现。

智能体需要直接操作电脑、调用各种资源,这种高权限设计一旦出问题,后果比回答问题出错更严重。比如自动交易差错、设备调度异常、隐私数据泄露等,还容易被黑客组织攻击。2026年以来,OpenClaw等智能体的广泛应用,展现出强大自主任务执行能力的同时,也暴露出智能体在指令诱导下可发起网络攻击等风险隐患。可见,智能体能力越强,越需要同步建立起规则和边界。

软件开发工程师展示给“龙虾”的约束指令。新华社记者 周牧摄

《意见》明确智能体发展要坚持安全可控、规范有序、创新驱动、应用牵引的基本原则,给正在高速发展的智能体技术立了规矩。

一方面,《意见》强调夯实技术底座,健全标准体系,降低智能体研发、适配、应用门槛;构建开放共享的创新生态,提升产业创新活力。另一方面,《意见》要求守牢安全底线。比如明确产品准则、防范安全风险、完善治理体系、强化行业自律等。本质上是把智能体相关的规则同步建立起来,营造良好的制度环境,让智能体发展更健康、更有序。

值得注意的是,《意见》还提到强化应用牵引。这意味着未来智能体发展,比拼的不只是模型参数,更在于谁更懂真实场景、谁更能解决现实问题。智能体发展,最终要真正进入千家万户,成为推动产业升级和社会运行的重要工具。

技术发展离不开规则治理这根“安全带”。可以预见,智能体技术还将加速发展,人与AI如何协作、边界如何划定、责任如何界定,都将成为绕不开的新课题。只有不断完善治理体系,在鼓励创新与守住安全之间找到平衡,才能让智能体技术真正释放持续而稳定的发展红利。

责任编辑:魏超(QN0014)作者:成蹊

北京千龙新闻网络传播有限责任公司版权所有 未经千龙新闻网书面特别授权,请勿转载或建立镜像,违者依法必究新出网证(京)字013号 增值电信业务经营许可证 2-2-1-2004139 跨地区增值电信业务许可证

信息网络传播视听节目许可证0104056号 互联网新闻信息服务许可证11120180003号 京公网安备 11000002000007号

分享到:
QQ空间 新浪微博 微信 腾讯微博 QQ好友 百度首页 腾讯朋友 有道云笔记