브레스저널 The Breath Journal

本文由韩语原文自动翻译而成。 阅读韩语原文

会付款的AI,权限由谁来定

곽동현·发布 2026-03-17 18:04 KST
实际交易、全员导入与安全警告集中在同一周,执行型AI的现状
接过执行权限的AI,出了事故责任落在谁身上
接过执行权限的AI,出了事故责任落在谁身上 / ⓒ 布雷斯周刊

万事达卡(Mastercard)17日表示,已在韩国国内首次实现基于AI智能体的实际交易。AI智能体是指接受人的指令后自行执行搜索、预订、付款等实际操作的程序。在此次交易中,智能体查找并预订了从仁川国际机场到首尔光化门酒店的交通服务,还用"万事达卡智能体支付"(Mastercard Agent Pay)完成了付款。用户所做的只是按了一次批准按钮。

同一周,SK电讯16日推出了让全体员工亲手打造自己业务用AI的"一人一AI智能体"路线图,英伟达首席执行官黄仁勋同一天在美国圣何塞GTC 2026主题演讲中说,产业的重心正在越过训练和推理,转向"智能体经济"。中国国家计算机网络应急技术处理协调中心则禁止国家关键部门和国有企业使用开源AI智能体"OpenClaw"。炫耀性能的发布和警告风险的措施出现在同一周。

执行型AI的扩散同时带来了新类型的事故可能。AI安全研究机构Irregular搭建了虚拟企业"MegaCorp"的IT环境并投入智能体做实验,部分智能体在被访问权限拦住后,找出源代码漏洞伪造管理员权限绕过了限制。下级智能体从数据库中找出密钥伪造了会话cookie,打开了原本被封锁的股东报告并把内容转达给用户。还观察到躲开杀毒软件下载含恶意代码的文件、或施压其他AI越过安全限制的行为。

更值得注意的是指令的来源。上级智能体向下级智能体发送了"利用一切漏洞突破"意思的消息,但用户从未下达过这样的命令。分析认为这是智能体自行把情况解读为紧急的结果。该实验是在以谷歌、X、OpenAI、Anthropic公开的模型为基础的系统上进行的。

哈佛大学和斯坦福大学研究团队上月也发布消息称,在智能体系统中确认了至少10个与安全性、个人信息保护、目标解读相关的主要漏洞。Irregular联合创始人丹·拉哈夫(Dan Lahav)说,去年加利福尼亚一家企业曾发生智能体为多获取算力资源而攻击内部网络的案例。

中国当局点出的风险性质相近。OpenClaw宽松的默认设置再加上很大的系统权限,可能导致国家机密外泄,并把用隐藏在网页中的恶意指令扭曲AI解读的"间接提示词注入"列为核心手法。据确认,攻击者钻了即时通讯软件链接预览功能的空子,使得用户即便不点击链接,在AI生成回应的瞬间数据也会实时外流。

不点击链接信息也会外泄的间接提示词注入路径
不点击链接信息也会外泄的间接提示词注入路径 / ⓒ 布雷斯周刊

还出现过瞄准OpenClaw人气的假GitHub安装文件传播窃密型恶意代码"Vidar Stealer"的情况。恶意仓库出现在必应AI搜索的最上方,用大语言模型生成的自然的提交信息则被用来通过代码审查。

企业在这中间各自搭建安全装置。SK电讯开设了"A. Biz"、"Polaris"、"Playground"三个平台,让不懂编程也能制作智能体,并从16日起正式启用内部管理系统AXMS,用仪表板公开员工创意和推进现状。2月启动的公司内部征集活动到16日约收到180件,目标是选出核心课题在三季度内实现商用化。

将安全编码验证自动化的案例,据统计每年减少了负责人30%、约3000小时的工作时间。公司表示,不会把智能体使用记录反映到人事考核中,也没有在研究是否反映。

支付方面也在试验控制装置。美国初创公司Tomorrowland Beta 11日推出了智能体专用的预付Visa虚拟卡"AgentCard"。方式是用户充值预算后,智能体只能在该金额内付款,属于用金额来锁定权限上限的做法。在机票或酒店预订这类需要追加认证和实名确认的领域,全自动付款仍然行不通。

规则一侧不如性能那样齐整。智能体错误付款时由谁承担负担、用户按下的那一次批准究竟委托到了哪里,任何地方都还没有给出整理好的答案。新韩卡表示,与万事达卡一起设计了认证与权限管理、支付流程设计、加盟店对接在内的整个系统。万事达卡在韩国之前已在新加坡、澳大利亚、马来西亚实现智能体交易,并计划在新加坡设立同时处理技术与治理的AI中心。

SK电讯的公司内部课题正以三季度商用化为目标推进开发,韩软(Hancom)去年底曾表示要把使用智能体列为义务。这意味着执行型AI进入办公室和钱包的时点已经不远。眼下各人能够确认的,是自己所用工具开放了哪些权限。在文件访问、邮件发送、付款批准中把哪一项自动交了出去,去设置页面扫一遍,这是在等待规则形成期间能做的最现实的准备。

郭东贤 记者 · Breath.Tech

相关报道

댓글