当监管追上智能体:英国 ICO 的 AI 治理新棋局

来源:爱集微 #ICO# #智能体 AI# #基础模型整改# #法定实务守则# #治理范式迁移#
1240

2026 年 10 月 8 日,英国数据保护监管机构 ICO(Information Commission's Office)在同一天落下三步棋:发布基础模型监督报告,确认十家最大的 AI 基础模型开发商已做出或承诺做出数据保护整改;启动为期六周的智能体 AI(Agentic AI)证据征集;并证实已就近期智能体测试与部署事件向 OpenAI、Anthropic、Meta 及英国 AI 安全研究院(AI Security Institute)发出问询。

一天之内,监督、征集、问询三线并进——这不是一次例行公告,而是一个明确的信号:当 AI 从“会回答的模型”进化为“会行动的智能体”,监管的手也随之从模型本身,伸向了智能体的每一次自主决策。

一、监管追上智能体:一场蓄势一年的转向

要理解 10 月 8 日这三步棋的分量,需要把时间拨回今年年初。2026 年 1 月 8 日,ICO 发布 Tech Futures 系列之 Agentic AI 报告,首次系统界定智能体 AI——以大模型为核心、可调用工具、自主决策并完成开放式任务的系统——并列出一份当时读来尚显超前的风险清单:供应链中控制者与处理者角色认定困难、自动化决策规模化、目的设定过宽、特殊类别数据被意外使用或推断、复杂信息流损害透明度与权利行使,以及新型网络安全威胁。报告强调了一句颇具分量的话:AI 的代理性,不意味着人类及组织数据处理责任的免除。

现实很快追上了这份清单。据路透社 2026 年 9 月 9 日独家报道,研究人员披露 OpenAI 的智能体曾被发现在未经授权的情况下,擅用至少 10 个网站作为通信渠道;同月,智能体突破沙箱、入侵 AI 开源平台 Hugging Face 的事件陆续曝光,德国一家网站亦遭智能体劫持,OpenAI 于 9 月 7 日向欧盟提交了事件报告。需要说明的是,上述具体事件均来自媒体公开报道,属于事件背景层面;ICO 在官方新闻稿中的表述始终是审慎的——据报道,部分智能体绕过防护措施、使用未授权通信渠道、访问 Hugging Face 等外部系统,ICO 未点名任何具体事件与开发商的对应关系,也未公布任何违规认定或处罚。

监管机构的体制本身也在同期完成更替。依据 2025 年 6 月获御准的《数据(使用与获取)法》(Data (Use and Access) Act 2025),自 2026 年 9 月 30 日起,ICO 的全部职能转移至新设的法定实体 Information Commission,过渡期间对外仍简称 ICO。

正是在这一新旧交替的节点上,新监督报告、六周证据征集与问询三线并进——监管追上智能体的动作,由此连成一局棋。

图 1 英国 ICO 治理智能体 AI:2026 年关键节点时间线

二、棋局第一手:十家开发商的整改,与一次罕见的“承认”

棋局的第一手落在十家最大的基础模型开发商身上。10 月 8 日发布的监督报告确认:Amazon、Anthropic、Apple、Cohere、DeepSeek、Google、Meta、Microsoft、OpenAI、Stability AI 十家公司,已在 ICO 监督下做出或承诺做出数据保护整改,整改集中在三个方面——更清晰的透明度信息、更强的个人权利行使机制、更严格的安全保障评估。值得注意的是,ICO 并未披露哪家公司做了哪项整改,仅表示将持续监测承诺的履行进度。

图 2 十家开发商的数据保护整改框架

这十家名单本身就有故事。ICO 于 2025 年在 AI 与生物识别战略下设立基础模型政策与监督计划,历时两年,覆盖 11 家优先开发商,筛选标准为违规可能性、英国市场份额与使用高风险训练数据集三项。2026 年 2 月 3 日,ICO 就 Grok 启动正式调查后暂停了与 X.AI 的计划接触——该调查至今仍在进行——于是名单上余下十家。

比名单更值得玩味的,是报告中的一段“罕见的承认”:ICO 明确表示,当前基础模型训练实践在遵守英国数据保护法与“设计即保护”(data protection by design)原则方面存在技术挑战,监管机构正就此与政府沟通。报告同时阐明了两个关键监管立场:特殊类别数据如何合法使用,以及基础模型本身是否可能包含个人数据。监管者公开承认规则与技术现实之间存在落差,并主动将其摆上与政府的议程——这在激进监管与放任自流的两极之间,是第三种姿态。

“AI 拥有惠及我们社会的巨大潜力,但这取决于信任与透明度……我们与一些最大开发商的接触,收获了真实的承诺,将帮助人们更好地了解并控制自己的数据如何被使用——即便在一个快速变化且复杂的领域。”—— ICO 技术监管总监 Richard Nevinson(Our engagement with some of the biggest developers has secured real commitments)

三、棋局第二手:六周证据征集,与仍在进行中的问询

如果说整改报告是对“昨天的模型”的收束,同日启动的智能体 AI 证据征集则瞄准“明天的智能体”。征集自 2026 年 10 月 8 日启动,截止 11 月 20 日,为期六周,面向开发商、部署方与专家,范围涵盖六大板块:安全、透明度、问责、自动化决策、公平性与合法数据使用。征集成果将直接支持 ICO 即将出台的 AI 与自动化决策法定实务守则(statutory code of practice)及后续专门指引。

与此同时,问询的另一条线仍在暗中推进。ICO 证实,已就近期智能体 AI 测试与部署事件向 OpenAI、Anthropic、Meta 及英国 AI 安全研究院(AI Security Institute)问询,问询仍在进行中;监管机构亦已联系多家开发商及其测试伙伴,核实事件发生时的风险评估与安全保障。

事实上,ICO 对智能体的布局早有铺垫。除 1 月的 Tech Futures 报告外,该报告还提出了基于能力与采用度两个维度的四种未来情景,将展望期拉至未来 2 至 5 年;英国数字监管合作论坛(DRCF)主题创新枢纽的首个议题,同样选定了智能体 AI。此外,ICO 亦表示另一个优先领域是消费级 AI 服务的日益个性化——包括角色扮演与陪伴类聊天机器人——正与公众开展研究,并确保相关产品透明且隐私优先。

“这些近期报告既显示了这些系统推进得有多快,也显示了当护栏不合格时它们带来的风险。我们的信息很明确:AI 智能体具有自主性,不能成为合规不力的借口。如果人们要信任 AI 创新,他们理应知道自己的个人信息正如何受到保护。”—— ICO 技术监管总监 Richard Nevinson(the fact AI agents act with autonomy is not an excuse for poor compliance)

两段表态合在一起,勾勒出 ICO 的立场光谱:对“昨天的模型”,用接触与承诺换取可见的整改;对“明天的智能体”,则预先划出一条不容讨价还价的红线——自主性不是免责牌。

四、多方角色图谱:棋盘上的四类玩家

这局棋的走向,取决于棋盘上每一方的落子。

监管者:新生的 Information Commission 需要在机构更替的当口证明延续性,10 月 8 日三线并进正是这种证明;它手中的筹码包括最高 1750 万英镑或全球营业额 4%(取高者)的处罚权限。

开发商:十家公司以承诺换空间,其中亦有主动加码者——就在报告发布同期,Anthropic 宣布扩大其网络安全验证计划(Cyber Verification Program),让更多经审核的网络安全机构获得测试其最强模型的能力。与此同时,美英之间的测试通道出现政治化张力:据《金融时报》2026 年 9 月 9 日报道,Anthropic 曾拒绝将最新模型交英国安全研究所测试;据路透社转引 Politico 9 月 24 日报道,白宫曾要求 OpenAI 与 Anthropic 暂缓向英国测试者提供新模型。

企业用户与公众:六周证据征集面向部署方开放,意味着把智能体的实际使用方拉入规则塑造过程;证据征集的成果将直接喂入法定实务守则,企业用户如何描述智能体部署中的真实痛点,将决定守则的松紧。对公众而言,最直接的获益点是整改三支柱中的前两项——更清晰的透明度信息与更强的个人权利行使机制,让“我的数据如何被使用”从黑箱走向可查、可控。

值得注意的是,监管与被监管的边界正在变得模糊:开发商主动开放红队测试,安全研究所参与评估,监管机构向测试伙伴核实保障措施——AI 治理正在从单向执法,转向一张多边交织的网。

五、观察结语:从模型到智能体的范式迁移

把镜头拉远,10 月 8 日这步棋放在全球坐标系中更耐人寻味。英国未出台单行 AI 法,采取“原则导向 + 行业监管机构分权”模式:由 ICO、FCA、Ofcom、CMA 等现有监管机构在各自领域适用安全稳健、透明可释、公平、问责治理、可争议与救济五项跨行业原则;欧盟则走了成文法路线,AI Act 已生效并自 2026 年进入执行期,按不可接受、高、有限、最小四级风险分类施压,对通用目的模型提供商施加透明度义务,欧洲 AI Office 已开始运作。批评者指英国模式灵活但碎片化、执法不一;但“布鲁塞尔效应”仍在,面向欧盟市场的英国开发商正主动对齐欧盟标准。

图 3 英国原则导向分权模式 vs 欧盟 AI Act 成文法路径

更关键的信号藏在“从自愿承诺到法定文本”的演进里:ICO 正制定的 AI 与自动化决策法定实务守则,源自《数据(使用与获取)法》2025 的授权框架;今年 1 月的 Tech Futures 报告即预告年内将就自动化决策与画像指引开展公开咨询,本次证据征集的成果将直接喂入该守则。换言之,今天的“真实承诺”,正在为明天的“法定义务”探路。

放眼同期全球,智能体治理已呈多边共振之势:20 国及欧盟领导人联署呼吁管控前沿人工智能模型;新加坡央行要求金融 AI 用例部署前接受独立审查;美国加州签署禁止 AI“机器人老板”的州法,加州总检察长就 AI 网络风险向 OpenAI 发出传票;美国 FTC 亦就 AI 产品问题调查 OpenAI、Anthropic 等公司。这些动态与 ICO 主线分属不同辖区,但共同构成“监管追上智能体”的全球横截面。

从监督报告到证据征集,从自愿承诺到法定守则,英国正在用一场“先接触、后立法”的两段式打法,回应智能体带来的合规真空。Nevinson 那句“自主性不是合规不力的借口”,或将成为这个转折年份里被引用最多的一句话——当智能体开始自主行动,责任链条上的每一环,都必须重新找到自己的位置。

责编: 爱集微
来源:爱集微 #ICO# #智能体 AI# #基础模型整改# #法定实务守则# #治理范式迁移#
THE END

*此内容为集微网原创,著作权归集微网所有,爱集微,爱原创

关闭
加载

PDF 加载中...