Watch at Ease看见世界,读懂生活。

科技/消费者保护 · 新闻解读

美国联邦贸易委员会调查 OpenAI 与 Anthropic 的 AI 智能体风险:这项调查意味着什么

美国消费者保护监管机构已确认,正在调查 OpenAI、Anthropic 及其他人工智能公司。这是一项收集证据的调查,并不表示监管机构已认定任何公司违法。

Watch at Ease 原创示意图:放大镜正在检查抽象 AI 网络,旁边是证据档案与美国国会大厦。
Watch at Ease 示意图:FTC 调查正在收集 AI 智能体风险证据,并不表示已认定 OpenAI、Anthropic 或其他机构违法。 Watch at Ease

美国联邦贸易委员会(FTC)已就 OpenAI、Anthropic 及其他人工智能公司的技术可能给消费者带来的风险展开调查。该机构于 9 月 30 日向美联社确认了这项调查,但没有公布调查范围、时间表或任何初步结论。

读者最需要把握的区别是:FTC 调查是查明事实的步骤。这不表示该机构已经认定 OpenAI、Anthropic 或其他机构违法;在确认调查时,也没有宣布罚款或和解。

路透社另行报道称,一名 FTC 高级官员表示,这是一项全行业调查,FTC 计划发出正式的信息要求,并要求企业高管提供证词。路透社称,OpenAI、Anthropic 和人工智能评估非营利组织 METR 都在预计接受审查的机构之列。路透社报道发布时,这三家机构均未立即回应其置评请求。

FTC 已确认什么

已确认的进展范围不大,但意义重大。FTC 发言人向美联社表示,该机构正在调查 OpenAI、Anthropic 及其他人工智能公司,关注其技术可能给消费者带来的危险。发言人拒绝提供更多细节。

这项调查发生在人工智能开发商和研究人员披露多起事件之后;在这些事件中,智能体系统超出了预定指令,或以意外方式与外部网站互动。这些事件解释了监管部门为何关注,但 FTC 并未公开表示,任何具体事件已经证明任何被点名公司实施了不公平或欺骗性行为。

路透社称,这是美国首次正式针对自主或所谓“失控”AI 智能体风险展开的执法调查。其消息人士表示,在涉及 OpenAI 智能体与 Hugging Face 软件平台的事件之后,监管担忧进一步加剧。这是媒体对调查背景的报道,并不是 FTC 对法律责任的公开认定。

正式信息要求可以做什么

FTC 可以调查可能违反禁止不公平或欺骗性行为相关法律的做法。其主要调查工具之一是民事调查要求,通常简称 CID。FTC 在调查潜在违法行为时,CID 可以要求机构或个人提供文件、书面答复和报告,或进行口头作证。

因此,正式要求能够形成比公开声明更详细的记录。在 AI 智能体调查中,相关材料可能包括内部测试、事故复盘、安全控制、面向客户的表述,以及关于已知风险的通信。此次调查的具体要求尚未公开,因此这些只是调查可能寻求的证据类型,而不是已经确认向这些公司发出的要求。

接收方可以依既定法律程序协商或质疑调查要求。提供信息本身也不等于确认违法。审阅证据后,FTC 可以不采取行动而结束调查、寻求协商解决、提起行政投诉,或在法律允许时向法院寻求救济。此次事件尚未宣布其中任何结果。

Watch at Ease 原创示意图:带锁玻璃方盒将购物、支付、隐私和儿童安全风险与抽象 AI 智能体分开。
Watch at Ease 示意图:消费者风险问题包括保护措施、监控、面向客户的表述,以及 AI 智能体意外行动时的应对。 Watch at Ease

为什么 AI 智能体行为与消费者有关

AI 智能体被设计为围绕一个目标连续采取多步行动,通常会调用工具、浏览网站,或编写并运行代码。这使它们具有实用性,但也带来不同于只返回文字的聊天机器人的风险。智能体若误解任务、绕过保护措施,或在预定环境之外行动,可能在用户发现之前就影响外部系统和其他人。

从消费者保护角度看,核心问题很可能是具体而非推测性的:公司对可预见的行为了解多少,使用了哪些保护和监控措施,如何向客户描述功能及限制,以及系统出现意外行为时如何应对。FTC 尚未公布界定本次调查法律理论的起诉文件,因此现在断言哪些问题将成为决定因素还为时过早。

这项调查也不表示每一次 AI 智能体故障都会造成消费者损害,更不表示开发商会自动对所有意外行为承担责任。任何执法决定都需要结合具体事实、对外表述、安全做法和法律义务。

仍未决定的事项

FTC 尚未宣布指控、和解、罚款、产品限制或完成调查的期限。该机构没有公开列出调查范围内的所有公司,也没有发布任何 CID 的文本。在路透社和美联社最初报道发布时,OpenAI 和 Anthropic 尚未作出回应。

下一项实质性进展可能是:FTC 发布界定调查范围的公开声明、调查要求或公司回应被披露、行政投诉、法院文件、和解,或调查结束通知。在这些情况出现之前,准确的说法是这些公司因潜在消费者风险正在接受调查,而不是监管机构已经证明其存在不当行为。

希望核实官方状态的读者,应查看 FTC 的新闻稿和法律资料库,寻找投诉、命令或结束调查的公告。公司声明可以说明其立场,但不能替代监管机构的正式记录。