AI企业说自己的助手有安全保护，这句话怎样才能被外部核查？最近的一项调查把这个问题摆到了台面上。
据Semafor在9月30日的报道，美国联邦贸易委员会（FTC）官员确认，正在调查OpenAI、Anthropic以及AI评估机构METR等机构，关注相关技术的潜在风险。报道还称，机构计划随后发出调查取证要求。
这次新闻的新进展是调查被公开确认，不能写成“9月30日才启动调查”，也不能把调查本身当成违法或处罚结论。截至本文核对时，所引报道没有给出最终调查结果。
会执行任务，错误就有了不同的后果
我的理解是，AI助手进入真实工作以后，评价安全不能只停在回答是否得体。
举一个假设：助手把客户的交付日期看错，写进一份草稿，人还有机会修改。如果它随后把邮件发给客户，错误就进入了合作关系；如果又据此安排订单，修正还要涉及其他系统。相同的一处误读，随着执行权限扩大，会产生不同的处理成本。
因此，“有人工确认”也需要说明确认发生在哪里。人看到的是一句概括，还是实际要发送的完整内容？确认以后文件又变了，系统是否仍沿用之前的批准？这些具体环节，比一个醒目的“安全”标签更能解释产品怎样工作。
对企业用户而言，可检查的记录同样重要。出了偏差后，谁提出了任务、助手读取了什么、在哪一步获得授权，应当能够对应起来。没有这些材料，客户、服务商和开发者容易各讲各的过程。
这不意味着一次调查就会让所有AI服务停摆。具体对象、事实认定和后续措施，要等相应信息公布。眼下能够确定的，是外部审查正在要求企业回答问题。
在我看来，AI产品今后的交付材料里，除了功能演示，还会越来越需要一份能核对的过程说明：它被允许做什么，什么时候会停下来，发生错误后能否查清和补救。这样的说明能帮助客户判断，哪些工作适合交出去，哪些决定仍需自己掌握。