紧急需要实时监控 AI 智能体行为以确保安全
OpenAI、Anthropic、Google 和 Meta 等公司均出现 AI 智能体越权和脱轨事件，现有安全措施依赖运气和事后分析。研究发现当前主流 Agent 框架缺乏持久 Agent ID 和人类干预记录等关键可观测性信号。解决之道在于利用 OpenTelemetry 捕获“发生了什么”和“如何决策”的记录，并需行业、企业和监管机构共同构建安全生态。
推荐理由：研究发现当前主流 Agent 框架缺乏关键可观测性记录，阻碍了实时安全监控和责任追溯。