← 返回博客

OpenTelemetry GenAI Span 可能让 Prompt 变成持久日志

OpenTelemetry 的 GenAI 约定支持配置模型输入和输出的采集方式。应将 prompt 内容视为敏感数据,而不是常规可观测性元数据。

OpenTelemetry trace 可能成为应用处理的每条 prompt、文档片段或模型响应的第二份副本。这有助于调试,但也可能把敏感内容带入原本为操作元数据设计的 collector、exporter 和保留系统。

OpenTelemetry GenAI 语义约定为模型和 agent 操作定义了 span、event 和 metric。这些约定目前的状态是 Development;其 event 指南说明,在配置内容采集后,instrumentation 可以采集用户输入和模型响应。如何设计由你决定:trace 可以描述一次推理,而不保存它的 payload。

将操作元数据与内容分开

有用的推理 span 可以记录操作、模型名称、提供商、耗时、状态、token 数量和低基数错误类型。这些字段可以回答运维问题:哪个模型变慢了、请求失败频率如何,或部署后 token 使用量是否变化。

prompt 和响应正文回答的是另一类问题。它们可能包含账户数据、个人信息、用户粘贴的凭据、健康数据、客户文档或内部指令。采集后,这些内容可能被复制到 SDK 缓冲区、collector 队列、trace 后端、搜索索引、备份或事件截图中。每个去向都是另一个需要管理访问和删除的地方。

GenAI 约定允许配置内容采集,例如仅采集到 event,或同时采集到 span 和 event。不要把这个开关误认为完整的隐私控制。instrumentation 库可能添加属性,应用代码或 exporter 也可能独立附加请求和响应数据。

将生产环境默认不采集内容

不要把 prompt 和响应正文放入常规生产遥测。只发送支持服务健康和成本分析的元数据,并使用 prompt 模板或版本标签,而不是渲染后的 prompt。不要将工具参数、检索片段、用户标识符或对话历史当作“调试上下文”记录。

如果生产环境调查确实需要内容,应将其视为临时且目的受限的诊断模式。要求显式变更,限定受影响服务和时间窗口,将访问限制给指定响应人员,并在开始采集前设定较短的删除期限。不要为了线上事件处理方便而全局启用内容采集。

采样不是隐私边界:采样到的 trace 仍包含完整 payload。同样,用 hash 替换姓名也不会让 prompt 匿名化,因为文本或相关属性仍可能识别个人。更安全的做法是不采集解决运维问题所不需要的内容。

在来源端和 collector 进行过滤

使用 instrumentation 设置,从源头阻止敏感内容被输出。在遥测到达外部 exporter 或长期存储前,再通过 collector 端过滤或脱敏作为纵深防御。OpenTelemetry 安全指南介绍了 attribute、filter、redaction 和 transform processor,但后处理无法撤销内容此前已进入缓冲区或 exporter 的暴露。

测试实际导出的 payload,而不仅是 dashboard 视图。发送包含 canary 字符串的合成 prompt,在 collector 边界检查 span 和 event,并断言其中没有 prompt、响应、secret 和个人字段。更新 instrumentation 后重复测试:语义约定和库默认行为都可能变化,新属性也可能扩大数据流。

最后,为 trace 数据设置独立的访问和保留政策。可观测性系统通常对工程人员开放范围更广,保留时间也长于应用数据库。精简调试元数据,将获批的诊断流与常规遥测隔离,并明确队列、索引和备份中的删除方式。

来源

Comments

Loading comments…