跳到内容

追踪和调试#

调试和追踪应用程序的运行是理解和优化它的关键。LlamaIndex 提供了多种方法来实现这一点。

基本日志记录#

查看应用程序正在做什么的最简单方法是开启调试日志记录。这可以在应用程序的任何地方完成，如下所示：

import logging
import sys

logging.basicConfig(stream=sys.stdout, level=logging.DEBUG)
logging.getLogger().addHandler(logging.StreamHandler(stream=sys.stdout))

回调处理器#

LlamaIndex 提供了回调，以帮助调试、跟踪和追踪库的内部工作。使用回调管理器，可以添加任意数量的回调。

除了记录与事件相关的数据外，您还可以跟踪每个事件的持续时间和发生次数。

此外，还会记录事件的追踪图，回调可以随意使用这些数据。例如，LlamaDebugHandler 默认会在大多数操作后打印事件的追踪。

您可以像这样获得一个简单的回调处理器：

import llama_index.core

llama_index.core.set_global_handler("simple")

您还可以学习如何构建自己的自定义回调处理器。

可观测性#

LlamaIndex 提供一键式可观测性，让您能够在生产环境中构建有原则的 LLM 应用。

此功能允许您将 LlamaIndex 库与我们合作伙伴提供的强大可观测性/评估工具无缝集成。配置一次变量，您就可以执行以下操作：

  • 查看 LLM/提示输入/输出
  • 确保任何组件 (LLMs、嵌入) 的输出符合预期
  • 查看索引和查询的调用追踪

要了解更多信息，请查阅我们的可观测性文档