Llama Packs 🦙📦#

概念#

Llama Packs 是一个由社区驱动的中心，包含预打包模块/模板，您可以使用它们来快速启动您的 LLM 应用。

这直接解决了构建 LLM 应用的一大痛点；每个用例都需要拼凑自定义组件，并花费大量调优/开发时间。我们的目标是通过社区主导的努力来加速这一进程。

它们有两种使用方式

一方面，它们是预打包模块，可以用参数初始化并直接运行以实现特定用例（无论是完整的 RAG 流程、应用模板，还是更多）。您还可以直接导入子模块（例如 LLM、查询引擎）使用。
另一方面，LlamaPacks 是您可以检查、修改和使用的模板。

所有包都可以在 LlamaHub 上找到。 转到下拉菜单并选择“LlamaPacks”以按包过滤。

请查阅每个包的 README 以获取详细使用说明。示例包在此。

请参阅我们的发布博客文章了解更多详情。

使用模式#

您可以通过 CLI 或 Python 使用 Llama Packs。

CLI

llamaindex-cli download-llamapack <pack_name> --download-dir <pack_directory>

Python

from llama_index.core.llama_pack import download_llama_pack

# download and install dependencies
pack_cls = download_llama_pack("<pack_name>", "<pack_directory>")

您可以通过不同方式使用该包，例如检查模块、端到端运行或定制模板。

# every pack is initialized with different args
pack = pack_cls(*args, **kwargs)

# get modules
modules = pack.get_modules()
display(modules)

# run (every pack will have different args)
output = pack.run(*args, **kwargs)

重要的是，您也应该/可以进入 pack_directory 查看源代码文件/定制它。这是其意义所在的一部分！

模块指南#

下面给出了一些模块指南示例。记住，前往 LlamaHub 访问所有可用的包。