提示工程

Prompting LLM 是任何 LLM 应用的基本单元。你可以完全围绕提示工程构建整个应用，或与其他模块（如检索）协同工作以构建 RAG、代理等。

LlamaIndex 支持 LLM 抽象以及从简单到高级的提示抽象，从而使复杂的提示工程工作流成为可能。

LLM 集成

LlamaIndex 支持 40 多个 LLM 集成，包括 OpenAI、Anthropic 等专有模型提供商，以及 Mistral、Ollama、Replicate 等开源模型/模型提供商。它提供了所有工具来标准化常见 LLM 使用模式的接口，包括但不限于异步、流式传输、函数调用。

这里是 LLM 的完整模块指南。

提示

LlamaIndex 具有强大的提示抽象，可以捕获与 LLM 的所有常见交互模式。

这里是 提示的完整模块指南。

基本功能

• 文本补全提示
• 聊天提示

高级

• 变量映射、函数、偏函数
• RichPromptTemplate 功能

提示链和管道

LlamaIndex 提供了强大的抽象，用于创建顺序提示链以及通用 DAG，以将提示与其他任何组件协同工作。这使你能够构建复杂的工作流，包括带有多跳查询理解层的 RAG 以及代理。

这些管道开箱即用地集成了可观测性合作伙伴。

提示链和管道的核心指南是通过我们的查询管道。