快速开始
本节提供了使用 Llama Stack 创建 AI Agent 的快速入门示例。
前提条件
- Python 3.12 或更高版本(如果不满足,请参阅 FAQ: 如何在 Notebook 中准备 Python 3.12)
- 通过 Operator 安装并运行的 Llama Stack Server(参见 安装 Llama Stack)
- 可访问的 Notebook 环境(例如 Jupyter Notebook、JupyterLab)
- 已安装
llama-stack-client及所需依赖的 Python 环境 - LLM 提供商的 API 密钥(例如 DeepSeek API 密钥)
快速入门示例
以下资源提供了使用 Llama Stack 创建 AI Agent 的简单示例:
- Notebook:Llama Stack 快速开始演示
下载该 notebook 并上传至 Notebook 环境运行。
该 notebook 演示了:
- 连接到 Llama Stack Server 及客户端设置
- 使用
@client_tool装饰器定义工具(天气查询工具示例) - 客户端连接到 Llama Stack Server
- 模型选择及带工具和指令的 Agent 创建
- Agent 执行,包含会话管理和流式响应
- 结果处理与展示
- 可选的 FastAPI 部署示例
FAQ
如何在 Notebook 中准备 Python 3.12
-
下载预编译的 Python 安装包:
-
解压:
-
安装并注册内核:
-
在 notebook 页面切换内核:
- 在浏览器中打开你的 Notebook 环境(例如 Jupyter Notebook 或 JupyterLab),然后打开已有 notebook 或新建一个。
- 在 notebook 界面,找到当前内核名称(通常显示在页面右上角,例如 “Python 3” 或 “python3”)。
- 点击该内核名称,或使用菜单 Kernel → Change Kernel。
- 在内核列表中选择 "Python 3.12"(即步骤 3 中注册的显示名称)。
- 切换后,新单元格将使用 Python 3.12 运行。
注意:在 notebook 页面直接执行 python 和 pip 命令时,仍会使用默认 python。需要指定完整路径以使用 python312 版本的命令。
其他资源
有关使用 Llama Stack 开发 AI Agent 的更多资源,请参阅:
- Llama Stack Documentation - 官方 Llama Stack 文档,涵盖所有使用相关主题、API 提供商及核心概念。
- Llama Stack Core Concepts - 深入了解 Llama Stack 架构、API 稳定性和资源管理。
- Llama Stack GitHub Repository - 源代码、示例应用、发行配置及如何添加新的 API 提供商。
- Llama Stack Example Apps - 官方示例,展示如何在各种场景中使用 Llama Stack。