#快速入门

本节提供一个使用 Llama Stack 创建 AI 智能体的快速入门示例。

#前提条件

• Python 3.12 或更高版本（如果不满足，请参阅 FAQ: 如何在 Notebook 中准备 Python 3.12）
• 已通过 Operator 安装并运行的 Llama Stack Server（参见 Install Llama Stack），且 VLLM_URL 指向由 vLLM 提供服务的模型端点（参见安装说明）
• 可访问 Notebook 环境（例如 Jupyter Notebook、JupyterLab）
• 已安装 llama-stack-client、fastmcp（用于 MCP 部分）以及其他 Notebook 依赖项的 Python 环境

#快速入门示例

以下资源中提供了一个使用 Llama Stack 创建 AI 智能体的简单示例：

• Notebook:Llama Stack Quick Start Demo

下载该 notebook 并将其上传到 Notebook 环境中运行。

该 notebook 演示了：

• 两种工具选项： 客户端工具（@client_tool）和 MCP 工具（FastMCP + toolgroups.register）
• 共享的智能体流程： 连接到 Llama Stack Server，选择模型，使用 tools=AGENT_TOOLS 创建一个 Agent，然后运行 session 和流式 turn
• 流式响应和事件日志记录
• agent 的可选 FastAPI 部署

#FAQ

#如何在 Notebook 中准备 Python 3.12

1. 下载预编译的 Python 安装包：

   wget -O /tmp/python312.tar.gz https://github.com/astral-sh/python-build-standalone/releases/download/20260114/cpython-3.12.12+20260114-x86_64-unknown-linux-gnu-install_only.tar.gz

2. 使用以下命令解压：

   mkdir -p ~/python312
   tar -xzf /tmp/python312.tar.gz -C ~/python312 --strip-components=1

3. 安装并注册 Kernel：

   export PATH="${HOME}/python312/bin:${PATH}"
   
   python3 -m pip install ipykernel
   python3 -m ipykernel install --user --name python312 --display-name "Python 3.12"

4. 在 notebook 页面中切换 kernel：

   • 在浏览器中打开你的 Notebook 环境（例如 Jupyter Notebook 或 JupyterLab），然后打开一个已有 notebook 或创建一个新的 notebook。
   • 在 notebook 界面中，找到当前 kernel 名称（通常显示在页面的右上角，例如 "Python 3" 或 "python3"）。
   • 点击该 kernel 名称，或使用菜单 Kernel → Change Kernel。
   • 在 kernel 列表中，选择 "Python 3.12"（即第 3 步中注册的显示名称）。
   • 切换后，新单元格将使用 Python 3.12 运行。

注意：当你在 notebook 页面中直接执行 python 和 pip 命令时，仍然会使用默认的 python。你需要指定完整路径，才能使用 python312 版本的命令。

#其他资源

有关使用 Llama Stack 开发 AI 智能体的更多资源，请参阅：

• Llama Stack Documentation - Llama Stack 的官方文档，涵盖所有与使用相关的主题、API providers 和核心概念。
• Llama Stack Core Concepts - 深入了解 Llama Stack 架构、API 稳定性和资源管理。
• Llama Stack GitHub Repository - 源代码、示例应用、分发配置，以及如何添加新的 API providers。
• Llama Stack Example Apps - 演示在各种场景下如何使用 Llama Stack 的官方示例。