快速开始

本节提供了使用 Llama Stack 创建 AI Agent 的快速入门示例。

前提条件

  • Python 3.12 或更高版本(如果不满足,请参阅 FAQ: 如何在 Notebook 中准备 Python 3.12
  • 通过 Operator 安装并运行的 Llama Stack Server(参见 安装 Llama Stack
  • 可访问的 Notebook 环境(例如 Jupyter Notebook、JupyterLab)
  • 已安装 llama-stack-client 及所需依赖的 Python 环境
  • LLM 提供商的 API 密钥(例如 DeepSeek API 密钥)

快速入门示例

以下资源提供了使用 Llama Stack 创建 AI Agent 的简单示例:

下载该 notebook 并上传至 Notebook 环境运行。

该 notebook 演示了:

  • 连接到 Llama Stack Server 及客户端设置
  • 使用 @client_tool 装饰器定义工具(天气查询工具示例)
  • 客户端连接到 Llama Stack Server
  • 模型选择及带工具和指令的 Agent 创建
  • Agent 执行,包含会话管理和流式响应
  • 结果处理与展示
  • 可选的 FastAPI 部署示例

FAQ

如何在 Notebook 中准备 Python 3.12

  1. 下载预编译的 Python 安装包:

    wget -O /tmp/python312.tar.gz https://github.com/astral-sh/python-build-standalone/releases/download/20260114/cpython-3.12.12+20260114-x86_64-unknown-linux-gnu-install_only.tar.gz
  2. 解压:

    mkdir -p ~/python312
    tar -xzf /tmp/python312.tar.gz -C ~/python312 --strip-components=1
  3. 安装并注册内核:

    export PATH="${HOME}/python312/bin:${PATH}"
    
    python3 -m pip install ipykernel
    python3 -m ipykernel install --user --name python312 --display-name "Python 3.12"
  4. 在 notebook 页面切换内核:

    • 在浏览器中打开你的 Notebook 环境(例如 Jupyter Notebook 或 JupyterLab),然后打开已有 notebook 或新建一个。
    • 在 notebook 界面,找到当前内核名称(通常显示在页面右上角,例如 “Python 3” 或 “python3”)。
    • 点击该内核名称,或使用菜单 Kernel → Change Kernel
    • 在内核列表中选择 "Python 3.12"(即步骤 3 中注册的显示名称)。
    • 切换后,新单元格将使用 Python 3.12 运行。

注意:在 notebook 页面直接执行 python 和 pip 命令时,仍会使用默认 python。需要指定完整路径以使用 python312 版本的命令。

其他资源

有关使用 Llama Stack 开发 AI Agent 的更多资源,请参阅: