Alauda AI
  • Русский

    • Быстрый старт

    В этом разделе приведен пример быстрого старта для создания AI Agent с помощью Llama Stack.

    Содержание

    Предварительные требованияПример быстрого стартаFAQHow to prepare Python 3.12 in NotebookДополнительные ресурсы

    Предварительные требования

    • Python 3.12 или выше (если это требование не выполнено, см. FAQ: How to prepare Python 3.12 in Notebook)
    • Llama Stack Server установлен и запущен через Operator (см. Install Llama Stack), при этом VLLM_URL указывает на endpoint модели, обслуживаемой vLLM (см. примечания к установке)
    • Доступ к среде Notebook (например, Jupyter Notebook, JupyterLab)
    • Среда Python с установленными llama-stack-client, fastmcp (для раздела MCP) и другими зависимостями Notebook

    Пример быстрого старта

    Простой пример создания AI Agent с помощью Llama Stack доступен в следующих ресурсах:

    Скачайте notebook и загрузите его в среду Notebook для запуска.

    В notebook демонстрируются:

    • Два варианта инструментов: инструменты на стороне клиента (@client_tool) и инструменты MCP (FastMCP + toolgroups.register)
    • Общий поток агента: подключение к Llama Stack Server, выбор модели, создание Agent с tools=AGENT_TOOLS, затем запуск сессий и потоковых шагов
    • Потоковые ответы и журналирование событий
    • Необязательное развертывание agent с помощью FastAPI

    FAQ

    How to prepare Python 3.12 in Notebook

    1. Скачайте предварительно скомпилированный пакет установки Python:

      wget -O /tmp/python312.tar.gz https://github.com/astral-sh/python-build-standalone/releases/download/20260114/cpython-3.12.12+20260114-x86_64-unknown-linux-gnu-install_only.tar.gz

    2. Распакуйте его командой:

      mkdir -p ~/python312
tar -xzf /tmp/python312.tar.gz -C ~/python312 --strip-components=1

    3. Установите и зарегистрируйте kernel:

      export PATH="${HOME}/python312/bin:${PATH}"

python3 -m pip install ipykernel
python3 -m ipykernel install --user --name python312 --display-name "Python 3.12"

    4. Переключите kernel на странице notebook:

      • Откройте среду Notebook (например, Jupyter Notebook или JupyterLab) в браузере, затем откройте существующий notebook или создайте новый.
      • В интерфейсе notebook найдите имя текущего kernel (обычно оно отображается в правом верхнем углу страницы, например "Python 3" или "python3").
      • Нажмите на имя kernel или используйте меню Kernel → Change Kernel.
      • В списке kernel выберите "Python 3.12" (display name, зарегистрированное на шаге 3).
      • После переключения новые ячейки будут выполняться с Python 3.12.

    Примечание: При непосредственном выполнении команд python и pip на странице notebook будет по-прежнему использоваться default python. Чтобы использовать команды версии python312, необходимо указывать полный путь.

    Дополнительные ресурсы

    Для получения дополнительных материалов по разработке AI Agents с помощью Llama Stack см.:

    • Llama Stack Documentation — официальная документация Llama Stack, охватывающая все темы, связанные с использованием, API providers и основными концепциями.
    • Llama Stack Core Concepts — подробный разбор архитектуры Llama Stack, стабильности API и управления ресурсами.
    • Llama Stack GitHub Repository — исходный код, примеры приложений, конфигурации дистрибутива и информация о том, как добавлять новые API providers.
    • Llama Stack Example Apps — официальные примеры, демонстрирующие, как использовать Llama Stack в различных сценариях.