Alauda AI
  • Русский

    • Share Models

    Содержание

    IntroductionSteps

    Introduction

    Хотя в AI платформе пока нет пользовательского интерфейса для совместного использования моделей, вы всё ещё можете сделать это вручную. Прежде чем перейти к шагам, давайте рассмотрим важные моменты.

    Чтобы опубликовать большую языковую модель (LLM) в виде сервиса вывода, необходимо добавить необходимые метаданные model card, такие как pipeline_tag (на платформе называется Task Type) и library_name. Эта информация обычно хранится в виде метаданных в файле README.md в корневой директории модели.

    В качестве альтернативы вы можете добавить эти метаданные после загрузки модели в репозиторий моделей AI платформы. В интерфейсе File Management нажмите кнопку "Edit Metadata", выберите параметры во всплывающем окне и сохраните.

    Как только модель содержит эти необходимые метаданные, она готова к публикации. Важно помнить, что вы не можете редактировать метаданные для моделей, которые уже были опубликованы. Это намеренное ограничение платформы.

    Также, если вы не используете UI для добавления метаданных (например, вы создали файл README.md вручную), вам нужно добавить несколько тем (topics) в репозиторий модели на GitLab. Это необходимо, чтобы платформа корректно распознала, что модель готова к выводу.

    WARNING

    Для выполнения этих действий требуются права администратора GitLab. Пожалуйста, обратитесь к вашему администратору.

    Steps

    Добавление метаданных Model Card: два варианта

    Существует два способа добавить метаданные model card. Вам нужно использовать только один из них, делать оба не обязательно.

    Вариант 1: Использование UI

    Это самый простой способ. После загрузки модели в репозиторий AI платформы выполните следующие действия:

    1. Перейдите в интерфейс File Management.

    2. Нажмите кнопку "Edit Metadata".

    3. Во всплывающем окне установите Task Type в соответствии с вашей моделью и желаемым сервисом. Для Framework, если нет особых требований, выберите transformers.

    4. Сохраните изменения.

    Вариант 2: Редактирование файла README.md напрямую

    Если вы предпочитаете управлять метаданными непосредственно в файлах модели, вы можете добавить блок метаданных в самый верх файла README.md.

    Добавьте следующий блок метаданных, установив pipeline_tag в соответствии с вашей моделью, а library_name — в transformers, если не указано иное.

    ---
pipeline_tag: text-classification
library_name: transformers
language: []
datasets: []
metrics: []
---
    INFO

    Примечание: если вы используете этот способ, необходимо также добавить соответствующие темы (topics) в репозиторий модели на GitLab, чтобы платформа распознала метаданные.

    1. Сначала перейдите в проект вашей модели в GitLab. В левой навигационной панели выберите Settings, затем General.

    2. В разделе "Project topics" добавьте следующие параметры:

      • Для pipeline_tag значение темы должно быть "<pipeline_tag value>" (например, text-classification).

      • Для library_name значение темы должно быть "aml_framework_<library_name value>" (например, aml_framework_transformers).

    3. Сохраните изменения, обязательно прокрутите страницу вниз и нажмите кнопку "Save changes" для применения обновлений.

    Изменение видимости проекта с Private на Public

    1. Перейдите в настройки проекта:

      Откройте ваш проект в GitLab. В левой боковой панели нажмите Settings, затем выберите General. Вы попадёте на страницу общих настроек проекта.

    2. Разверните параметры видимости:

      На этой странице найдите раздел "Visibility, project features, permissions" и нажмите стрелку для его раскрытия.

    3. Измените уровень видимости:

      В раскрытом меню найдите выпадающий список "Project visibility". Нажмите на него и выберите Public из списка.

    4. Сохраните изменения:

      После выбора Public обязательно прокрутите страницу вниз и нажмите кнопку "Save changes" для применения изменений.

      CAUTION

      Сделав репозиторий модели публичным, вы открываете доступ ко всем файлам репозитория (включая код и, возможно, веса модели) и связанным метаданным модели для всех пользователей с доступом к вашему экземпляру. Перед изменением видимости убедитесь, что нет конфиденциальных данных.