Обновления JAICP в марте 2025

Новое

• AI-агенты в сценарии бота.
• LLM в телефонии.
• Получение истории в формате для LLM.
• Публикация ботов в Mattermost.

Изменения

• Обновление метода $gpt.createChatCompletion.

Документация

• Пример интеграции с операторской платформой.
• Поля в ответе $nlp.match.

AI-агенты в сценарии бота

В JAICP появился новый тег AIAgent, который позволяет создавать и настраивать AI-агентов в сценарии. Агенты используют LLM, чтобы гибко поддерживать диалог и обрабатывать любые запросы пользователей.

В сценарии вы можете использовать сразу несколько агентов. Каждый агент имеет свою роль и цель. Например, агент может быть переводчиком, который работает с несколькими языками:

state: Start
    q!: $regex</start>
    a: Чем могу помочь?

state: Translation
    q!: * переведи *
    # Агент, который будет переводить текст
    AIAgent:
        id = translator_agent
        # LLM, которую использует агент
        model = gpt-4o
        # Роль в диалоге
        role = Профессиональный переводчик
        # Цель в диалоге
        goal = Переведи текст на другой язык
        # Инструкции для агента
        instructions = Если нужно, уточни у пользователя целевой язык. Дай 3 лучших варианта перевода
        # Агент перейдет в стейт /Start, если у пользователя больше нет вопросов
        nextState = /Start

Вы можете сами контролировать агента:

• Задать поведение с помощью инструкции.
• Попросить узнать данные у пользователя и сохранить их в сценарий.
• Разрешить агенту вызывать функции, написанные на JavaScript.

Как начать работу

1. Настройте подключение к Caila.
2. Укажите параметры тега.
3. Используйте тег в сценарии.

LLM в телефонии

Бета

В JAICP стал доступен тип ответа llmRequest. Он позволяет использовать LLM в телефонном канале с минимальными паузами:

• Бот по предложениям получает текст от LLM и так же по предложениям синтезирует речь. Оба процесса проходят параллельно.
• Вы можете указать фразы, которые бот произнесет, чтобы заполнить паузу в начале генерации текста.

Получение истории в формате для LLM

Новый метод $jsapi.chatHistoryInLlmFormat позволяет получить историю диалога с ботом в формате для LLM. Например, вы можете использовать историю в $gpt.createChatCompletion и типе ответа llmRequest.

Публикация ботов в Mattermost

Mattermost — мессенджер, который используется в качестве внутреннего чата в организациях и компаниях. Он позволяет создавать группы и каналы, обмениваться файлами и настраивать различные интеграции.

Теперь вы можете публиковать ботов в этот мессенджер с помощью JAICP или Aimylogic. Канал Mattermost имеет следующие возможности:

• Отправка и получение аудио, видео, изображений, файлов.
• Отображение кнопок.
• Запуск рассылок.
• Перевод на оператора.

Обновление метода $gpt.createChatCompletion

Метод $gpt.createChatCompletion позволяет обращаться к моделям ChatGPT из сценария бота.

Теперь вы можете:

• Выбрать модель, которая будет генерировать ответ. По умолчанию используется GPT-4o mini.
• Передать объект с любыми параметрами, которые поддерживает OpenAI API. Это позволяет гибко управлять поведением моделей.

Пример интеграции с операторской платформой

Мы добавили статью, в которой показана интеграция операторской платформы с JAICP. Для интеграции используются Chat API и Operator API.

В статье вы можете посмотреть, как взаимодействуют операторская платформа и JAICP в следующих сценариях:

• Обработка запроса пользователя только через бота, без подключения оператора.
• Перевод диалога на оператора.
• Обработка запроса пользователя через оператора.

Поля в ответе $nlp.match

Мы обновили статью о $nlp.match и добавили описание новых полей в ответе метода:

• nBest
• nluResults
• intent
• entities

С помощью этих полей вы сможете получить больше информации о результатах классификации.