Skip to content
TheChatArchiveThe Chat Archive
DeepSeekdeepseek-v3-0324· DeepSeekHugging Face LMArena Human Preference 140K

Расскажи про такие функции LLM, как структурированный выводи и вызов функций. Мне нужно…

From a Chatbot Arena battleThe same person sent this prompt to two anonymous models at once. Compare it with Coherecommand-a-03-2025’s answer.
  1. User

    Расскажи про такие функции LLM, как структурированный выводи и вызов функций. Мне нужно знать в деталях, как они работают, как их применять, когда лучше их использовать, а когда лучше применять что то другое. Мне нужна максимально подробная и детальная информация

  2. DeepSeek Assistant

    Структурированный вывод и вызов функций в LLM: полное руководство

    В современных языковых моделях (LLM) две важные функции — структурированный вывод и вызов функций (function calling) — позволяют более эффективно интегрировать LLM в программные системы.

    Разберём их по порядку:


    1. Структурированный вывод (Structured Output)

    Что это?

    Структурированный вывод — это способ заставить LLM возвращать данные в строго определённом формате (например, JSON, XML, YAML), а не в виде свободного текста.

    Как работает?

    1. Запрос с указанием формата:

      • Пользователь явно указывает, в каком формате должен быть ответ (например, "Ответь в формате JSON с полями: 'имя', 'возраст', 'город'").
      • Некоторые API (например, OpenAI) поддерживают параметр response_format={ "type": "json_object" }.
    2. Парсинг и валидация:

      • Модель пытается сгенерировать текст, соответствующий заданной структуре.
      • Если формат некорректен, можно использовать постобработку (например, json.loads() в Python с обработкой ошибок).

    Примеры использования

    # Запрос к GPT с требованием JSON
    response = client.chat.completions.create(
        model="gpt-4",
        messages=[{"role": "user", "content": "Перечисли 3 книги в JSON: {title, author, year}"}],
        response_format={ "type": "json_object" }
    )
    

    Вывод:

    {
      "books": [
        {"title": "1984", "author": "George Orwell", "year": 1949},
        {"title": "Преступление и наказание", "author": "Фёдор Достоевский", "year": 1866},
        {"title": "Гарри Поттер и философский камень", "author": "J.K. Rowling", "year": 1997}
      ]
    }
    

    Когда использовать?

    ✅ Идеально подходит для:

    • Интеграции с API, базами данных, фронтендом.
    • Автоматической обработки данных (например, парсинг email, извлечение сущностей).
    • Генерации контента для машинного чтения (например, автоматическое создание карточек товаров).

    ❌ Когда не подходит?

    • Если нужен свободный, креативный текст (например, рассказ, стихи).
    • Если структура слишком сложная и модель часто ошибается (лучше использовать fine-tuning или RAG).

    2. Вызов функций (Function Calling)

    Что это?

    Функция, позволяющая LLM не просто отвечать, а инициировать выполнение кода (например, запрос к API, расчёт данных, управление устройством).

    Как работает?

    1. Определение функций:

      • Пользователь описывает функции (их параметры и типы) в формате JSON.
      • Пример (OpenAI API):
        tools = [
            {
                "type": "function",
                "function": {
                    "name": "get_weather",
                    "description": "Получить текущую погоду в городе",
                    "parameters": {
                        "type": "object",
                        "properties": {
                            "city": {"type": "string", "description": "Название города"}
                        },
                        "required": ["city"]
                    }
                }
            }
        ]
        
    2. Запрос к модели:

      • LLM анализирует запрос и решает, нужно ли вызывать функцию.
      • Если да — возвращает JSON с параметрами для вызова.
    3. Исполнение функции:

      • Ваш код вызывает реальную функцию (например, get_weather("Москва")).
      • Результат передаётся обратно в LLM для формирования ответа.

    Пример

    # Запрос к GPT с функцией
    response = client.chat.completions.create(
        model="gpt-4",
        messages=[{"role": "user", "content": "Какая погода в Берлине?"}],
        tools=tools,
        tool_choice="auto"
    )
    
    # Если модель запросила вызов функции:
    if response.choices[0].message.tool_calls:
        function_name = response.choices[0].message.tool_calls[0].function.name
        function_args = json.loads(response.choices[0].message.tool_calls[0].function.arguments)
        weather_data = get_weather(function_args["city"])  # Ваш API
        # Передаём результат обратно в модель
        second_response = client.chat.completions.create(
            model="gpt-4",
            messages=[
                {"role": "user", "content": "Какая погода в Берлине?"},
                {"role": "assistant", "content": None, "tool_calls": [...]},
                {"role": "tool", "content": str(weather_data), "name": "get_weather"}
            ]
        )
        print(second_response.choices[0].message.content)
    

    Вывод:
    "Сейчас в Берлине +15°C, облачно, ветер 10 км/ч."

    Когда использовать?

    ✅ Идеально подходит для:

    • Работы с внешними API (погода, курсы валют, базы данных).
    • Автоматизации задач (например, отправка email, управление IoT).
    • Сложных сценариев, где нужны расчёты (например, "Посчитай NPV проекта с такими параметрами...").

    ❌ Когда не подходит?

    • Если задача решается простым текстовым ответом.
    • Если нет доступа к API или функциям (лучше использовать обычный запрос).

    Сравнение и выбор подхода

    КритерийСтруктурированный выводВызов функций
    Тип данныхJSON/XML/YAMLВыполнение кода
    СложностьПроще (только парсинг)Сложнее (нужен API + обработка)
    ГибкостьОграничена структуройПочти безгранична
    ИспользованиеИзвлечение данныхАвтоматизация действий
    ПримерыПарсинг резюме, генерация формЗапрос к погодному API, расчёты

    Что выбрать?

    • Нужен машинно-читаемый ответ? → Структурированный вывод.
    • Нужно взаимодействие с внешними системами? → Вызов функций.
    • Нужен просто текст? → Обычный запрос без специфичных функций.

    Продвинутые техники

    1. Валидация и исправление JSON:
      • Если модель ошибается в структуре, можно использовать json.loads() + обработку исключений или запрашивать исправление.
    2. Каскадный вызов функций:
      • LLM может вызывать несколько функций последовательно (например, сначала поиск_товара(), потом добавить_в_корзину()).
    3. Динамическое описание функций:
      • Можно генерировать tools на лету в зависимости от контекста.

    Заключение

    • Структурированный вывод — мощный инструмент для интеграции LLM в автоматизированные системы.
    • Вызов функций превращает LLM в "мозг", управляющий внешними сервисами.
    • Выбор зависит от задачи: если нужно просто извлечь данные — хватит структурированного вывода; если нужно действие — function calling.

    Для максимальной эффективности можно комбинировать оба подхода! 🚀

Responses were produced in different, uncontrolled contexts (system prompts, settings, prior turns). This is not a benchmark.