Расскажи про такие функции LLM, как структурированный выводи и вызов функций. Мне нужно…
- User
Расскажи про такие функции LLM, как структурированный выводи и вызов функций. Мне нужно знать в деталях, как они работают, как их применять, когда лучше их использовать, а когда лучше применять что то другое. Мне нужна максимально подробная и детальная информация
Assistant
Структурированный вывод и вызов функций в LLM: полное руководство
В современных языковых моделях (LLM) две важные функции — структурированный вывод и вызов функций (function calling) — позволяют более эффективно интегрировать LLM в программные системы.
Разберём их по порядку:
1. Структурированный вывод (Structured Output)
Что это?
Структурированный вывод — это способ заставить LLM возвращать данные в строго определённом формате (например, JSON, XML, YAML), а не в виде свободного текста.
Как работает?
-
Запрос с указанием формата:
- Пользователь явно указывает, в каком формате должен быть ответ (например,
"Ответь в формате JSON с полями: 'имя', 'возраст', 'город'"). - Некоторые API (например, OpenAI) поддерживают параметр
response_format={ "type": "json_object" }.
- Пользователь явно указывает, в каком формате должен быть ответ (например,
-
Парсинг и валидация:
- Модель пытается сгенерировать текст, соответствующий заданной структуре.
- Если формат некорректен, можно использовать постобработку (например,
json.loads()в Python с обработкой ошибок).
Примеры использования
# Запрос к GPT с требованием JSON response = client.chat.completions.create( model="gpt-4", messages=[{"role": "user", "content": "Перечисли 3 книги в JSON: {title, author, year}"}], response_format={ "type": "json_object" } )Вывод:
{ "books": [ {"title": "1984", "author": "George Orwell", "year": 1949}, {"title": "Преступление и наказание", "author": "Фёдор Достоевский", "year": 1866}, {"title": "Гарри Поттер и философский камень", "author": "J.K. Rowling", "year": 1997} ] }Когда использовать?
✅ Идеально подходит для:
- Интеграции с API, базами данных, фронтендом.
- Автоматической обработки данных (например, парсинг email, извлечение сущностей).
- Генерации контента для машинного чтения (например, автоматическое создание карточек товаров).
❌ Когда не подходит?
- Если нужен свободный, креативный текст (например, рассказ, стихи).
- Если структура слишком сложная и модель часто ошибается (лучше использовать fine-tuning или RAG).
2. Вызов функций (Function Calling)
Что это?
Функция, позволяющая LLM не просто отвечать, а инициировать выполнение кода (например, запрос к API, расчёт данных, управление устройством).
Как работает?
-
Определение функций:
- Пользователь описывает функции (их параметры и типы) в формате JSON.
- Пример (OpenAI API):
tools = [ { "type": "function", "function": { "name": "get_weather", "description": "Получить текущую погоду в городе", "parameters": { "type": "object", "properties": { "city": {"type": "string", "description": "Название города"} }, "required": ["city"] } } } ]
-
Запрос к модели:
- LLM анализирует запрос и решает, нужно ли вызывать функцию.
- Если да — возвращает JSON с параметрами для вызова.
-
Исполнение функции:
- Ваш код вызывает реальную функцию (например,
get_weather("Москва")). - Результат передаётся обратно в LLM для формирования ответа.
- Ваш код вызывает реальную функцию (например,
Пример
# Запрос к GPT с функцией response = client.chat.completions.create( model="gpt-4", messages=[{"role": "user", "content": "Какая погода в Берлине?"}], tools=tools, tool_choice="auto" ) # Если модель запросила вызов функции: if response.choices[0].message.tool_calls: function_name = response.choices[0].message.tool_calls[0].function.name function_args = json.loads(response.choices[0].message.tool_calls[0].function.arguments) weather_data = get_weather(function_args["city"]) # Ваш API # Передаём результат обратно в модель second_response = client.chat.completions.create( model="gpt-4", messages=[ {"role": "user", "content": "Какая погода в Берлине?"}, {"role": "assistant", "content": None, "tool_calls": [...]}, {"role": "tool", "content": str(weather_data), "name": "get_weather"} ] ) print(second_response.choices[0].message.content)Вывод:
"Сейчас в Берлине +15°C, облачно, ветер 10 км/ч."Когда использовать?
✅ Идеально подходит для:
- Работы с внешними API (погода, курсы валют, базы данных).
- Автоматизации задач (например, отправка email, управление IoT).
- Сложных сценариев, где нужны расчёты (например,
"Посчитай NPV проекта с такими параметрами...").
❌ Когда не подходит?
- Если задача решается простым текстовым ответом.
- Если нет доступа к API или функциям (лучше использовать обычный запрос).
Сравнение и выбор подхода
Критерий Структурированный вывод Вызов функций Тип данных JSON/XML/YAML Выполнение кода Сложность Проще (только парсинг) Сложнее (нужен API + обработка) Гибкость Ограничена структурой Почти безгранична Использование Извлечение данных Автоматизация действий Примеры Парсинг резюме, генерация форм Запрос к погодному API, расчёты Что выбрать?
- Нужен машинно-читаемый ответ? → Структурированный вывод.
- Нужно взаимодействие с внешними системами? → Вызов функций.
- Нужен просто текст? → Обычный запрос без специфичных функций.
Продвинутые техники
- Валидация и исправление JSON:
- Если модель ошибается в структуре, можно использовать
json.loads()+ обработку исключений или запрашивать исправление.
- Если модель ошибается в структуре, можно использовать
- Каскадный вызов функций:
- LLM может вызывать несколько функций последовательно (например, сначала
поиск_товара(), потомдобавить_в_корзину()).
- LLM может вызывать несколько функций последовательно (например, сначала
- Динамическое описание функций:
- Можно генерировать
toolsна лету в зависимости от контекста.
- Можно генерировать
Заключение
- Структурированный вывод — мощный инструмент для интеграции LLM в автоматизированные системы.
- Вызов функций превращает LLM в "мозг", управляющий внешними сервисами.
- Выбор зависит от задачи: если нужно просто извлечь данные — хватит структурированного вывода; если нужно действие — function calling.
Для максимальной эффективности можно комбинировать оба подхода! 🚀
-
Other models, same or similar prompt
Responses were produced in different, uncontrolled contexts (system prompts, settings, prior turns). This is not a benchmark.