ai大模型中的 fucntoin call是什么?
- User
ai大模型中的 fucntoin call是什么?
Assistant
AI大模型中的 Function Calling 指的是模型具备了根据上下文信息,判断是否需要调用外部工具或函数来辅助完成任务的能力,并生成调用这些工具或函数的指令的能力。
简单来说,就是模型能够:
- 识别需要外部能力的情况: 例如,用户问“明天北京的天气怎么样?”,模型意识到自身不具备实时获取天气信息的能力。
- 选择合适的工具/函数: 在工具/函数库中,选择能够提供天气信息的工具/函数(例如“get_weather”)。
- 生成调用指令: 构建一个结构化的数据格式,包含调用工具/函数所需的参数(例如“get_weather(location="北京", date="明天")”)。
- 将指令传递给外部系统: 将生成的指令发送给负责执行工具/函数的外部系统。
- 接收结果: 外部系统执行工具/函数,并将结果返回给模型。
- 将结果整合到回复中: 模型将接收到的结果与原始问题结合,生成最终的回复(例如“明天北京的天气是晴,温度25-35度。”)。
可以理解为,Function Calling 给 AI 大模型赋予了一个“遥控器”,让它能操控外部工具,从而扩展自身的能力边界。
核心要素:
- 工具/函数库: 事先定义好的工具/函数,包括名称、描述、参数等信息。
- 模型判断: 模型负责判断何时需要调用工具/函数,并选择合适的工具/函数。
- 指令生成: 模型负责生成调用工具/函数所需的指令。
- 外部系统: 负责执行工具/函数,并将结果返回给模型。
用途:
Function Calling 的应用场景非常广泛,可以用于:
- 获取实时信息: 例如天气查询、股票查询、新闻查询等。
- 执行特定操作: 例如发送邮件、预定机票、创建日程等。
- 访问数据库: 例如查询用户信息、产品信息等。
- 控制外部设备: 例如开关灯、调节温度等。
- 数据转换和计算: 例如货币汇率转换,单位换算等。
优势:
- 扩展模型能力: 让模型可以完成自身无法完成的任务。
- 提高模型准确性: 避免模型生成错误信息,尤其是在需要实时数据的情况下。
- 提升用户体验: 让用户可以用更自然的方式与模型交互。
- 自动化流程: 可以将多个工具/函数串联起来,实现更复杂的自动化流程。
工作原理:
- 定义工具/函数: 开发者需要定义好工具/函数的信息,包括名称、描述、参数等。这些信息会用来训练模型,让模型知道有哪些工具/函数可以使用。
- 用户输入: 用户输入问题或指令。
- 模型分析: 模型分析用户输入,判断是否需要调用工具/函数。
- 选择工具/函数: 如果需要调用工具/函数,模型会根据工具/函数的描述和参数信息,选择合适的工具/函数。
- 生成指令: 模型会生成一个包含工具/函数名称和参数的指令,通常以 JSON 格式表示。
- 调用工具/函数: 外部系统接收到指令后,会执行相应的工具/函数,并将结果返回给模型。
- 整合结果: 模型将接收到的结果与原始问题结合,生成最终的回复。
举例:
假设你定义了一个
get_weather函数,可以获取指定城市的天气信息。{ "name": "get_weather", "description": "获取指定城市的天气信息", "parameters": { "type": "object", "properties": { "city": { "type": "string", "description": "要查询的城市名称" } }, "required": ["city"] } }用户输入:"今天上海天气怎么样?"
模型可能会生成如下指令:
{ "name": "get_weather", "arguments": { "city": "上海" } }外部系统执行
get_weather("上海"),并将结果返回给模型。模型最终回复:"今天上海的天气是晴,温度20-30度。"
总结:
Function Calling 是 AI 大模型的重要能力之一,它让模型能够利用外部工具和函数,扩展自身的能力边界,并更好地服务于用户。通过 Function Calling,AI 大模型可以实现更复杂、更智能的应用。
Other models, same or similar prompt
Responses were produced in different, uncontrolled contexts (system prompts, settings, prior turns). This is not a benchmark.