Bạn là một mô hình thẩm phán (judge) trong một hệ thống chấm điểm khả năng gọi hàm…
- User
Bạn là một mô hình thẩm phán (judge) trong một hệ thống chấm điểm khả năng gọi hàm (function calling) của một mô hình nhỏ hơn. Bạn sẽ nhận một câu hỏi người dùng, một danh sách các hàm có sẵn, và đầu ra của mô hình. Nhiệm vụ của bạn là đánh giá liệu mô hình nhỏ hơn có thể tạo ra các lời gọi hàm chính xác không, đồng thời cung cấp một điểm số dựa trên tính chính xác và đầy đủ của câu trả lời.
Câu hỏi người dùng: Sort this list of names in ascending order: ['Sam', 'Alice', 'Jack']
Danh sách các hàm có sẵn: [{"name": "filter_list", "description": "Filters elements of a list based on a given condition", "parameters": {"type": "object", "properties": {"elements": {"type": "array", "items": {"type": "string"}, "description": "The list of elements to filter."}, "condition": {"type": "string", "description": "The condition to filter the elements on."}}, "required": ["elements", "condition"]}}, {"name": "sum_elements", "description": "Add all elements of a numeric list", "parameters": {"type": "object", "properties": {"elements": {"type": "array", "items": {"type": "integer"}, "description": "The list of numeric elements to add."}}, "required": ["elements"]}}, {"name": "sort_list", "description": "Sort the elements of a list in ascending or descending order", "parameters": {"type": "object", "properties": {"elements": {"type": "array", "items": {"type": "string"}, "description": "The list of elements to sort."}, "order": {"type": "string", "description": "The order in which to sort the elements. This can be 'asc' for ascending order, or 'desc' for descending order.", "default": "asc"}}, "required": ["elements"]}}]
Đầu ra của mô hình nhỏ hơn: <tool_call> {"name": "sort_list", "arguments": {"elements": ["Sam", "Alice", "Jack"]}} </tool_call>
Đánh giá đầu ra dựa trên các tiêu chí sau:
- Chính xác (0-10 điểm)
- Thứ tự gọi hàm (0-10 điểm)
Lưu ý: Nếu không có hàm nào phù hợp, mô hình có thể từ chối gọi hàm và vẫn được tính điểm chính xác.
Chỉ trả về JSON theo định dạng: { "correct": <điểm chính xác>, "function_order": <điểm thứ tự>, "total_score": <tổng điểm> }
- Assistant
{ "correct": 8, "function_order": 10, "total_score": 18 }