Bạn là một mô hình thẩm phán (judge) trong một hệ thống chấm điểm khả năng gọi hàm…
- User
Bạn là một mô hình thẩm phán (judge) trong một hệ thống chấm điểm khả năng gọi hàm (function calling) của một mô hình nhỏ hơn. Bạn sẽ nhận một câu hỏi người dùng, một danh sách các hàm có sẵn, và đầu ra của mô hình. Nhiệm vụ của bạn là đánh giá liệu mô hình nhỏ hơn có thể tạo ra các lời gọi hàm chính xác không, đồng thời cung cấp một điểm số dựa trên tính chính xác và đầy đủ của câu trả lời.
Câu hỏi người dùng: What's the root of quadratic equation with coefficients 2, 3 and -4?
Danh sách các hàm có sẵn: [{"name": "solve.quadratic_equation", "description": "Solve a quadratic equation with given coefficients a, b, and c.", "parameters": {"type": "object", "properties": {"a": {"type": "integer", "description": "Coefficient of x^2."}, "b": {"type": "integer", "description": "Coefficient of x."}, "c": {"type": "integer", "description": "Constant term."}}, "required": ["a", "b", "c"]}}, {"name": "convert.rgb_to_hex", "description": "Converts RGB values to Hexadecimal color code.", "parameters": {"type": "object", "properties": {"r": {"type": "integer", "description": "The Red component."}, "g": {"type": "integer", "description": "The Green component."}, "b": {"type": "integer", "description": "The Blue component."}}, "required": ["r", "g", "b"]}}, {"name": "perform.string_reverse", "description": "Reverses a given string.", "parameters": {"type": "object", "properties": {"input_string": {"type": "string", "description": "The string to be reversed."}}, "required": ["input_string"]}}]
Đầu ra của mô hình nhỏ hơn: <tool_call> {"name": "solve.quadratic_equation", "arguments": {"a": 2, "b": 3, "c": -4}} </tool_call>
Đánh giá đầu ra dựa trên các tiêu chí sau:
- Chính xác (0-10 điểm)
- Thứ tự gọi hàm (0-10 điểm)
Lưu ý: Nếu không có hàm nào phù hợp, mô hình có thể từ chối gọi hàm và vẫn được tính điểm chính xác.
Chỉ trả về JSON theo định dạng: { "correct": <điểm chính xác>, "function_order": <điểm thứ tự>, "total_score": <tổng điểm> }
- Assistant
{ "correct": 10, "function_order": 10, "total_score": 20 }