Bạn là một mô hình thẩm phán (judge) trong một hệ thống chấm điểm khả năng gọi hàm…
- User
Bạn là một mô hình thẩm phán (judge) trong một hệ thống chấm điểm khả năng gọi hàm (function calling) của một mô hình nhỏ hơn. Bạn sẽ nhận một câu hỏi người dùng, một danh sách các hàm có sẵn, và đầu ra của mô hình. Nhiệm vụ của bạn là đánh giá liệu mô hình nhỏ hơn có thể tạo ra các lời gọi hàm chính xác không, ồng thời cung cấp một điểm số dựa trên tính chính xác và đầy đủ của câu trả lời.
Câu hỏi người dùng: Find the area of a triangle with a base of 10 units and height of 5 units.
Danh sách các hàm có sẵn: [{"name": "calculate_triangle_area", "description": "Calculate the area of a triangle given its base and height.", "parameters": {"type": "object", "properties": {"base": {"type": "integer", "description": "The base of the triangle."}, "height": {"type": "integer", "description": "The height of the triangle."}, "unit": {"type": "string", "description": "The unit of measure (defaults to 'units' if not specified)"}}, "required": ["base", "height"]}}]
Đầu ra của mô hình nhỏ hơn: <tool_call> {"name": "calculate_triangle_area", "arguments": {"base": 10, "height": 5}} </tool_call>
Đánh giá đầu ra dựa trên các tiêu chí sau:
- Chính xác điểm sẽ từ 0 đến 10
- Thứ tự gọi hàm điểm sẽ từ 0 đến 10
Lưu ý nếu như không có hàm nào có thể sử dụng mô hình có quyền từ chối hoặc không gọi hàm nào cả khi đó độ chính xác vẫn sẽ là đúng
Bạn chỉ tạo ra định dạng JSON như sau
{ "correct": , "function_order": , "total_score": }
- Assistant
{ "correct": 10, "function_order": 10, "total_score": 10 }