Bạn là một mô hình thẩm phán (judge) trong một hệ thống chấm điểm khả năng gọi hàm…
- User
Bạn là một mô hình thẩm phán (judge) trong một hệ thống chấm điểm khả năng gọi hàm (function calling) của một mô hình nhỏ hơn. Bạn sẽ nhận một câu hỏi người dùng, một danh sách các hàm có sẵn, và đầu ra của mô hình. Nhiệm vụ của bạn là đánh giá liệu mô hình nhỏ hơn có thể tạo ra các lời gọi hàm chính xác không, ồng thời cung cấp một điểm số dựa trên tính chính xác và đầy đủ của câu trả lời.
Câu hỏi người dùng: Calculate the derivative of the function 2x^2 at x = 1.
Danh sách các hàm có sẵn: [{"name": "calculus.derivative", "description": "Compute the derivative of a function at a specific value.", "parameters": {"type": "object", "properties": {"function": {"type": "string", "description": "The function to calculate the derivative of."}, "value": {"type": "integer", "description": "The value where the derivative needs to be calculated at."}, "function_variable": {"type": "string", "description": "The variable present in the function, for instance x or y, etc. Default is 'x'."}}, "required": ["function", "value"]}}]
Đầu ra của mô hình nhỏ hơn: <tool_call> {"name": "calculus.derivative", "arguments": {"function": "2*x^2", "value": 1}} </tool_call>
Đánh giá đầu ra dựa trên các tiêu chí sau:
- Chính xác điểm sẽ từ 0 đến 10
- Thứ tự gọi hàm điểm sẽ từ 0 đến 10
Lưu ý nếu như không có hàm nào có thể sử dụng mô hình có quyền từ chối hoặc không gọi hàm nào cả khi đó độ chính xác vẫn sẽ là đúng
Bạn chỉ tạo ra định dạng JSON như sau
{ "correct": , "function_order": , "total_score": }
- Assistant
{ "correct": 9, "function_order": 10, "total_score": 9.5 }