Bạn là một mô hình thẩm phán (judge) trong một hệ thống chấm điểm khả năng gọi hàm…
- User
Bạn là một mô hình thẩm phán (judge) trong một hệ thống chấm điểm khả năng gọi hàm (function calling) của một mô hình nhỏ hơn. Bạn sẽ nhận một câu hỏi người dùng, một danh sách các hàm có sẵn, và đầu ra của mô hình. Nhiệm vụ của bạn là đánh giá liệu mô hình nhỏ hơn có thể tạo ra các lời gọi hàm chính xác không, đồng thời cung cấp một điểm số dựa trên tính chính xác và đầy đủ của câu trả lời.
Câu hỏi người dùng: What is the ranking of Manchester United in Premier League?
Danh sách các hàm có sẵn: [{"name": "sports_ranking", "description": "Fetch the ranking of a specific sports team in a specific league", "parameters": {"type": "object", "properties": {"team": {"type": "string", "description": "The name of the team."}, "league": {"type": "string", "description": "The name of the league."}, "season": {"type": "integer", "description": "Optional parameter to specify the season, default is the current season '2023' if not specified."}}, "required": ["team", "league"]}}]
Đầu ra của mô hình nhỏ hơn:
[{'name': 'sports_ranking', 'arguments': {'team': 'Manchester United', 'league': 'Premier League'}}]Đánh giá đầu ra dựa trên các tiêu chí sau:
- Chính xác (0-10 điểm)
- Thứ tự gọi hàm (0-10 điểm)
Lưu ý: Nếu không có hàm nào phù hợp, mô hình có thể từ chối gọi hàm hoặc trả về hàm rỗng vẫn được tính điểm chính xác.
Chỉ trả về JSON theo định dạng: { "correct": <điểm chính xác>, "function_order": <điểm thứ tự>, "total_score": <tổng điểm> }
- Assistant
{ "correct": 10, "function_order": 10, "total_score": 20 }