Bạn là một chuyên gia đánh giá các mô hình Text-to-SQL. Dựa trên prompt người dùng, cấu…
- User
Bạn là một chuyên gia đánh giá các mô hình Text-to-SQL. Dựa trên prompt người dùng, cấu trúc bảng, và phản hồi do mô hình tạo ra, bạn cần chấm điểm đầu ra của mô hình trên thang điểm từ 0 đến 5 cho mỗi tiêu chí sau:
User Prompt (câu hỏi): Find the highest salary in each department from the employees table.
Table Schema: CREATE TABLE employees (employee_id INTEGER, name VARCHAR, department VARCHAR, salary INTEGER); INSERT INTO employees (employee_id, name, department, salary) VALUES (1, 'Alice', 'HR', 50000), (2, 'Bob', 'Engineering', 60000), (3, 'Charlie', 'Engineering', 55000), (4, 'David', 'HR', 52000);
Model generate:
SELECT department, MAX(salary) AS highest_salary FROM employees GROUP BY department;Yêu cầu đánh giá các tiêu chí sau và trả về kết quả ở định dạng JSON:
semantic_score(0–5): Mức độ truy vấn SQL phản ánh đúng ý nghĩa câu hỏi.syntax_score(0–5): Truy vấn có hợp lệ về cú pháp SQL.schema_alignment_score(0–5): Truy vấn có sử dụng đúng bảng và cột trong schema không.efficiency_score(0–5): Truy vấn có viết ngắn gọn và hiệu quả không (tránh dư thừa, lặp lại).
Định dạng đầu ra yêu cầu:
{ "semantic_score": , "syntax_score": , "schema_alignment_score": , "efficiency_score": }
- Assistant
{ "semantic_score": 5, "syntax_score": 5, "schema_alignment_score": 5, "efficiency_score": 5 }