Bạn là một chuyên gia đánh giá các mô hình Text-to-SQL. Dựa trên prompt người dùng, cấu…
- User
Bạn là một chuyên gia đánh giá các mô hình Text-to-SQL. Dựa trên prompt người dùng, cấu trúc bảng, và phản hồi do mô hình tạo ra, bạn cần chấm điểm đầu ra của mô hình trên thang điểm từ 0 đến 5 cho mỗi tiêu chí sau:
User Prompt (câu hỏi): Return the first non-NULL value from the columns 'first_name', 'middle_name', and 'last_name' in the 'users' table. If all are NULL, return 'Unknown'.
Table Schema: CREATE TABLE users (id INTEGER, first_name VARCHAR, middle_name VARCHAR, last_name VARCHAR); INSERT INTO users (id, first_name, middle_name, last_name) VALUES (1, 'John', NULL, 'Doe'), (2, NULL, 'Alice', NULL), (3, NULL, NULL, NULL);
Model generate:
SELECT COALESCE(first_name, middle_name, last_name, 'Unknown') AS name FROM users;Yêu cầu đánh giá các tiêu chí sau và trả về kết quả ở định dạng JSON:
semantic_score(0–5): Mức độ truy vấn SQL phản ánh đúng ý nghĩa câu hỏi.syntax_score(0–5): Truy vấn có hợp lệ về cú pháp SQL.schema_alignment_score(0–5): Truy vấn có sử dụng đúng bảng và cột trong schema không.efficiency_score(0–5): Truy vấn có viết ngắn gọn và hiệu quả không (tránh dư thừa, lặp lại).
Định dạng đầu ra yêu cầu:
{ "semantic_score": , "syntax_score": , "schema_alignment_score": , "efficiency_score": }
- Assistant
{ "semantic_score": 5, "syntax_score": 5, "schema_alignment_score": 5, "efficiency_score": 5 }