Báo cáo đánh giá LLM

Mô hình
Ngày
Thời gian Phản hồi Tổng (s)
Số bài kiểm tra đã vượt qua
Điểm CodeBLEU Trung bình (0-1)
Điểm Sử dụng Trung bình (0-4)
Điểm Đúng Chức năng Trung bình (0-4)

gpt-5.4

2026-03-18

371.302

151

0.30016

3.85976

3.88415

gpt-5

2026-03-18

3307.15

160

0.312013

3.71951

3.82927

gpt-5-mini

2026-03-18

2223.12

161

0.305418

3.79268

3.93293

claude-opus-4-6

2026-03-18

630.643

164

0.38829

3.87195

3.90854

claude-sonnet-4-6

2026-03-18

604.89

161

0.379059

3.85366

3.90854

claude-opus-4-1

2026-03-18

635.166

157

0.349491

3.85366

3.92683

claude-sonnet-4-5

2026-03-18

546.74

162

0.331766

3.89024

3.95732

claude-haiku-4-5

2026-03-18

280.497

154

0.317284

3.84756

3.92073

gemini-3.1-pro-preview

2026-03-18

3339.78

162

0.395161

3.73171

3.82317

gemini-3.1-flash-lite-preview

2026-03-18

176.493

148

0.370935

3.77439

3.87805

gemini-3-flash-preview

2026-03-18

2146.97

142

0.395257

3.59146

3.60366

gemini-2.5-pro

2026-03-18

2788.94

118

0.373488

3.2561

3.38415

gemini-2.5-flash

2026-03-18

952.543

148

0.338621

3.7439

3.83537

Thời gian Phản hồi Tổng (s): Thời gian tổng cộng mà mô hình mất để tạo ra tất cả các đầu ra.

Số bài kiểm tra đã vượt qua: Số lượng bài kiểm tra đơn vị mà mô hình đã vượt qua trong quá trình đánh giá, trong tổng số 164 bài kiểm tra.

Điểm CodeBLEUarrow-up-right Trung bình: Điểm CodeBLEU trung bình, một chỉ số để đánh giá chất lượng tạo mã dựa trên cả độ chính xác cú pháp và ngữ nghĩa.

Điểm Sử dụng Trung bìnharrow-up-right: Điểm đánh giá trung bình về tính hữu ích của đầu ra của mô hình được đánh giá bởi một mô hình LLM.

  • 0: Đoạn mã hoàn toàn không hữu ích, không liên quan đến vấn đề.

  • 1: Đoạn mã hơi hữu ích, nó chứa thông tin liên quan đến vấn đề, nhưng dễ dàng hơn để viết giải pháp từ đầu.

  • 2: Đoạn mã có phần hữu ích, nó yêu cầu thay đổi đáng kể (so với kích thước của đoạn mã), nhưng vẫn hữu ích.

  • 3: Đoạn mã hữu ích, nhưng cần thay đổi một chút để giải quyết vấn đề.

  • 4: Đoạn mã rất hữu ích, nó giải quyết được vấn đề.

Điểm Đúng Chức năng Trung bìnharrow-up-right: Điểm trung bình về độ chính xác chức năng của các đầu ra của mô hình, đánh giá mức độ mà các đầu ra đáp ứng các yêu cầu chức năng, được đánh giá bởi một mô hình LLM.

  • 0 (thất bại tất cả các bài kiểm tra có thể): Đoạn mã hoàn toàn sai và vô nghĩa.

  • 4 (vượt qua tất cả các bài kiểm tra có thể): Đoạn mã hoàn toàn đúng và có thể xử lý tất cả các trường hợp.

Last updated