LLM-Evaluierungsbericht
| Modell | Datum | Gesamte Antwortzeit (s) | Bestehende Tests | Durchschnittlicher CodeBLEU (0-1) | Durchschnittlicher Nützlichkeitswert (0-4) | Durchschnittlicher funktionaler Korrektheitswert (0-4) |
|---|---|---|---|---|---|---|
gpt-4o-mini | 2024-10-15 | 288.593 | 113 | 0.336386 | 3.65854 | 3.62805 |
gemini-1.5-pro | 2024-10-15 | 691.622 | 104 | 0.342204 | 3.47561 | 3.40854 |
claude-3-5-sonnet-20240620 | 2024-10-15 | 369.063 | 113 | 0.303837 | 3.67683 | 3.59146 |
gpt-4o | 2024-10-15 | 323.43 | 127 | 0.319079 | 3.73171 | 3.60976 |
claude-3-opus-20240229 | 2024-10-15 | 1069.89 | 107 | 0.307076 | 3.68902 | 3.60976 |
Gesamte Antwortzeit (s): Die gesamte Zeit, die das Modell benötigt hat, um alle Ausgaben zu generieren.
Bestehende Tests: Die Anzahl der Unit-Tests, die das Modell während der Bewertung bestanden hat, von insgesamt 164 Tests.
Durchschnittlicher CodeBLEU: Durchschnittlicher CodeBLEU-Wert, eine Kennzahl zur Bewertung der Qualität der Codegenerierung basierend auf syntaktischer und semantischer Korrektheit.
Durchschnittlicher Nützlichkeitswert: Durchschnittliche Bewertung der Nützlichkeit der Ausgaben des Modells, bewertet durch ein LLM-Modell.
0: Snippet ist überhaupt nicht hilfreich, es ist irrelevant für das Problem.
1: Snippet ist leicht hilfreich, es enthält Informationen, die für das Problem relevant sind, aber es ist einfacher, die Lösung von Grund auf neu zu schreiben.
2: Snippet ist einigermaßen hilfreich, es erfordert erhebliche Änderungen (im Vergleich zur Größe des Snippets), ist aber dennoch nützlich.
3: Snippet ist hilfreich, muss aber leicht geändert werden, um das Problem zu lösen.
4: Snippet ist sehr hilfreich, es löst das Problem.
Durchschnittlicher funktionaler Korrektheitswert: Durchschnittlicher Wert der funktionalen Korrektheit der Ausgaben des Modells, bewertet, wie gut die Ausgaben die funktionalen Anforderungen erfüllen, bewertet durch ein LLM-Modell.
0 (alle möglichen Tests nicht bestanden): Der Code-Snippet ist völlig falsch und bedeutungslos.
4 (alle möglichen Tests bestanden): Der Code-Snippet ist völlig korrekt und kann alle Fälle behandeln.
Last updated