Rapport d'Évaluation LLM
Dernière mise à jour
Dernière mise à jour
claude-opus-4-20250514
2025-05-27
682.341
45
0.373498
3.68902
3.71951
claude-sonnet-4-20250514
2025-05-27
685.546
112
0.317174
3.7378
3.65854
claude-3-7-sonnet-20250219
2025-05-27
746.497
108
0.319258
3.65244
3.65244
claude-3-5-sonnet-20241022
2025-05-27
445.549
114
0.332094
3.65244
3.72561
gpt-4.1
2025-05-27
340.45
114
0.345565
3.71951
3.79878
o4-mini
2025-05-27
1380.26
128
0.322408
3.70122
3.7439
o3
2025-05-27
1592.45
141
0.314449
3.71341
3.85366
gpt-4o
2025-05-27
254.478
123
0.305002
3.70732
3.7378
gemini_gemini-2.0-flash
2025-05-27
428.324
102
0.304022
3.65244
3.60976
gemini_gemini-2.5-pro-preview-05-06
2025-05-27
1317.42
71
0.319577
2.45732
2.67683
gemini_gemini-2.5-flash-preview-05-20
2025-05-27
1042.03
108
0.32728
3.39024
3.46341
Temps de réponse total (s) : Le temps total pris par le modèle pour générer toutes les sorties.
Tests réussis : Le nombre de tests unitaires que le modèle a réussis lors de l'évaluation, sur un total de 164 tests.
CodeBLEU moyen : Score CodeBLEU moyen, une métrique pour évaluer la qualité de génération de code basée sur la correction syntaxique et sémantique.
Score d'utilité moyen : Évaluation moyenne de l'utilité des sorties du modèle, notée par un modèle LLM.
0 : L'extrait n'est pas du tout utile, il est hors sujet.
1 : L'extrait est légèrement utile, il contient des informations pertinentes pour le problème, mais il est plus facile d'écrire la solution depuis le début.
2 : L'extrait est quelque peu utile, il nécessite des modifications significatives (par rapport à la taille de l'extrait), mais reste utile.
3 : L'extrait est utile, mais doit être légèrement modifié pour résoudre le problème.
4 : L'extrait est très utile, il résout le problème.
0 (échec de tous les tests possibles) : L'extrait de code est totalement incorrect et dénué de sens.
4 (réussite de tous les tests possibles) : L'extrait de code est totalement correct et peut gérer tous les cas.
Score de correction fonctionnelle moyen : Score moyen de la correction fonctionnelle des sorties du modèle, évaluant dans quelle mesure les sorties répondent aux exigences fonctionnelles, notées par un modèle LLM.