Сравнение моделей на бенчмарке DeepSWE показало статистическую ничью по первому запуску, но 5,4-кратную разницу в цене. У Claude Fable 5 pass@1 — 69,7%, у GLM-5.3 — 69,0%, разрыв внутри погрешности. При этом один прогон GLM стоит $3,99 против $21,63 у Fable: на $100 GLM решает 17 задач, а Fable — только 3.
С ретраями открытая модель выходит вперед: pass@2 — 81,1% против 77,1%, pass@4 — 87,6% против 84,1%. GLM также покрывает больше задач (87,6% против 84,1%) и заметно менее многословен: 80k выходных токенов против 114k, хотя делает больше шагов. По времени прогона модели почти равны: 35 и 34 минуты.
Корреляция по задачам — 0,65, так что запускать обе модели параллельно почти бессмысленно. Авторы теста советуют держать дешевую GLM-5.3 как основную, а к Fable обращаться только для Rust и сериализации. GLM сильнее в запросах/конфигах, рантаймах и конкурентности, Fable — в data modeling, build и protocol conformance.
#AI #GLM53 #ClaudeFable5 #DeepSWE #TogetherAI #Coding #Comparison
Please open Telegram to view this post
VIEW IN TELEGRAM
⚡1🔥1💯1