AI8 · 28. 10. 2026

Kako so se izkazali naši LLM-ji?

Dokumentirani izidi za lokalne modele HOME, oblačne ponudnike MAL in zgodovinske oddaljene teste SLAIF. Vsak rezultat je prikazan skupaj s testom, ki ga je ustvaril.

Odločitev čaka HELM-R1.1

GPT-OSS 20B in Gemma4-12B sta kandidata za krmarja; Mellum2.1 je hitra alternativa, Qwen3.8 počasna referenca. Izbor za živo usmerjanje še čaka primerljivi HELM.

Zgodovinski obseg registra HOME / MAL / SLAIF
8konfiguracij HOME z osnovnim in RHP nizom
10oblačnih ponudnikov v registru MAL; enoten kakovostni tek še manjka
3konfiguracije SLAIF; 171 oddanih zgodovinskih tekov (Qwen 55, GaMS3 62, Gemma 54)

Kako brati: uspešen HTTP odgovor še ni kakovosten odgovor. Prekinitev zaradi virov ni vsebinski neuspeh. Rezultati treh okolij niso ena skupna lestvica; današnja dosegljivost modelov ni preverjena.

00 · Skupni pregled

Modeli × testi

PASS/FAIL določa izvirni ocenjevalnik. DOKONČANO ≠ PASS. Števila v matriki so zapisi po izidih, ne skupna ocena; ponovitve štejejo ločeno. Ni podatka pomeni vrzel tega posnetka, ne neuspeha modela.

Matriko na telefonu pomakni vodoravno. Za ožji pregled izberi kampanjo.

JSON ↗
01 · HOME

Lokalni modeli

Osem konfiguracij, sedem osnovnih modelov. V vsakem nizu je po deset nalog na konfiguracijo. Stolpci kažejo vsebinske PASS, ne zgolj HTTP 200; časi so mediane odgovorov v obliki min:s.

Osnovni nizRHP

Nalaganje rezultatov…

Prenos in kakovost sta ločena

Osnovni niz: 32 PASS, 36 FAIL, 12 INCOMPLETE. RHP: 22 PASS, 20 FAIL, 15 INCOMPLETE, 13 prekinitev zaradi virov in 10 zadržanih nalog.

Kratek zagon ≠ celoten test

Osem začetnih smoke preverjanj je uspelo. V ločenem HMAL enournem nizu je uspelo 12/13 klicev; Ministral je porabil kontekst 4096 brez končnega odgovora.

Dopolnilni HOME sklopi in poskusi po modelih

Izvirni osnovni in RHP niz zgoraj ostaneta nespremenjena (osnovni 32 PASS, 36 FAIL, 12 INCOMPLETE; RHP 22 PASS, 20 FAIL, 15 INCOMPLETE, 13 prekinitev zaradi virov, 10 zadržanih). Enourne ponovitve štirih TIMEOUT in pet dodatnih sklopov so prikazani ločeno in se ne seštevajo z izvirniki. Zadržano (HELD) pomeni, da modela nismo poklicali. HTTP 200 je samo prenos; COMPLETE pomeni zaključen razpored, ne izvedenih vseh generacij. Časi odziva ne vključujejo nalaganja modela, minimumi virov so vzorčeni. Smoke 8/8 in HMAL 12/13 (22. 10.) ostajata ločena zgodovinska povzetka.

Dopolnilni podatki (≈0,5 MB) se naložijo enkrat, ko se približaš temu delu strani…

02 · MAL

Oblačni modeli

MAL navaja deset ponudnikov s profilnimi modeli. Štirje svetovalni izhodi so dokumentirani; trije se po ID-ju ujemajo s trenutno navedenim profilom. To je dokaz izvedenega klica, ne primerljiv test kakovosti T001–T010.

3 · ujemanje ID-ja

Grok, DeepSeek, GLM

1 · drugi ID

Gemini

6 · brez ustreznega izida v pregledanih virih

ChatGPT, Claude, Qwen, MiniMax, Mistral, Kimi

03 · SLAIF

Zgodovinski oddaljeni testi

Tri konfiguracije, trije različni obsegi. Dolžine spodnjih stolpcev so deleži znotraj posameznega testa; med seboj niso splošna lestvica modelov.

Nalaganje rezultatov…

Oddani SLAIF teki po modelih (21.–26. 10.)

Zgornji stolpci ostajajo starejši zgodovinski povzetek. Spodaj so preverjeni javni povzetki oddanih tekov: en tek je en model na eni nalogi. PASS določa izvirni zamrznjeni evaluator; PARTIAL zajema tehnične vrzeli, nepopolne odgovore, pisne zasnove (DESIGN_ONLY) in raziskovalne pilote politike z determinističnim reševalnikom. HTTP 200 je samo prenos. Dostopnost velja za posamezen datirani tek, ne za današnji dostop. Strogi nizi, ocene zasnov in piloti niso združeni v eno oceno; to ni lestvica modelov.

Nalaganje oddanih tekov…

HMAL · ena ura za odgovor

Poziv OK: 12/13 PASS. Ministral je izčrpal kontekst 4096 brez odgovora; ni dosegel enourne meje. Čas je native HTTP.

LONGLIFE L1

GPT-OSS: en predlog, vsebina in diff FAIL. Terra: mehanski pregled uspešen, semantični pregled čaka.

Lahka modela · osnovni testi

Qwen3.5-9B 6/10 PASS, Gemma4-12B 9/10 PASS. Kontekst 32768, native thinking. Proračun se razlikuje od starejših testov.

Celotna baterija · delni posnetek

Izvedene celice RHP. Delni posnetek ni dokaz zaključene celotne baterije.

Terra · GPT-6.1

Naročninski CLI, xhigh: osnovni testi, RHP in HMAL OK. HELM in L1 sta v namenskih razdelkih. Čas vključuje CLI režijo.

GODS10 · stanje

Ocenjevanje v teku, 10/21 veljavnih. Ocenjevalci so slepi; odgovori, imena modelov in ocene bodo objavljeni šele po objavi seštevka.

HELM · krmar

Lokalni HOME32 je bil 27. 10. pripravljen in zadržan, brez inference. Izvedene Terra celice so ločene; izbor krmarja čaka HELM-R1.1.

Posnetek podatkov: 28. 10. 2026. Časi HOME so časi odgovorov; SLAIF znani subtotal izbranih korakov; HMAL in lahki modeli native HTTP; Terra vključuje CLI režijo. Te meritve nimajo enakega proračuna. Zbrano in mehansko veljavno še ne pomeni semantičnega PASS.

Viri novih razdelkov
  • model-results-home.json
  • model-results-slaif.json
  • HMAL MEASURE 1H R1 · executed report · 2026-10-22
  • LONGLIFE L1 · executed report · 2026-10-26
  • LIGHT R3 FINAL · executed baseline · 2026-10-28
  • Terra / FULLBATTERY · executed JSON cells · 2026-10-28
  • HELM HOME32 HOLD · preparation status · 2026-10-27
  • AI8_MODEL_TESTS · index R2 · snapshot 2026-10-28 13:45 UTC
04 · Metoda

Od preizkusa do sklepa

  1. SLAIF Gemma: konsolidiranih 27 API zahtev; uspeh prenosa, formata in vsebine je poročan ločeno.
  2. HOME: 8/8 smoke, ločeno HMAL 12/13 kratkih odgovorov. MAL: pripravljena kampanja za deset ponudnikov, brez potrjenega enotnega izida.
  3. SLAIF GaMS3: zamrznjeni T001–T010, 7/10 PASS brez ponavljanj; primerjava pokaže tudi Qwenovih 7/7 na T001–T007.
  4. HOME primerjalni osnovni in RHP izidi; SLAIF Qwen raziskovalni piloti in ujemajoča primerjava Qwen/Gemma.
  5. HOME dopolnilni sklopi (24.–26. 10.), posnetek 16:57 UTC: 309/321 zapisanih mest, 31 dejanskih novih zahtev, 25 HTTP 200, 1 PASS; nočni sklop je bil ob posnetku še v teku (25/37).
  6. SLAIF inbox: 162 sprejetih tekov (Qwen3.8, GaMS3, Gemma4; po 54, 21.–26. 10.) in šest dodatnih HOME Ministral3 poskusov po posnetku; zavrnjenih oddaj ni bilo.
  7. Inbox R2–R4: SLAIF 171 sprejetih tekov; HOME 31 poskusov po posnetku (Magistral 10 novih v R3 in 12 v R4, vsi z odgovorom in FAIL). Kartice SLAIF zdaj seštevajo tudi preimenovane metrike novejših tekov (length_steps, all_*).
  8. AI8 dokazni katalog sestavi 21 konfiguracij. Stanje današnje dosegljivosti pri vseh ostaja neznano.
Kaj pomeni PASS in kaj manjka?

HOME kakovostni PASS zahteva pravilen format, shemo in vsebino. HTTP 200 pomeni samo uspešen prenos. Osnovni testi so tekli po protokolu cold_per_test; neprekinjena serija na naloženem modelu ni dokazana. Cloud MAL nima potrjenega enotnega T001–T010 teka. SLAIF izidi pokrivajo različne naloge in zgodovinski dostop.

Poročila in provenienca

Spodnji naslovi določajo izvirna dokazila. Zasebni Drive ID-ji, končne točke in poverilnice niso vključeni v javno stran.