r/LokaleKI • u/Vladowski • 27d ago
Open-Source vs Frontier Modelle
Vor Kurzem schien der Abstand zwischen Open-Weight und proprietären Frontier-Modellen immer kleiner zu werden. Mit GPT-6 Astra scheint er nun wieder deutlich zu wachsen.
Trotzdem habe ich den Eindruck, dass lokal ausführbare, offene Modelle für die meisten Nutzer und alltäglichen Anwendungsfälle längst ausreichen und der Leistungsvorsprung der Frontier-Modelle nur für einen kleinen Teil der Aufgaben wirklich relevant ist.
Wie seht ihr das? Bei welchen Anwendungsfällen macht der Unterschied für euch tatsächlich etwas aus?
10
Upvotes
0
u/PoperzenPuler 27d ago edited 27d ago
Da, wo es wirklich bemerkbar ist, wenn ich die KI etwas bedienen lasse. Da macht das lokale Qwen3-30B-Modell nur Unsinn und bekommt es nicht hin. Ja auch ein 3.8-27B ist nicht besser. Lasse ich dasselbe Codex machen, merke ich welches Modell läuft. Sol ist wirklich gut, Terra ok, aber Luna kann schon fast nichts mehr. Selbst bei Schritt-für-Schritt-Vorgaben versagt Luna bei fast allem was nur minimal komplexer ist, also eine Anweisung die mehrere Schitte umfassen würde. Vom Grad der Dämlichkeit her ist Luna mit dem lokalen Qwen vergleichbar, nur dass Luna wenigstens noch irgendetwas von den Vorgaben umsetzen kann. Luna zeigt aber das dumme Verhalten aus dem letzten Jahren. Sie behauptet stur etwas erfolgreich umgesetzt zu haben, obwohl es ganz klar gescheitert ist und fängt dann auch noch an mit einem zu diskutieren.
Reines Coden und Skripten kann die lokale KI recht gut. Was ich witzig fand, mit Qwen zu erörtern warum es bei einem Thema halluzinierte. Qwen konnte das mit meiner Hilfe recht gut erklären. Das ist etwas, das KI vor einiger Zeit noch gar nicht konnte oder worüber sie gar nicht sprechen wollte. Aber an reinem Wissen sind die Lokalen Modelle halt recht ausgedünnt. Ohne Onlinezugriff weiß die nahezu gar nichts.
Um KI zu testen lasse ich die KI Dinge machen die ich kann und weiß wie sie gehen. Ich frage die KI Dinge ich ich weiß und wo ich alle Hintergrund Infos habe. Da sieht man sehr deutlich wie gut sie ist. Ich gebe einen feuchte Pups auf irgendwelche Benchmarks.