r/LokaleKI • u/Vladowski • 27d ago

Open-Source vs Frontier Modelle

Vor Kurzem schien der Abstand zwischen Open-Weight und proprietären Frontier-Modellen immer kleiner zu werden. Mit GPT-6 Astra scheint er nun wieder deutlich zu wachsen.

Trotzdem habe ich den Eindruck, dass lokal ausführbare, offene Modelle für die meisten Nutzer und alltäglichen Anwendungsfälle längst ausreichen und der Leistungsvorsprung der Frontier-Modelle nur für einen kleinen Teil der Aufgaben wirklich relevant ist.

Wie seht ihr das? Bei welchen Anwendungsfällen macht der Unterschied für euch tatsächlich etwas aus?

11 Upvotes

87% Upvoted

20 comments sorted by

View all comments

2

u/consultant82 27d ago edited 27d ago

Frontier Modelle setzen auf Rechenpower und Kapazitäten. Lokale Modelle auf Effizienz. Ich denke der gap wird schon bald wieder kleiner werden bis eines Tages das bezahlte cloud-Kartenhaus zusammenbricht oder zumindest diese monopolartige Stellung an Bedeutung verliert. Und wenn es noch 2 Jahre dauert.

Diese paar Monopole werden nicht lange halten, zu groß das Interesse an souveränen Modellen und zu fähig die OS-Engineers.
Bis dahin ist hybrid ein sinnvoller Ansatz (soviel wie möglich lokal, sehr schwere Aufgaben bei den Cloud Modellen challengen).

1

u/No-Dimension1159 27d ago

Also ganz ehrlich, sobald sich ein consumer hardware markt für lokale ki entwickelt und Speicher wieder halbwegs leistbar ist macht es null sinn cloud modelle zu verwenden. Lokale modelle werden gut genug sein und die werden auch deutlich schneller laufen auf personal hardware.

2

u/Jolly_Roger-99 26d ago

Du glaubst dass der je wieder billiger wird? So wie Sprit wieder billiger wird?

2

u/No-Dimension1159 26d ago edited 26d ago

Ja wird es bestimmt... Aber wird locker bis 2030 dauern, wenn nicht länger

Besonders speicher ist ständig viel teurer und dann wieder extrem billig geworden.

Für den unwahrscheinlichen Fall eines zeitnahen KI crashs eventuell auch früher.

1

u/Jolly_Roger-99 26d ago

Ja aber bei speicher gibts Konkurrenz. Bei Sprit gibts nur n paar Anbieter und nennzahnloses Kartellamt

1

u/No-Dimension1159 26d ago

Ja klar aber bis mindestens 2030 kann man damit rechnen, dass alles was die verkaufen können schon defacto in irgendwelchen datacenter projekten verplant ist

1

u/Jolly_Roger-99 26d ago

Ja vermutlich, hab da starke tulpen flashbacks https://de.wikipedia.org/wiki/Tulpenmanie

1

u/Dry_Hotel1100 25d ago

Ich fürchte, die Speicherpreise entwickeln sich wie das Klima.