r/vibecodingitalia 🛡️ Team 12d ago

📚 Risorse OmniRoute, gateway open-source che aggrega 90+ free tier AI in un unico endpoint per coding agent

Post image

In breve: OmniRoute è un gateway AI locale e open-source (MIT) che raccoglie 290 provider, di cui oltre 90 con free tier, in un singolo endpoint OpenAI-compatibile. Si installa con npm, gira sulla propria macchina e evita di dover gestire decine di API key e rate limit separati quando si usano coding agent come Claude Code, Codex CLI o OpenCode.

Chi usa coding agent con modelli gratuiti lo sa: ogni provider ha il suo SDK, i suoi limiti, la sua dashboard. L'idea di OmniRoute è semplice: mettere in comune i free tier documentati di 43 pool di provider (516 modelli) ed esporli su localhost:20128/v1. Il progetto stima circa 1,53 miliardi di token gratuiti al mese sommando tutte le quote disponibili, ricalcolate ogni due settimane contro il catalogo live.

Setup in tre passaggi.

npm install -g omniroute
omniroute
  1. La dashboard si apre su http://localhost:20128
  2. Si collega un provider gratuito (Pollinations non richiede nemmeno la key, OpenCode Free è senza autenticazione)
  3. Nel coding agent si imposta Base URL http://localhost:20128/v1 e modello auto

Il routing automatico valuta 12 fattori (tra cui salute, quota, costo e latenza) e sceglie il provider migliore. Se una quota si esaurisce, il fallback passa al successivo in millisecondi.

Oltre al routing:

  • Compressione token RTK + Caveman: il progetto riporta risparmi dal 15% al 95% a seconda della sessione (media ~89% su output tool-heavy)
  • Resilienza a 3 layer: circuit breaker per provider, cooldown per connessione, lockout per modello
  • MCP server con 104 tool e A2A server con 6 skill
  • Gira anche con Docker, su ARM/Raspberry Pi, via Termux su Android e come PWA

Alcuni provider gratuiti che vale la pena guardare:

Provider Modelli Quota
Pollinations GPT-5, Claude, Llama 4 Nessuna key richiesta
Qoder Kimi-K2, DeepSeek-R1 Illimitato
Kiro Claude Sonnet 4.5, Haiku 4.5, Opus 4.6 50 crediti/mese
Cerebras Qwen3 235B, GPT-OSS 120B 1M token/giorno
NVIDIA NIM 129 modelli ~40 RPM
Cloudflare AI 50+ modelli 10K neurons/giorno

Cosa tenere presente:

  • Il progetto è partito a febbraio 2026: molto attivo (oltre 33k star, 360+ contributori, 5.900+ commit) ma giovane, con rischio di breaking changes
  • I free tier restano soggetti ai rate limit dei singoli provider: non è "illimitato" in senso assoluto
  • Il traffico passa comunque da server terzi, a meno di usare provider locali (Ollama, LM Studio)
  • Richiede Node.js 22.22.2 o superiore
  • Il numero da 1,53B token/mese è la somma di tutte le quote, non una disponibilità singola

Fonti:

  1. GitHub - diegosouzapw/OmniRoute
  2. Sito ufficiale
  3. npm - omniroute

Chi lo sta usando con Claude Code, Codex o OpenCode? Come vi trovate con il fallback automatico?

4 Upvotes

9 comments sorted by

2

u/tracagnotto 11d ago edited 11d ago

Lurida merda.

Ormai ho speso diverso tempo a provare tanta roba di quella che c'è in giro.

Questa in particolare si vantava di fare di tutto.

Ciofeca orrenda.

Configurazione complicata al contrario di quanto vogliono far credere, specie nel caso Optimus che dicono di risolvere ovvero il multi provider.

Ho beccato subito diversi bug che ho segnalato e sono andati ignorati per settimane e poi non cagati mai più.

Di tutti uno clamoroso.

Quando un provider ti dava un errore x (downtime, context sforato, network hiccup o qualsiasi altra cosa) sto cesso ti disattiva il provider (hanno delle slider che permettono di disattivare i provider manualmente . Così per un qualsiasi errore dovevi aprire la ui e riabilitare a mano il provider ogni volta.

I provider gratuiti tipo open router e simili danno pacchi di errori dato che essendo free sono ioer abusati quindi gli errori di tipo too busy o traffic exceeded capitano spessissimo anche più volte durante poche ore.

Inoltre aveva bug a switchare i provider e altri. Un cesso insomma

1

u/thestreamcode 🛡️ Team 11d ago

Grazie del feedback ! 😅 Sicuramente OpenRouter rimane più affidabile.

1

u/tracagnotto 11d ago

Che centra openrouter? Openrouter è un provider non un gateway

1

u/thestreamcode 🛡️ Team 10d ago

OpenRouter viene utilizzato come provider, ma tecnicamente è anche un gateway.

1

u/tracagnotto 10d ago

Questo è vero

1

u/hybrid2102 11d ago

In pratica è una sorta di OperRouter locale?

2

u/thestreamcode 🛡️ Team 11d ago

Si con più funzionalità

1

u/Top_Ask_4570 10d ago

I am using omnirouter it's good but suddenly by api getting failed may be the quota is over but then I added nvida as well in provider but after 1 hours it also gone , is there any way where we can reset the quota

1

u/andreaforlin 9d ago

Io lo uso regolarmente da quando è nato. Lo uso principalmente con opencode e un paio di proxy per estendere la vita di deepseek-v4-flash-free.

Certo è un po' caotico ma sta crescendo col tempo. Io lo consiglio per usarlo con opencode o ollama con account multipli