OmniRoute: ce este, cum il instalezi si cat e de sigur

OmniRoute este un gateway AI open source pe care il instalezi pe calculatorul sau pe serverul tau: iti da un singur endpoint compatibil cu OpenAI si trimite cererile catre sute de provideri, trecand la urmatorul cand se termina o cota. Programul este gratuit, cu licenta MIT, dar nu tot ce conectezi la el e gratuit.

Inainte sa il instalezi, verifica versiunea: pana la 3.8.51 exista doua vulnerabilitati grave.

Ce este OmniRoute si la ce foloseste

OmniRoute sta intre uneltele tale (Claude Code, Codex, Cursor, Cline, OpenCode) si modele. Setezi unealta pe http://localhost:20128/v1, iar gateway-ul decide unde trimite cererea.

• Fallback automat: daca un provider isi termina cota sau da eroare, trece la urmatorul.
• Combo-uri: liste ordonate de modele, cu 19 strategii de rutare, de la prioritate fixa la costul cel mai mic.
• Compresie: 12 motoare reduc contextul trimis. Valoarea anuntata este 15-95% pe continutul eligibil, nu pe toata factura.
• Panou local: cote, costuri, starea providerilor si loguri intr-o singura pagina.
• MCP si A2A: un server cu 110 unelte, prin care un agent poate controla gateway-ul.

Proiectul este public din februarie 2026 si a crescut foarte repede: la 9 noiembrie 2026 are aproximativ 85.800 de stele si 13.000 de fork-uri pe GitHub.

Repository-ul oficial este acum cheaper-inference/OmniRoute, pentru ca proiectul a intrat in Cheaper Inference. Atentie la fork-uri: verifica mereu ca esti pe repository-ul corect.

OmniRoute vs OpenRouter si LiteLLM

• OpenRouter este un serviciu gazduit: il platesti pe el, iar el vorbeste cu modelele. Nu administrezi nimic.
• LiteLLM este gandit pentru echipe: chei comune, buget pe utilizator, Python.
• OmniRoute ruleaza la tine, aduna abonamente, chei API si planuri gratuite si pune accent pe fallback si compresie. In schimb, ai o aplicatie mare de tinut la zi.

Daca vrei doar sa incerci mai multe modele, incepe cu OpenRouter. OmniRoute are sens cand chiar ai mai multe surse de cota pe care vrei sa le pui la treaba impreuna.

Cat costa OmniRoute: chiar este gratuit?

Programul nu costa nimic daca il gazduiesti tu. Platesti in schimb trei lucruri:

1. Modelele. Cheile API sunt pe cheltuiala ta, in functie de consum, de obicei facturate in dolari sau euro de firme din afara Romaniei.
2. Masina. Daca nu ruleaza pe PC-ul tau, ai nevoie de un server: pentru un agent de programare, documentatia indica cel putin 10 GB de memorie pentru container in configuratia recomandata.
3. OmniRoute Cloud, daca il alegi. Este o instanta administrata, cu gazduire lunara si inferenta facturata separat. Pe pagina oficiala nu am gasit un pret public.

Apoi vine cifra care circula cel mai mult: aproximativ 1,5 miliarde de tokeni gratuiti pe luna. Este o valoare anuntata de proiect si trebuie citita atent.

Cam un miliard vine de la un singur provider, Mistral. Deci doua treimi din total depind de un singur plan gratuit, cu limite de cereri pe care trebuie sa le verifici in contul tau.

Providerii fara cheie sunt un bonus, nu o baza de lucru. Ghidul rapid spune ca pot sa nu fie disponibili sau pot refuza clientii terti, iar planurile gratuite pot cere inregistrare, aprobare sau o metoda de plata.

Cum instalezi OmniRoute

Ai nevoie de Node.js 22.22.2 sau mai nou pe linia 22, ori de o versiune intre 24 si 26. Versiunea 23 este exclusa. Pe npm, la 9 noiembrie 2026, este disponibila 3.8.53.

npm install -g omniroute
omniroute

Panoul se deschide la http://localhost:20128. Cu npm 11 sau mai nou, instalarea poate bloca scripturile de post-instalare: avertismentul iti spune ce pachete trebuie permise, iar a le permite inseamna a le lasa sa ruleze.

Pentru un setup permanent as alege Docker, legat doar de interfata locala:

docker run -d --name omniroute --restart unless-stopped --stop-timeout 40 \
  -p 127.0.0.1:20128:20128 -e INITIAL_PASSWORD \
  -v omniroute-data:/app/data diegosouzapw/omniroute:latest

Acel 127.0.0.1 este partea importanta: fara el, gateway-ul asculta pe toate interfetele masinii.

Inainte de comanda, genereaza o parola cu export INITIAL_PASSWORD=$(openssl rand -base64 24). Pe versiuni recente, fara aceasta variabila, parola initiala aparea ca CHANGEME.

Pasii pentru setup sunt:

1. Deschide panoul si verifica daca autentificarea este obligatorie.
2. La Providers adauga o cheie API a unui serviciu ale carui conditii le-ai citit.
3. La Endpoints copiaza cheia gateway-ului.
4. Seteaza unealta pe http://localhost:20128/v1 cu acea cheie.
5. Verifica cu curl http://localhost:20128/v1/models -H "Authorization: Bearer CHEIA_TA".

Comanda omniroute doctor verifica porturile, dependentele si providerii cand ceva nu porneste.

OmniRoute cu Claude Code: ce merge si ce nu

Ca sa legi OmniRoute de Claude Code, setezi doua variabile in ~/.claude/settings.json:

ANTHROPIC_BASE_URL=http://localhost:20128
ANTHROPIC_AUTH_TOKEN=cheia-gatewayului

Tehnic, merge. Dar promisiunea de "Claude Code gratis" ascunde trei lucruri:

• Nu folosesti Claude. Daca in spate sunt modele gratuite, folosesti interfata Claude Code cu un alt creier. Calitatea si folosirea uneltelor se schimba.
• Anthropic nu ofera suport. Documentatia spune ca nu sustine rutarea Claude Code catre modele non-Claude prin niciun gateway. Daca se strica ceva, esti pe cont propriu.
• Tokenul gateway-ului opreste abonamentul. Cu ANTHROPIC_AUTH_TOKEN, sesiunea nu mai foloseste planul tau claude.ai, iar consumul merge pe contul legat de gateway.

Daca vrei sa cheltuiesti mai putin, exista cai mai curate: vezi cele 5 metode de a folosi Claude Code gratuit si ghidul despre cum consumi mai putini tokeni. Pentru costurile oficiale, vezi cat costa Claude in 2026.

Este OmniRoute sigur? Cele doua vulnerabilitati

Depinde de versiune si de cum il expui. Un astfel de gateway pastreaza cheile tuturor providerilor tai, deci este o tinta valoroasa. In 2026 au aparut doua vulnerabilitati serioase:

• CVE-2026-88062, severitate 9,5 din 10. Pana la 3.8.49, un endpoint pentru inregistrarea agentilor personalizati permitea executarea de cod pe server, fara autentificare daca loginul era dezactivat sau in faza initiala a unei instalari noi.
• CVE-2026-116634, severitate 8,2. De la 3.8.50 la 3.8.51, cu loginul dezactivat, oricine putea obtine un token de sincronizare si citi cheile API si credentialele in clar. Tokenurile ramaneau valabile si dupa reactivarea loginului.

A doua este corectata in 3.8.52. La prima, bazele de date publice nu au fost de acord o perioada: o versiune mare nu inseamna automat ca esti in regula, conteaza si configuratia.

Ce as face eu

1. Actualizeaza cel putin la 3.8.52 si tine gateway-ul la zi: proiectul lanseaza des.
2. Lasa loginul activ, mereu.
3. Nu il expune pe internet. Pentru acces de la distanta foloseste un VPN.
4. Daca ai avut versiuni vulnerabile accesibile din exterior, schimba toate cheile conectate. Actualizarea nu ajunge.
5. Daca il tii in retea, izoleaza procesul: vezi ghidurile despre Docker Sandbox si NVIDIA OpenShell.

Riscul despre care se vorbeste putin: conturile

Pe langa cheile API, OmniRoute poate conecta abonamente prin OAuth (25 de provideri) si sesiuni web prin cookie-uri (35 de provideri, printre care ChatGPT, Claude si Gemini Web).

Documentatia mentioneaza si simularea amprentei TLS si a semnaturilor clientilor, pentru a reduce detectarea ca bot. Pentru mine, aici este punctul care cere cea mai multa atentie.

• Anthropic nu permite dezvoltatorilor terti sa colecteze, sa pastreze sau sa intermedieze credentiale si tokenuri de sesiune Claude.ai.
• Google nu admite, in conditiile Antigravity, accesul prin proxy-uri si routere terte, nici macar pentru uz personal. In noiembrie 2026, pe forumul oficial apar conturi suspendate cu eroarea 403 care conectasera OmniRoute.
• OmniRoute insusi marcheaza unii provideri cu tos: avoid si ii exclude din rutarea automata: este un semnal de luat in seama.

Regula pe care as urma-o este simpla: in OmniRoute doar chei API, iar abonamentul ramane in clientul oficial. Nu merita sa risti suspendarea contului cu care lucrezi zilnic pentru cativa lei economisiti.

OmniRoute intr-o firma din Romania: GDPR si date

Gateway-ul este local, dar prompturile ajung oricum la providerul ales pentru fiecare cerere. Telemetria este dezactivata implicit, credentialele sunt criptate si exista o mascare optionala a datelor personale. Trei atentionari pentru un SRL:

• Modelul "auto" decide singur. Intr-o firma, defineste combo-uri inchise, doar cu furnizori cu care ai un acord de prelucrare a datelor. In caz de control, la ANSPDCP trebuie sa poti spune unde au ajuns datele.
• Fara date de clienti in planuri gratuite ale caror conditii de pastrare si antrenare nu le cunosti: asta include facturi, exporturi din e-Factura sau documente cu date din contracte.
• Mascarea nu acopera tot. Lista documentata cuprinde emailuri, telefoane si carduri, plus identificatori din Brazilia si SUA: CNP-ul nu apare in lista. Trebuie tratat separat.

Pentru o firma care vrea mai multe modele, as porni de la cativa furnizori alesi, cu control pe costuri si date, intr-un proiect de automatizari AI sau de agenti AI.

Cand merita folosit

Are sens daca experimentezi pe proiecte personale, ai mai multe chei API si vrei un singur fallback, sau compari modele cu OpenCode ori Hermes Agent.

L-as evita daca lucrezi cu cod sau date confidentiale fara control asupra furnizorilor, daca nu ai timp sa il actualizezi sau daca singurul motiv este sa ai Claude gratis. Asta, cu OmniRoute, nu obtii.

Citeste si

• AI chinezesc open source: ce modele recomand
• Ce este MCP si cum functioneaza
• Instalare Claude Code pe Windows, Mac si Linux

Vrei sa stii daca un gateway chiar iti trebuie si cum il configurezi fara sa expui chei si date? Scrie-mi si ne uitam la cazul tau.