# ๐Ÿš€ OmniRoute โ€” Gerbang AI Percuma ### Jangan sekali-kali berhenti mengekod. Penghalaan pintar ke **model AI PERCUMA & kos rendah** dengan sandaran automatik. _Proksi API universal anda โ€” satu titik akhir, 67+ pembekal, masa henti sifar. Kini dengan orkestra ejen **MCP & A2A**._ **Penyelesaian Sembang โ€ข Pembenaman โ€ข Penjanaan Imej โ€ข Video โ€ข Muzik โ€ข Audio โ€ข Kedudukan Semula โ€ข **Carian Web** โ€ข Pelayan MCP โ€ข Protokol A2A โ€ข 100% TypeScript** ---
[![npm version](https://img.shields.io/npm/v/omniroute?color=cb3837&logo=npm)](https://www.npmjs.com/package/omniroute) [![npm downloads](https://img.shields.io/npm/dm/omniroute?color=cb3837&logo=npm&label=npm%20downloads)](https://www.npmjs.com/package/omniroute) [![Docker Hub](https://img.shields.io/docker/v/diegosouzapw/omniroute?label=Docker%20Hub&logo=docker&color=2496ED)](https://hub.docker.com/r/diegosouzapw/omniroute) [![Docker Pulls](https://img.shields.io/docker/pulls/diegosouzapw/omniroute?logo=docker&color=2496ED&label=docker%20pulls)](https://hub.docker.com/r/diegosouzapw/omniroute) [![License](https://img.shields.io/github/license/diegosouzapw/OmniRoute)](https://github.com/diegosouzapw/OmniRoute/blob/main/LICENSE) [![Website](https://img.shields.io/badge/Website-omniroute.online-blue?logo=google-chrome&logoColor=white)](https://omniroute.online) [![WhatsApp](https://img.shields.io/badge/WhatsApp-Community-25D366?logo=whatsapp&logoColor=white)](https://chat.whatsapp.com/JI7cDQ1GyaiDHhVBpLxf8b?mode=gi_t) [๐ŸŒ Website](https://omniroute.online) โ€ข [๐Ÿš€ Quick Start](#-quick-start) โ€ข [๐Ÿ’ก Features](#-key-features) โ€ข [๐Ÿ“– Docs](#-documentation) โ€ข [๐Ÿ’ฐ Pricing](#-pricing-at-a-glance) โ€ข [๐Ÿ’ฌ WhatsApp](https://chat.whatsapp.com/JI7cDQ1GyaiDHhVBpLxf8b?mode=gi_t)
๐ŸŒ **Terdapat dalam:** ๐Ÿ‡บ๐Ÿ‡ธ [English](README.md) | ๐Ÿ‡ง๐Ÿ‡ท [Portuguรชs (Brasil)](docs/i18n/pt-BR/README.md) | ๐Ÿ‡ช๐Ÿ‡ธ [Espaรฑol](docs/i18n/es/README.md) | ๐Ÿ‡ซ๐Ÿ‡ท [Franรงais](docs/i18n/fr/README.md) | ๐Ÿ‡ฎ๐Ÿ‡น [Italiano](docs/i18n/it/README.md) | ๐Ÿ‡ท๐Ÿ‡บ [ะ ัƒััะบะธะน](docs/i18n/ru/README.md) | ๐Ÿ‡จ๐Ÿ‡ณ [ไธญๆ–‡ (็ฎ€ไฝ“)](docs/i18n/zh-CN/README.md) | ๐Ÿ‡ฉ๐Ÿ‡ช [Deutsch](docs/i18n/de/README.md) | ๐Ÿ‡ฎ๐Ÿ‡ณ [เคนเคฟเคจเฅเคฆเฅ€](docs/i18n/in/README.md) | ๐Ÿ‡น๐Ÿ‡ญ [เน„เธ—เธข](docs/i18n/th/README.md) | ๐Ÿ‡บ๐Ÿ‡ฆ [ะฃะบั€ะฐั—ะฝััŒะบะฐ](docs/i18n/uk-UA/README.md) | ๐Ÿ‡ธ๐Ÿ‡ฆ [ุงู„ุนุฑุจูŠุฉ](docs/i18n/ar/README.md) | ๐Ÿ‡ฏ๐Ÿ‡ต [ๆ—ฅๆœฌ่ชž](docs/i18n/ja/README.md) | ๐Ÿ‡ป๐Ÿ‡ณ [Tiแบฟng Viแป‡t](docs/i18n/vi/README.md) | ๐Ÿ‡ง๐Ÿ‡ฌ [ะ‘ัŠะปะณะฐั€ัะบะธ](docs/i18n/bg/README.md) | ๐Ÿ‡ฉ๐Ÿ‡ฐ [Dansk](docs/i18n/da/README.md) | ๐Ÿ‡ซ๐Ÿ‡ฎ [Suomi](docs/i18n/fi/README.md) | ๐Ÿ‡ฎ๐Ÿ‡ฑ [ืขื‘ืจื™ืช](docs/i18n/he/README.md) | ๐Ÿ‡ญ๐Ÿ‡บ [Magyar](docs/i18n/hu/README.md) | ๐Ÿ‡ฎ๐Ÿ‡ฉ [Bahasa Indonesia](docs/i18n/id/README.md) | ๐Ÿ‡ฐ๐Ÿ‡ท [ํ•œ๊ตญ์–ด](docs/i18n/ko/README.md) | ๐Ÿ‡ฒ๐Ÿ‡พ [Bahasa Melayu](docs/i18n/ms/README.md) | ๐Ÿ‡ณ๐Ÿ‡ฑ [Nederlands](docs/i18n/nl/README.md) | ๐Ÿ‡ณ๐Ÿ‡ด [Norsk](docs/i18n/no/README.md) | ๐Ÿ‡ต๐Ÿ‡น [Portuguรชs (Portugal)](docs/i18n/pt/README.md) | ๐Ÿ‡ท๐Ÿ‡ด [Romรขnฤƒ](docs/i18n/ro/README.md) | ๐Ÿ‡ต๐Ÿ‡ฑ [Polski](docs/i18n/pl/README.md) | ๐Ÿ‡ธ๐Ÿ‡ฐ [Slovenฤina](docs/i18n/sk/README.md) | ๐Ÿ‡ธ๐Ÿ‡ช [Svenska](docs/i18n/sv/README.md) | ๐Ÿ‡ต๐Ÿ‡ญ [Filipino](docs/i18n/phi/README.md) | ๐Ÿ‡จ๐Ÿ‡ฟ [ฤŒeลกtina](docs/i18n/cs/README.md) --- ## ๐Ÿ†• Apa yang Baharu dalam v3.0.0 > **Menaik taraf daripada v2.9.5?** โ€” Lihat [full CHANGELOG](CHANGELOG.md#300--2026-03-22-release-candidate--not-yet-merged-to-main) untuk semua perubahan. | Kawasan | Tukar | | ----------------------------- | --------------------------------------------------------------------------------------------------------------------------------------------------------------------------------- | | ๐Ÿ”’ **Keselamatan CodeQL** | Memperbaiki 10+ amaran CodeQL: polinomial-redos, tidak selamat-rawak, pemulihan suntikan shell | | โœ… **Pengesahan Laluan** | Semua 176 laluan API kini disahkan dengan skema Zod + `validateBody()` โ€” CI `check:route-validation:t06` pas | | ๐Ÿ› **omniModel Tag Bocor** | Teg dalaman `` tidak lagi bocor kepada pelanggan dalam respons penstriman SSE (#585) | | ๐Ÿ”‘ **API Kunci Berdaftar** | Auto-peruntukkan kunci API melalui `POST /api/v1/registered-keys` dengan penguatkuasaan kuota setiap pembekal/akaun, idempotency, storan SHA-256 dan pelaporan isu GitHub pilihan | | ๐ŸŽจ **Ikon Pembekal** | 130+ logo pembekal melalui `@lobehub/icons` (SVG) dengan PNG โ†’ rantaian sandaran generik | | ๐Ÿ”„ **Model Auto-Segerak** | Penjadual 24 jam dan togol UI manual untuk menyegerakkan senarai model bagi pembekal terbina dalam dan tersuai serasi OpenAI | | ๐ŸŒ **OpenCode Zen/Go** | Dua pembekal baharu daripada @kang-heewon melalui PR #530: peringkat percuma + peringkat langganan melalui `OpencodeExecutor` | | ๐Ÿ› **Gemini CLI OAuth** | Ralat boleh diambil tindakan apabila `GEMINI_OAUTH_CLIENT_SECRET` tiada dalam Docker (adalah ralat Google samar) | | ๐Ÿ› **Konfigurasi OpenCode** | `saveOpenCodeConfig()` kini menulis TOML dengan betul kepada `XDG_CONFIG_HOME` | | ๐Ÿ› **Timpa model disematkan** | `body.model` ditetapkan dengan betul kepada `pinnedModel` pada perlindungan konteks-cache | | ๐Ÿ› **Gelung Codex/Claude** | `tool_result` blok kini ditukar kepada teks untuk menghentikan gelung tak terhingga | | ๐Ÿ› **Ubah hala log masuk** | Log masuk tidak lagi membeku selepas melangkau persediaan kata laluan | | ๐Ÿ› **Laluan Windows** | Laluan MSYS2/Git-Bash (`/c/...`) dinormalkan kepada `C:\...` secara automatik | --- ## ๐Ÿ–ผ๏ธ Papan Pemuka Utama
OmniRoute Dashboard
--- ## ๐Ÿ“ธ Pratonton Papan Pemuka
Klik untuk melihat tangkapan skrin papan pemuka | Halaman | Tangkapan skrin | | ------------------ | ------------------------------------------------- | | **Pembekal** | ![Providers](docs/screenshots/01-providers.png) | | **Kombo** | ![Combos](docs/screenshots/02-combos.png) | | **Analisis** | ![Analytics](docs/screenshots/03-analytics.png) | | **Kesihatan** | ![Health](docs/screenshots/04-health.png) | | **Penterjemah** | ![Translator](docs/screenshots/05-translator.png) | | **Tetapan** | ![Settings](docs/screenshots/06-settings.png) | | **Alat CLI** | ![CLI Tools](docs/screenshots/07-cli-tools.png) | | **Log Penggunaan** | ![Usage](docs/screenshots/08-usage.png) | | **Titik tamat** | ![Endpoints](docs/screenshots/09-endpoint.png) |
--- ### ๐Ÿค– Pembekal AI percuma untuk ejen pengekodan kegemaran anda _Sambungkan mana-mana alat IDE atau CLI berkuasa AI melalui OmniRoute โ€” get laluan API percuma untuk pengekodan tanpa had._
OpenClaw
OpenClaw

โญ 205K
NanoBot
NanoBot

โญ 20.9K
PicoClaw
PicoClaw

โญ 14.6K
ZeroClaw
ZeroClaw

โญ 9.9K
IronClaw
IronClaw

โญ 2.1K
OpenCode
OpenCode

โญ 106K
Codex CLI
Codex CLI

โญ 60.8K
Claude Code
Claude Code

โญ 67.3K
Gemini CLI
Gemini CLI

โญ 94.7K
Kilo Code
Kilo Code

โญ 15.5K
๐Ÿ“ก Semua ejen bersambung melalui http://localhost:20128/v1 atau http://cloud.omniroute.online/v1 atau model http://cloud.omniroute.online/v1__OMNI_TOKEN โ€” un_config dan_4 kuota --- ## ๐Ÿค” Mengapa OmniRoute? **Berhenti membazir wang dan mencapai had:** - Kuota langganan tamat tempoh tidak digunakan setiap bulan - Had kadar menghalang anda pertengahan pengekodan - API Mahal ($20-50/bulan bagi setiap pembekal) - Pertukaran manual antara pembekal **OmniRoute menyelesaikan ini:** - โœ… **Maksimumkan langganan** - Jejaki kuota, gunakan setiap bit sebelum ditetapkan semula - โœ… **Auto sandaran** - Langganan โ†’ Kunci API โ†’ Murah โ†’ Percuma, masa henti sifar - โœ… **Berbilang akaun** - Round-robin antara akaun bagi setiap pembekal - โœ… **Universal** - Berfungsi dengan Kod Claude, Codex, Gemini CLI, Kursor, Cline, OpenClaw, sebarang alat CLI --- ## ๐Ÿ“ง Sokongan > ๐Ÿ’ฌ **Sertai komuniti kami!** [WhatsApp Group](https://chat.whatsapp.com/JI7cDQ1GyaiDHhVBpLxf8b?mode=gi_t) โ€” Dapatkan bantuan, kongsi petua dan kekal kemas kini. - **Laman web**: [omniroute.online](https://omniroute.online) - **GitHub**: [github.com/diegosouzapw/OmniRoute](https://github.com/diegosouzapw/OmniRoute) - **Isu**: [github.com/diegosouzapw/OmniRoute/issues](https://github.com/diegosouzapw/OmniRoute/issues) - **WhatsApp**: [Community Group](https://chat.whatsapp.com/JI7cDQ1GyaiDHhVBpLxf8b?mode=gi_t) - **Menyumbang**: Lihat [CONTRIBUTING.md](CONTRIBUTING.md), buka PR atau pilih `good first issue` - **Projek Asal**: [9router by decolua](https://github.com/decolua/9router) ### ๐Ÿ› Melaporkan Pepijat? Apabila membuka isu, sila jalankan arahan maklumat sistem dan lampirkan fail yang dijana: ```bash npm run system-info ``` Ini menjana `system-info.txt` dengan versi Node.js anda, versi OmniRoute, butiran OS, alat CLI yang dipasang (iflow, gemini, claude, codex, antigravity, droid, dll.), status Docker/PM2 dan pakej sistem โ€” semua yang kami perlukan untuk mengeluarkan semula isu anda dengan cepat. Lampirkan fail terus pada isu GitHub anda. --- ## ๐Ÿ”„ Cara Ia Berfungsi ``` โ”Œโ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ” โ”‚ Your CLI โ”‚ (Claude Code, Codex, Gemini CLI, OpenClaw, Cursor, Cline...) โ”‚ Tool โ”‚ โ””โ”€โ”€โ”€โ”€โ”€โ”€โ”ฌโ”€โ”€โ”€โ”€โ”€โ”€โ”˜ โ”‚ http://localhost:20128/v1 โ†“ โ”Œโ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ” โ”‚ OmniRoute (Smart Router) โ”‚ โ”‚ โ€ข Format translation (OpenAI โ†” Claude) โ”‚ โ”‚ โ€ข Quota tracking + Embeddings + Images โ”‚ โ”‚ โ€ข Auto token refresh โ”‚ โ””โ”€โ”€โ”€โ”€โ”€โ”€โ”ฌโ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”˜ โ”‚ โ”œโ”€โ†’ [Tier 1: SUBSCRIPTION] Claude Code, Codex, Gemini CLI โ”‚ โ†“ quota exhausted โ”œโ”€โ†’ [Tier 2: API KEY] DeepSeek, Groq, xAI, Mistral, NVIDIA NIM, etc. โ”‚ โ†“ budget limit โ”œโ”€โ†’ [Tier 3: CHEAP] GLM ($0.6/1M), MiniMax ($0.2/1M) โ”‚ โ†“ budget limit โ””โ”€โ†’ [Tier 4: FREE] iFlow, Qwen, Kiro (unlimited) Result: Never stop coding, minimal cost ``` --- ## ๐ŸŽฏ Perkara yang Selesaikan OmniRoute โ€” 30 Titik Sakit Nyata & Kes Penggunaan > **Setiap pembangun yang menggunakan alatan AI menghadapi masalah ini setiap hari.** OmniRoute dibina untuk menyelesaikan kesemuanya โ€” daripada lebihan kos kepada blok serantau, daripada aliran OAuth yang rosak kepada operasi protokol dan kebolehmerhatian perusahaan.
๐Ÿ’ธ 1. "Saya membayar untuk langganan yang mahal tetapi masih terganggu oleh had" Pembangun membayar $20โ€“200/bulan untuk Claude Pro, Codex Pro atau GitHub Copilot. Walaupun membayar, kuota mempunyai siling โ€” 5j penggunaan, had mingguan atau had kadar seminit. Sesi pertengahan pengekodan, pembekal berhenti bertindak balas dan pembangun kehilangan aliran dan produktiviti. **Cara OmniRoute menyelesaikannya:** - **Smart 4-Tier Fallback** โ€” Jika kuota langganan habis, diubah hala secara automatik ke API Key โ†’ Murah โ†’ Percuma tanpa campur tangan manual - **Penjejakan Kuota Masa Nyata** โ€” Menunjukkan penggunaan token dalam masa nyata dengan kira detik tetapan semula (5j, harian, mingguan) - **Sokongan Berbilang Akaun** โ€” Berbilang akaun bagi setiap pembekal dengan auto round-robin โ€” apabila satu kehabisan, beralih kepada yang seterusnya - **Kombo Tersuai** โ€” Rantaian sandaran yang boleh disesuaikan dengan 6 strategi pengimbangan (isi dahulu, round-robin, P2C, rawak, paling kurang digunakan, dioptimumkan kos) - **Kuota Perniagaan Codex** โ€” Pemantauan kuota ruang kerja Perniagaan/Pasukan terus dalam papan pemuka
๐Ÿ”Œ 2. "Saya perlu menggunakan berbilang pembekal tetapi setiap satu mempunyai API yang berbeza" OpenAI menggunakan satu format, Claude (Anthropic) menggunakan satu lagi, Gemini satu lagi. Jika pembangun ingin menguji model daripada pembekal yang berbeza atau sandaran antara mereka, mereka perlu mengkonfigurasi semula SDK, menukar titik akhir, menangani format yang tidak serasi. Pembekal tersuai (FriendLI, NIM) mempunyai titik akhir model bukan standard. **Cara OmniRoute menyelesaikannya:** - **Titik Akhir Disatukan** โ€” Satu `http://localhost:20128/v1` berfungsi sebagai proksi untuk semua 67+ pembekal - **Format Terjemahan** โ€” Automatik dan telus: OpenAI โ†” Claude โ†” Gemini โ†” Responses API - **Sanitization Response** โ€” Mencabut medan bukan standard (`x_groq`, `usage_breakdown`, `service_tier`) yang memecahkan OpenAI SDK v1.83+ - **Penormalan Peranan** โ€” Menukar `developer` โ†’ `system` untuk penyedia bukan OpenAI; `system` โ†’ `user` untuk GLM/ERNIE - **Think Tag Extraction** โ€” Mengekstrak `` menyekat daripada model seperti DeepSeek R1 ke dalam standard `reasoning_content` - **Output Berstruktur untuk Gemini** โ€” `json_schema` โ†’ `responseMimeType`/`responseSchema` penukaran automatik - **`stream` lalai kepada `false`** โ€” Menjajarkan dengan spesifikasi OpenAI, mengelakkan SSE yang tidak dijangka dalam Python/Rust/Go SDK
๐ŸŒ 3. "Pembekal AI saya menyekat wilayah/negara saya" Penyedia seperti OpenAI/Codex menyekat akses daripada kawasan geografi tertentu. Pengguna mendapat ralat seperti `unsupported_country_region_territory` semasa sambungan OAuth dan API. Ini amat mengecewakan bagi pemaju dari negara membangun. **Cara OmniRoute menyelesaikannya:** - **Konfigurasi Proksi 3 Tahap** โ€” Proksi boleh dikonfigurasikan pada 3 peringkat: global (semua trafik), setiap pembekal (satu pembekal sahaja) dan setiap sambungan/kunci - **Lencana Proksi Berkod Warna** โ€” Penunjuk visual: ๐ŸŸข proksi global, ๐ŸŸก proksi pembekal, ๐Ÿ”ต proksi sambungan, sentiasa menunjukkan IP - **Pertukaran Token OAuth Melalui Proksi** โ€” Aliran OAuth juga melalui proksi, menyelesaikan `unsupported_country_region_territory` - **Ujian Sambungan melalui Proksi** โ€” Ujian sambungan menggunakan proksi yang dikonfigurasikan (tiada lagi pintasan langsung) - **Sokongan SOCKS5** โ€” Sokongan proksi SOCKS5 penuh untuk penghalaan keluar - **TLS Fingerprint Spoofing** โ€” Cap jari TLS seperti penyemak imbas melalui `wreq-js` untuk memintas pengesanan bot - **๐Ÿ” Padanan Cap Jari CLI** โ€” Menyusun semula pengepala dan medan badan agar sepadan dengan tandatangan binari CLI asli, secara drastik mengurangkan risiko pembenderaan akaun. IP proksi dikekalkan โ€” anda mendapat kedua-dua penyamaran **dan** IP secara serentak
๐Ÿ†“ 4. "Saya mahu menggunakan AI untuk pengekodan tetapi saya tidak mempunyai wang" Tidak semua orang boleh membayar $20โ€“200/bulan untuk langganan AI. Pelajar, pembangun dari negara baru muncul, penggemar dan pekerja bebas memerlukan akses kepada model berkualiti pada kos sifar. **Cara OmniRoute menyelesaikannya:** - **Pembekal Peringkat Percuma Terbina dalam** โ€” Sokongan asli untuk penyedia percuma 100%: iFlow (5 model tanpa had melalui OAuth: kimi-k2-thinking, qwen3-coder-plus, deepseek-r1, minimax-m2, kimi-k2), Qwen (4 model tanpa had: qwender3-coder3,-coplus qwen3-coder-next, vision-model), Kiro (Claude + AWS Builder ID secara percuma), Gemini CLI (180K token/bulan percuma) - **Ollama Cloud** โ€” Model Ollama dihoskan awan di `api.ollama.com` dengan peringkat "Penggunaan cahaya" percuma; gunakan awalan `ollamacloud/` - **Kombo Percuma-Sahaja** โ€” Rantaian `gc/gemini-3-flash โ†’ if/kimi-k2-thinking โ†’ qw/qwen3-coder-plus` = $0/bulan tanpa masa berhenti sifar - **Akses Percuma NVIDIA NIM** โ€” ~40 RPM dev-forever akses percuma kepada 70+ model di build.nvidia.com (peralihan daripada kredit kepada had kadar tulen) - **Strategi Dioptimumkan Kos** โ€” Strategi penghalaan yang secara automatik memilih pembekal yang tersedia paling murah
๐Ÿ”’ 5. "Saya perlu melindungi gerbang AI saya daripada akses tanpa kebenaran" Apabila mendedahkan get laluan AI kepada rangkaian (LAN, VPS, Docker), sesiapa sahaja yang mempunyai alamat boleh menggunakan token/kuota pembangun. Tanpa perlindungan, API terdedah kepada penyalahgunaan, suntikan segera dan penyalahgunaan. **Cara OmniRoute menyelesaikannya:** - **Pengurusan Kunci API** โ€” Penjanaan, penggiliran dan skop setiap pembekal dengan halaman `/dashboard/api-manager` khusus - **Kebenaran Tahap Model** โ€” Hadkan kunci API kepada model tertentu (`openai/*`, corak kad bebas), dengan Togol Benarkan Semua/Sekat - **Perlindungan Titik Akhir API** โ€” Memerlukan kunci untuk `/v1/models` dan menyekat penyedia tertentu daripada penyenaraian - **Auth Guard + CSRF Protection** โ€” Semua laluan papan pemuka dilindungi dengan `withAuth` middleware + token CSRF - **Penghad Kadar** โ€” Pengehadan kadar Per-IP dengan tetingkap boleh dikonfigurasikan - **Penapisan IP** โ€” Senarai Benar/senarai sekat untuk kawalan akses - **Pengawal Suntikan Segera** โ€” Pensanitasi terhadap corak segera yang berniat jahat - **Penyulitan AES-256-GCM** โ€” Bukti kelayakan disulitkan semasa rehat
๐Ÿ›‘ 6. "Pembekal saya gagal dan saya kehilangan aliran pengekodan saya" Pembekal AI boleh menjadi tidak stabil, mengembalikan ralat 5xx atau mencapai had kadar sementara. Jika pembangun bergantung pada penyedia tunggal, mereka akan terganggu. Tanpa pemutus litar, percubaan semula berulang boleh ranap aplikasi. **Cara OmniRoute menyelesaikannya:** - **Pemutus Litar bagi setiap model** โ€” Auto buka/tutup dengan ambang boleh dikonfigurasikan dan cooldown (Tertutup/Buka/Separuh Terbuka), berskop setiap model untuk mengelakkan blok berlatarkan - **Penyingkiran Eksponen** โ€” Kelewatan percubaan semula progresif - **Kawanan Anti Gemuruh** โ€” Mutex + perlindungan semafor terhadap ribut percubaan semula serentak - **Kombo Rantai Sandar** โ€” Jika pembekal utama gagal, secara automatik jatuh melalui rantaian tanpa campur tangan - **Pemutus Litar Kombo** โ€” Lumpuhkan automatik pembekal yang gagal dalam rantaian kombo - **Papan Pemuka Kesihatan** โ€” Pemantauan masa aktif, keadaan pemutus litar, penguncian, statistik cache, kependaman p50/p95/p99
๐Ÿ”ง 7. "Mengkonfigurasi setiap alat AI adalah membosankan dan berulang" Pembangun menggunakan Kursor, Kod Claude, Codex CLI, OpenClaw, Gemini CLI, Kod Kilo... Setiap alat memerlukan konfigurasi yang berbeza (titik akhir API, kunci, model). Mengkonfigurasi semula apabila menukar pembekal atau model adalah membuang masa. **Cara OmniRoute menyelesaikannya:** - **Papan Pemuka Alat CLI** โ€” Halaman khusus dengan persediaan satu klik untuk Claude Code, Codex CLI, OpenClaw, Kilo Code, Antigravity, Cline - **GitHub Copilot Config Generator** โ€” Menghasilkan `chatLanguageModels.json` untuk Kod VS dengan pemilihan model pukal - **Onboarding Wizard** โ€” Persediaan 4 langkah berpandu untuk pengguna kali pertama - **Satu titik akhir, semua model** โ€” Konfigurasikan `http://localhost:20128/v1` sekali, akses 67+ pembekal
๐Ÿ”‘ 8. "Menguruskan token OAuth daripada berbilang pembekal adalah neraka" Kod Claude, Codex, Gemini CLI, Copilot โ€” semuanya menggunakan OAuth 2.0 dengan token tamat tempoh. Pembangun perlu sentiasa mengesahkan semula, menangani `client_secret is missing`, `redirect_uri_mismatch` dan kegagalan pada pelayan jauh. OAuth pada LAN/VPS amat bermasalah. **Cara OmniRoute menyelesaikannya:** - **Muat Semula Token Auto** โ€” Token OAuth dimuat semula di latar belakang sebelum tamat tempoh - **OAuth 2.0 (PKCE) Terbina dalam** โ€” Aliran automatik untuk Kod Claude, Codex, Gemini CLI, Copilot, Kiro, Qwen, iFlow - **OAuth Berbilang Akaun** โ€” Berbilang akaun bagi setiap pembekal melalui pengekstrakan token JWT/ID - **OAuth LAN/Remote Fix** โ€” Pengesanan IP peribadi untuk `redirect_uri` + mod URL manual untuk pelayan jauh - **OAuth Behind Nginx** โ€” Menggunakan `window.location.origin` untuk keserasian proksi terbalik - **Panduan OAuth Jauh** โ€” Panduan langkah demi langkah untuk kelayakan Google Cloud pada VPS/Docker
๐Ÿ“Š 9. "Saya tidak tahu berapa banyak yang saya belanjakan atau di mana" Pembangun menggunakan berbilang penyedia berbayar tetapi tidak mempunyai pandangan bersatu tentang perbelanjaan. Setiap pembekal mempunyai papan pemuka pengebilan sendiri, tetapi tiada paparan disatukan. Kos yang tidak dijangka boleh bertimbun. **Cara OmniRoute menyelesaikannya:** - **Papan Pemuka Analitis Kos** โ€” Penjejakan kos per-token dan pengurusan belanjawan bagi setiap pembekal - **Had Belanjawan setiap Peringkat** โ€” Siling perbelanjaan setiap peringkat yang mencetuskan sandaran automatik - **Konfigurasi Harga Per-Model** โ€” Harga boleh dikonfigurasikan bagi setiap model - **Statistik Penggunaan Setiap Kunci API** โ€” Kiraan permintaan dan cap masa yang terakhir digunakan setiap kunci - **Papan Pemuka Analitik** โ€” Kad statistik, carta penggunaan model, jadual pembekal dengan kadar kejayaan dan kependaman
๐Ÿ› 10. "Saya tidak dapat mendiagnosis ralat dan masalah dalam panggilan AI" Apabila panggilan gagal, pembangun tidak tahu sama ada ia adalah had kadar, token tamat tempoh, format yang salah atau ralat pembekal. Log berpecah-belah merentasi terminal yang berbeza. Tanpa pemerhatian, penyahpepijatan adalah percubaan-dan-ralat. **Cara OmniRoute menyelesaikannya:** - **Papan Pemuka Log Bersatu** โ€” 4 tab: Log Permintaan, Log Proksi, Log Audit, Konsol - **Pemapar Log Konsol** โ€” Pemapar gaya terminal masa nyata dengan tahap berkod warna, tatal automatik, carian, penapis - **Log Proksi SQLite** โ€” Log berterusan yang bertahan dimulakan semula - **Taman Permainan Penterjemah** โ€” 4 mod nyahpepijat: Taman Permainan (terjemahan format), Penguji Sembang (perjalanan pergi balik), Bangku Ujian (batch), Monitor Langsung (masa nyata) - **Permintaan Telemetri** โ€” kependaman p50/p95/p99 + pengesanan X-Request-Id - **Pengelogan Berasaskan Fail dengan Putaran** โ€” Pemintas konsol menangkap segala-galanya ke log JSON dengan putaran berasaskan saiz - **Laporan Maklumat Sistem** โ€” `npm run system-info` menjana `system-info.txt` dengan persekitaran penuh anda (Versi Nod, versi OmniRoute, OS, alatan CLI, status Docker/PM2). Lampirkannya apabila melaporkan isu untuk percubaan segera.
๐Ÿ—๏ธ 11. "Menyedia dan menyelenggara gerbang adalah rumit" Memasang, mengkonfigurasi dan menyelenggara proksi AI merentas persekitaran yang berbeza (tempatan, VPS, Docker, awan) adalah intensif buruh. Masalah seperti laluan berkod keras, `EACCES` pada direktori, konflik port dan binaan merentas platform menambahkan geseran. **Cara OmniRoute menyelesaikannya:** - **pemasangan global npm** โ€” `npm install -g omniroute && omniroute` โ€” selesai - **Docker Multi-Platform** โ€” AMD64 + ARM64 asli (Apple Silicon, AWS Graviton, Raspberry Pi) - **Profil Karang Docker** โ€” `base` (tiada alat CLI) dan `cli` (dengan Kod Claude, Codex, OpenClaw) - **Apl Desktop Elektron** โ€” Apl asli untuk Windows/macOS/Linux dengan dulang sistem, auto mula, mod luar talian - **Mod Split-Port** โ€” API dan Papan Pemuka pada port berasingan untuk senario lanjutan (proksi terbalik, rangkaian kontena) - **Cloud Sync** โ€” Konfigurasikan penyegerakan merentas peranti melalui Cloudflare Workers - **Sandaran DB** โ€” Sandaran automatik, pulihkan, eksport dan import semua tetapan
๐ŸŒ 12. "Antara muka adalah bahasa Inggeris sahaja dan pasukan saya tidak berbahasa Inggeris" Pasukan di negara bukan berbahasa Inggeris, terutamanya di Amerika Latin, Asia dan Eropah, bergelut dengan antara muka bahasa Inggeris sahaja. Halangan bahasa mengurangkan penggunaan dan meningkatkan ralat konfigurasi. **Cara OmniRoute menyelesaikannya:** - **Papan pemuka i18n โ€” 30 Bahasa** โ€” Semua 500+ kunci diterjemahkan termasuk bahasa Arab, Bulgaria, Denmark, Jerman, Sepanyol, Finland, Perancis, Ibrani, Hindi, Hungary, Indonesia, Itali, Jepun, Korea, Melayu, Belanda, Norway, Poland, Portugis (PT/BR), Romania, Rusia, Slovak, Sweden, Thai, Ukraine, Inggeris, Cina - **Sokongan RTL** โ€” Sokongan kanan ke kiri untuk bahasa Arab dan Ibrani - **README Berbilang Bahasa** โ€” 30 terjemahan dokumentasi lengkap - **Pemilih Bahasa** โ€” Ikon Glob dalam pengepala untuk penukaran masa nyata
๐Ÿ”„ 13. "Saya perlukan lebih daripada sembang โ€” saya perlukan pembenaman, imej, audio" AI bukan sekadar penyelesaian sembang. Pembangun perlu menjana imej, menyalin audio, membuat pembenaman untuk RAG, menyusun semula dokumen dan kandungan sederhana. Setiap API mempunyai titik akhir dan format yang berbeza. **Cara OmniRoute menyelesaikannya:** - **Pembenaman** โ€” `/v1/embeddings` dengan 6 pembekal dan 9+ model - **Penjanaan Imej** โ€” `/v1/images/generations` dengan 10 pembekal dan 20+ model (OpenAI, xAI, Together, Fireworks, Nebius, Hyperbolic, NanoBanana, Antigravity, SD WebUI, ComfyUI) - **Teks-ke-Video** โ€” `/v1/videos/generations` โ€” ComfyUI (AnimateDiff, SVD) dan SD WebUI - **Teks-ke-Muzik** โ€” `/v1/music/generations` โ€” ComfyUI (Audio Terbuka, MusicGen) - **Transkripsi Audio** โ€” `/v1/audio/transcriptions` โ€” Whisper + Nvidia NIM, HuggingFace, Qwen3 - **Text-to-Speech** โ€” `/v1/audio/speech` โ€” ElevenLabs, Nvidia NIM, HuggingFace, Coqui, Tortoise, Qwen3, **Inworld**, **Cartesia**, **PlayHT**, + pembekal sedia ada - **Moderasi** โ€” `/v1/moderations` โ€” Pemeriksaan keselamatan kandungan - **Penyusunan semula** โ€” `/v1/rerank` โ€” Penyusunan semula perkaitan dokumen - **Responses API** โ€” Sokongan `/v1/responses` penuh untuk Codex
๐Ÿงช 14. "Saya tiada cara untuk menguji dan membandingkan kualiti merentas model" Pembangun ingin mengetahui model mana yang terbaik untuk kes penggunaan mereka โ€” kod, terjemahan, penaakulan โ€” tetapi membandingkan secara manual adalah perlahan. Tiada alat eval bersepadu wujud. **Cara OmniRoute menyelesaikannya:** - **LLM Evaluations** โ€” Ujian set emas dengan 10 kes pra-muat meliputi salam, matematik, geografi, penjanaan kod, pematuhan JSON, terjemahan, penurunan harga, penolakan keselamatan - **4 Strategi Padanan** โ€” `exact`, `contains`, `regex`, `custom` (fungsi JS) - **Bangku Ujian Taman Permainan Penterjemah** โ€” Ujian kelompok dengan berbilang input dan output yang dijangka, perbandingan merentas pembekal - **Penguji Sembang** โ€” Perjalanan pergi balik penuh dengan pemaparan respons visual - **Pantau Langsung** โ€” Strim masa nyata semua permintaan yang mengalir melalui proksi
๐Ÿ“ˆ 15. "Saya perlu skala tanpa kehilangan prestasi" Apabila volum permintaan bertambah, tanpa menyimpan cache soalan yang sama menjana kos pendua. Tanpa idempotensi, pendua meminta pemprosesan sisa. Had kadar setiap pembekal mesti dipatuhi. **Cara OmniRoute menyelesaikannya:** - **Cache Semantik** โ€” Cache dua peringkat (tandatangan + semantik) mengurangkan kos dan kependaman - **Request Idempotency** โ€” tetingkap penyahduplikasi 5s untuk permintaan yang sama - **Pengesanan Had Kadar** โ€” RPM setiap pembekal, jurang min dan penjejakan serentak maks - **Had Kadar Boleh Diedit** โ€” Lalai boleh dikonfigurasikan dalam Tetapan โ†’ Ketahanan dengan kegigihan - **Cache Pengesahan Kunci API** โ€” Cache 3 peringkat untuk prestasi pengeluaran - **Papan Pemuka Kesihatan dengan Telemetri** โ€” kependaman p50/p95/p99, statistik cache, masa beroperasi
๐Ÿค– 16. "Saya mahu mengawal tingkah laku model secara global" Pembangun yang mahukan semua respons dalam bahasa tertentu, dengan nada tertentu atau ingin mengehadkan token penaakulan. Mengkonfigurasi ini dalam setiap alat/permintaan adalah tidak praktikal. **Cara OmniRoute menyelesaikannya:** - **System Prompt Injection** โ€” Gesaan global digunakan untuk semua permintaan - **Pengesahan Belanjawan Berfikir** โ€” Kawalan peruntukan token penaakulan setiap permintaan (laluan, auto, tersuai, adaptif) - **6 Strategi Penghalaan** โ€” Strategi global yang menentukan cara permintaan diedarkan - **Penghala Wildcard** โ€” `provider/*` laluan corak secara dinamik kepada mana-mana pembekal - **Kombo Dayakan/Lumpuhkan Togol** โ€” Togol kombo terus dari papan pemuka - **Togol Pembekal** โ€” Dayakan/lumpuhkan semua sambungan untuk pembekal dengan satu klik - **Pembekal Disekat** โ€” Kecualikan pembekal khusus daripada penyenaraian `/v1/models`
๐Ÿงฐ 17. "Saya memerlukan alatan MCP sebagai keupayaan produk kelas pertama" Banyak get laluan AI mendedahkan MCP hanya sebagai butiran pelaksanaan tersembunyi. Pasukan memerlukan lapisan operasi yang boleh dilihat dan boleh diurus. **Cara OmniRoute menyelesaikannya:** - MCP muncul dalam navigasi papan pemuka dan tab protokol titik akhir - Halaman pengurusan MCP khusus dengan proses, alatan, skop dan audit - Permulaan pantas terbina dalam untuk `omniroute --mcp` dan penerimaan pelanggan
๐Ÿง  18. "Saya memerlukan orkestrasi A2A dengan laluan tugasan penyegerakan + strim" Aliran kerja ejen memerlukan balasan langsung dan pelaksanaan strim jangka panjang dengan kawalan kitaran hayat. **Cara OmniRoute menyelesaikannya:** - Titik akhir JSON-RPC A2A (`POST /a2a`) dengan `message/send` dan `message/stream` - Penstriman SSE dengan penyebaran keadaan terminal - API kitaran hayat tugas untuk `tasks/get` dan `tasks/cancel`
๐Ÿ›ฐ๏ธ 19. "Saya memerlukan kesihatan proses MCP sebenar, bukan status yang diduga" Pasukan operasi perlu mengetahui sama ada MCP sebenarnya masih hidup, bukan hanya sama ada API boleh dicapai. **Cara OmniRoute menyelesaikannya:** - Fail degupan jantung masa jalan dengan PID, cap masa, pengangkutan, kiraan alat dan mod skop - API status MCP yang menggabungkan degupan jantung + aktiviti terkini - Kad status UI untuk kesegaran proses/masa hidup/degupan jantung
๐Ÿ“‹ 20. "Saya memerlukan pelaksanaan alat MCP yang boleh diaudit" Apabila alat mengubah konfigurasi atau mencetuskan tindakan ops, pasukan memerlukan kebolehkesanan forensik. **Cara OmniRoute menyelesaikannya:** - Pengelogan audit yang disokong SQLite untuk panggilan alat MCP - Tapis mengikut alat, kejayaan/kegagalan, kunci API dan penomboran - Jadual audit papan pemuka + titik akhir statistik untuk automasi
๐Ÿ” 21. "Saya memerlukan keizinan MCP berskop bagi setiap penyepaduan" Pelanggan yang berbeza harus mempunyai akses paling tidak istimewa kepada kategori alat. **Cara OmniRoute menyelesaikannya:** - 9 skop MCP berbutir untuk akses alat terkawal - Penguatkuasaan skop dan keterlihatan dalam UI pengurusan MCP - Postur lalai yang selamat untuk perkakas operasi
โš™๏ธ 22. "Saya memerlukan kawalan operasi tanpa menggunakan semula" Pasukan memerlukan perubahan masa jalan yang cepat semasa insiden atau peristiwa kos. **Cara OmniRoute menyelesaikannya:** - Tukar pengaktifan kombo terus dari papan pemuka MCP - Gunakan profil daya tahan daripada pek dasar yang telah ditetapkan - Tetapkan semula keadaan pemutus litar daripada panel operasi yang sama
๐Ÿ”„ 23. "Saya memerlukan keterlihatan dan pembatalan kitaran hayat tugas A2A secara langsung" Tanpa keterlihatan kitaran hayat, insiden tugasan menjadi sukar untuk dicuba. **Cara OmniRoute menyelesaikannya:** - Penyenaraian tugas/penapisan mengikut keadaan/kemahiran dengan penomboran - Latih tubi tentang metadata tugas, peristiwa dan artifak - Titik akhir pembatalan tugas dan tindakan UI dengan pengesahan
๐ŸŒŠ 24. "Saya memerlukan metrik strim aktif untuk beban A2A" Aliran kerja penstriman memerlukan cerapan operasi tentang konkurensi dan sambungan langsung. **Cara OmniRoute menyelesaikannya:** - Kaunter aliran aktif disepadukan ke dalam status A2A - Cap masa tugas terakhir dan kiraan setiap negeri - Kad papan pemuka A2A untuk pemantauan operasi masa nyata
๐Ÿชช 25. "Saya memerlukan penemuan ejen standard untuk pelanggan" Pelanggan dan orkestra luar memerlukan metadata yang boleh dibaca mesin untuk onboarding. **Cara OmniRoute menyelesaikannya:** - Kad Ejen terdedah di `/.well-known/agent.json` - Keupayaan dan kemahiran ditunjukkan dalam UI pengurusan - API status A2A termasuk metadata penemuan untuk automasi
๐Ÿงญ 26. "Saya memerlukan kebolehtemuan protokol dalam UX produk" Jika pengguna tidak dapat menemui permukaan protokol, penggunaan dan kualiti sokongan akan menurun. **Cara OmniRoute menyelesaikannya:** - Halaman **Titik Akhir** yang disatukan dengan tab untuk Titik Akhir Proksi, MCP, A2A dan API - Togol status perkhidmatan dalam talian (Dalam Talian/Luar Talian) untuk MCP dan A2A - Pautan dari gambaran keseluruhan ke tab pengurusan khusus
๐Ÿงช 27. "Saya memerlukan pengesahan protokol hujung ke hujung dengan pelanggan sebenar" Ujian olok-olok tidak mencukupi untuk mengesahkan keserasian protokol sebelum dikeluarkan. **Cara OmniRoute menyelesaikannya:** - Suite E2E yang but apl dan menggunakan pengangkutan pelanggan MCP SDK sebenar - Ujian pelanggan A2A untuk penemuan, menghantar, menstrim, mendapatkan dan membatalkan aliran - Periksa silang dakwaan terhadap audit MCP dan API tugasan A2A
๐Ÿ“ก 28. "Saya memerlukan pemerhatian bersatu merentas semua antara muka" Memisahkan kebolehmerhatian mengikut protokol mewujudkan titik buta dan MTTR yang lebih panjang. **Cara OmniRoute menyelesaikannya:** - Papan pemuka/log/analisis bersatu dalam satu produk - Kesihatan + audit + telemetri permintaan merentas lapisan OpenAI, MCP dan A2A - API Operasi untuk status dan automasi
๐Ÿ’ผ 29. "Saya memerlukan satu masa jalan untuk proksi + alatan + orkestrasi ejen" Menjalankan banyak perkhidmatan berasingan meningkatkan kos operasi dan mod kegagalan. **Cara OmniRoute menyelesaikannya:** - Proksi serasi OpenAI, pelayan MCP dan pelayan A2A dalam satu tindanan - Kebenaran dikongsi, daya tahan, stor data dan kebolehmerhatian - Model dasar yang konsisten merentas semua permukaan interaksi
๐Ÿš€ 30. "Saya perlu menghantar aliran kerja agen tanpa penyebaran kod gam" Pasukan kehilangan halaju apabila mencantumkan berbilang perkhidmatan dan skrip ad-hoc. **Cara OmniRoute menyelesaikannya:** - Strategi titik akhir bersatu untuk pelanggan dan ejen - UI pengurusan protokol terbina dalam dan laluan pengesahan asap - Asas sedia pengeluaran (keselamatan, pembalakan, daya tahan, sandaran)
### Contoh Buku Main (Kes Penggunaan Bersepadu) **Playbook A: Maksimumkan langganan berbayar + sandaran murah** ```txt Combo: "maximize-claude" 1. cc/claude-opus-4-6 2. glm/glm-4.7 3. if/kimi-k2-thinking Monthly cost: $20 + small backup spend Outcome: higher quality, near-zero interruption ``` **Playbook B: Timbunan pengekodan kos sifar** ```txt Combo: "free-forever" 1. gc/gemini-3-flash 2. if/kimi-k2-thinking 3. qw/qwen3-coder-plus Monthly cost: $0 Outcome: stable free coding workflow ``` **Playbook C: 24/7 rantai sandaran sentiasa hidup** ```txt Combo: "always-on" 1. cc/claude-opus-4-6 2. cx/gpt-5.2-codex 3. glm/glm-4.7 4. minimax/MiniMax-M2.1 5. if/kimi-k2-thinking Outcome: deep fallback depth for deadline-critical workloads ``` **Playbook D: Operasi ejen dengan MCP + A2A** ```txt 1) Start MCP transport (`omniroute --mcp`) for tool-driven operations 2) Run A2A tasks via `message/send` and `message/stream` 3) Observe via /dashboard/endpoint (MCP and A2A tabs) 4) Toggle services via inline status controls ``` --- ## ๐Ÿ†“ Mula Percuma โ€” Kos Konfigurasi Sifar > Sediakan pengekodan AI dalam beberapa minit pada **$0/bulan**. Sambungkan akaun percuma ini dan gunakan kombo **Timbunan Percuma** terbina dalam. | Langkah | Tindakan | Pembekal Dibuka Kunci | | ------- | ------------------------------------------------------- | ------------------------------------------------------------------ | | 1 | Sambung **Kiro** (AWS Builder ID OAuth) | Claude Sonnet 4.5, Haiku 4.5 โ€” **tanpa had** | | 2 | Sambung **iFlow** (Google OAuth) | kimi-k2-thinking, qwen3-coder-plus, deepseek-r1... โ€” **tanpa had** | | 3 | Sambung **Qwen** (Kod Peranti) | qwen3-coder-plus, qwen3-coder-flash... โ€” **tanpa had** | | 4 | Sambung **Gemini CLI** (Google OAuth) | gemini-3-flash, Gemini-2.5-pro โ€” **180K/bln percuma** | | 5 | `/dashboard/combos` โ†’ **Templat Timbunan Percuma ($0)** | Round-robin semua pembekal percuma secara automatik | **Tuding mana-mana IDE/CLI ke:** `http://localhost:20128/v1` ยท Kunci API: `any-string` ยท Selesai. > **Liputan tambahan pilihan (juga percuma):** Kunci API Groq (30 RPM percuma), NVIDIA NIM (40 RPM percuma, 70+ model), Cerebras (1M tok/hari), kunci API LongCat (50M token/hari!), Cloudflare Workers AI (10K Neuron/hari, 50+ model). ## โšก Mula Pantas ### 1) Pasang dan jalankan ```bash npm install -g omniroute omniroute ``` > **pengguna pnpm:** Jalankan `pnpm approve-builds -g` selepas pemasangan untuk mendayakan skrip binaan asli yang diperlukan oleh `better-sqlite3` dan `@swc/core`: > > ```bash > pnpm install -g omniroute > pnpm approve-builds -g # Select all packages โ†’ approve > omniroute > ``` Papan pemuka dibuka pada `http://localhost:20128` dan URL asas API ialah `http://localhost:20128/v1`. | Perintah | Penerangan | | ----------------------- | ------------------------------------------------------------------------ | | `omniroute` | Mulakan pelayan (`PORT=20128`, API dan papan pemuka pada port yang sama) | | `omniroute --port 3000` | Tetapkan port kanonik/API kepada 3000 | | `omniroute --mcp` | Mulakan pelayan MCP (stdio transport) | | `omniroute --no-open` | Jangan auto buka penyemak imbas | | `omniroute --help` | Tunjukkan bantuan | Mod split-port pilihan: ```bash PORT=20128 DASHBOARD_PORT=20129 omniroute # API: http://localhost:20128/v1 # Dashboard: http://localhost:20129 ``` ### 2) Sambungkan penyedia dan buat kunci API anda 1. Buka Papan Pemuka โ†’ `Providers` dan sambungkan sekurang-kurangnya satu pembekal (kunci OAuth atau API). 2. Buka Papan Pemuka โ†’ `Endpoints` dan buat kunci API. 3. (Pilihan) Buka Papan Pemuka โ†’ `Combos` dan tetapkan rantaian sandaran anda. ### 3) Halakan alat pengekodan anda ke OmniRoute ```txt Base URL: http://localhost:20128/v1 API Key: [copy from Endpoint page] Model: if/kimi-k2-thinking (or any provider/model prefix) ``` Berfungsi dengan Claude Code, Codex CLI, Gemini CLI, Cursor, Cline, OpenClaw, OpenCode dan SDK serasi OpenAI. ### 4) Dayakan dan sahkan protokol (v2.0) **MCP (untuk operasi dipacu alat):** ```bash omniroute --mcp ``` Kemudian sambungkan klien MCP anda melalui `stdio` dan alat ujian seperti: - `omniroute_get_health` - `omniroute_list_combos` **A2A (untuk aliran kerja ejen-ke-ejen):** ```bash curl http://localhost:20128/.well-known/agent.json ``` ```bash curl -X POST http://localhost:20128/a2a \ -H 'content-type: application/json' \ -d '{"jsonrpc":"2.0","id":"quickstart","method":"message/send","params":{"skill":"quota-management","messages":[{"role":"user","content":"Give me a short quota summary."}]}}' ``` ### 5) Sahkan semuanya hujung ke hujung (disyorkan) ```bash npm run test:protocols:e2e ``` Suite ini mengesahkan aliran klien MCP dan A2A sebenar terhadap apl yang sedang berjalan. ### Alternatif: jalankan dari sumber ```bash cp .env.example .env npm install PORT=20128 DASHBOARD_PORT=20129 NEXT_PUBLIC_BASE_URL=http://localhost:20129 npm run dev ``` --- ## ๐Ÿณ Docker OmniRoute tersedia sebagai imej Docker awam pada [Docker Hub](https://hub.docker.com/r/diegosouzapw/omniroute). **Larian pantas:** ```bash docker run -d \ --name omniroute \ --restart unless-stopped \ -p 20128:20128 \ -v omniroute-data:/app/data \ diegosouzapw/omniroute:latest ``` **Dengan fail persekitaran:** ```bash # Copy and edit .env first cp .env.example .env docker run -d \ --name omniroute \ --restart unless-stopped \ --env-file .env \ -p 20128:20128 \ -v omniroute-data:/app/data \ diegosouzapw/omniroute:latest ``` **Menggunakan Docker Compose:** ```bash # Base profile (no CLI tools) docker compose --profile base up -d # CLI profile (Claude Code, Codex, OpenClaw built-in) docker compose --profile cli up -d ``` | Imej | Tag | Saiz | Penerangan | | ------------------------ | -------- | ------ | ----------------------- | | `diegosouzapw/omniroute` | `latest` | ~250MB | Keluaran stabil terkini | | `diegosouzapw/omniroute` | `1.0.3` | ~250MB | Versi semasa | --- ## ๐Ÿ–ฅ๏ธ Apl Desktop โ€” Luar Talian & Sentiasa Hidup > ๐Ÿ†• **BARU!** OmniRoute kini tersedia sebagai **aplikasi desktop asli** untuk Windows, macOS dan Linux. Jalankan OmniRoute sebagai apl desktop kendiri โ€” tiada terminal, tiada penyemak imbas, tiada internet diperlukan untuk model tempatan. Aplikasi berasaskan Elektron termasuk: - ๐Ÿ–ฅ๏ธ **Tetingkap Asli** โ€” Tetingkap apl khusus dengan penyepaduan dulang sistem - ๐Ÿ”„ **Auto Mula** โ€” Lancarkan OmniRoute pada log masuk sistem - ๐Ÿ”” **Pemberitahuan Asli** โ€” Dapatkan makluman untuk masalah keletihan kuota atau pembekal - โšก **Pasang Satu Klik** โ€” NSIS (Windows), DMG (macOS), AppImage (Linux) - ๐ŸŒ **Mod Luar Talian** โ€” Berfungsi sepenuhnya di luar talian dengan pelayan yang digabungkan ### Mula Pantas ```bash # Development mode npm run electron:dev # Build for your platform npm run electron:build # Current platform npm run electron:build:win # Windows (.exe) npm run electron:build:mac # macOS (.dmg) โ€” x64 & arm64 npm run electron:build:linux # Linux (.AppImage) ``` ### Dulang Sistem Apabila diminimumkan, OmniRoute tinggal dalam dulang sistem anda dengan tindakan pantas: - Buka papan pemuka - Tukar port pelayan - Hentikan permohonan ๐Ÿ“– Dokumentasi penuh: [**OMNI_TOKEN_153**](electron/README.md) --- ## ๐Ÿ’ฐ Sekilas Pandang Harga | Peringkat | Pembekal | Kos | Set Semula Kuota | Terbaik Untuk | | ---------------- | --------------------------- | ------------------------------- | ------------------ | ------------------------------------ | | **๐Ÿ’ณ LANGGANAN** | Kod Claude (Pro) | $20/bln | 5j + mingguan | Sudah melanggan | | | Codex (Plus/Pro) | $20-200/bln | 5j + mingguan | Pengguna OpenAI | | | Gemini CLI | **PERCUMA** | 180K/bln + 1K/hari | Semua orang! | | | GitHub Copilot | $10-19/bln | Bulanan | Pengguna GitHub | | **๐Ÿ”‘ KUNCI API** | NVIDIA NIM | **PERCUMA** (dev forever) | ~40 RPM | 70+ model terbuka | | | Serebral | **PERCUMA** (1J tok/hari) | 60K TPM / 30 RPM | Terpantas di dunia | | | Groq | **PERCUMA** (30 RPM) | 14.4K RPD | Llama/Gemma sangat pantas | | | DeepSeek V3.2 | $0.27/$1.10 setiap 1J | Tiada | Penalaran harga/kualiti terbaik | | | xAI Grok-4 Cepat | **$0.20/$0.50 setiap 1J** ๐Ÿ†• | Tiada | Panggilan alat + terpantas, ultralow | | | xAI Grok-4 (standard) | $0.20/$1.50 setiap 1J ๐Ÿ†• | Tiada | Penaakulan perdana daripada xAI | | | Mistral | Percubaan percuma + berbayar | Kadar terhad | AI Eropah | | | OpenRouter | Bayar setiap penggunaan | Tiada | 100+ model aggr. | | **๐Ÿ’ฐ MURAH** | GLM-5 (melalui Z.AI) ๐Ÿ†• | $0.5/1J | Setiap hari 10AM | Keluaran 128K, perdana terbaharu | | | GLM-4.7 | $0.6/1J | Setiap hari 10AM | Sandaran belanjawan | | | MiniMax M2.5 ๐Ÿ†• | Input $0.3/1J | 5 jam bergolek | Penaakulan + tugas agen | | | MiniMax M2.1 | $0.2/1J | 5 jam bergolek | Pilihan termurah | | | Kimi K2.5 (Moonshot API) ๐Ÿ†• | Bayar setiap penggunaan | Tiada | Akses langsung Moonshot API | | | Kimi K2 | $9/bln flat | 10 juta token/bln | Kos yang boleh diramal | | **๐Ÿ†“ PERCUMA** | iFlow | **$0** | tanpa had | 5 model tanpa had | | | Qwen | **$0** | tanpa had | 4 model tanpa had | | | Kiro | **$0** | tanpa had | Claude Sonnet/Haiku (Pembina AWS) | | | LongCat Flash-Lite ๐Ÿ†• | **$0** (50J tok/hari ๐Ÿ”ฅ) | 1 RPS | Kuota percuma terbesar di Bumi | | | Pendebungaan AI ๐Ÿ†• | **$0** (tiada kunci diperlukan) | 1 req/15s | GPT-5, Claude, DeepSeek, Llama 4 | | | Pekerja Cloudflare AI ๐Ÿ†• | **$0** (10K Neuron/hari) | ~150 resp/hari | 50+ model, kelebihan global | | | Scaleway AI ๐Ÿ†• | **$0** (Jumlah token 1J) | Kadar terhad | EU/GDPR, Qwen3 235B, Llama 70B | > ๐Ÿ†• **Model baharu ditambah (Mac 2026):** Keluarga Grok-4 Fast pada $0.20/$0.50/M (ditanda aras pada 1143ms โ€” 30% lebih pantas daripada Gemini 2.5 Flash), GLM-5 melalui Z.AI dengan output 128K, penaakulan MiniMax M2.5. Kim2 DeepSeek V3, penentuan harga Kim2 DeepSeek V3. **๐Ÿ’ก Timbunan Kombo $0 โ€” Persediaan Percuma Lengkap:** ``` # ๐Ÿ†“ Ultimate Free Stack 2026 โ€” 11 Providers, $0 Forever Kiro (kr/) โ†’ Claude Sonnet/Haiku UNLIMITED iFlow (if/) โ†’ kimi-k2-thinking, qwen3-coder-plus, deepseek-r1 UNLIMITED LongCat Lite (lc/) โ†’ LongCat-Flash-Lite โ€” 50M tokens/day ๐Ÿ”ฅ Pollinations (pol/) โ†’ GPT-5, Claude, DeepSeek, Llama 4 โ€” no key needed Qwen (qw/) โ†’ qwen3-coder-plus, qwen3-coder-flash, qwen3-coder-next UNLIMITED Gemini (gemini/) โ†’ Gemini 2.5 Flash โ€” 1,500 req/day free API key Cloudflare AI (cf/) โ†’ Llama 70B, Gemma 3, Mistral โ€” 10K Neurons/day Scaleway (scw/) โ†’ Qwen3 235B, Llama 70B โ€” 1M free tokens (EU) Groq (groq/) โ†’ Llama/Gemma ultra-fast โ€” 14.4K req/day NVIDIA NIM (nvidia/) โ†’ 70+ open models โ€” 40 RPM forever Cerebras (cerebras/) โ†’ Llama/Qwen world-fastest โ€” 1M tok/day ``` **Kos sifar. Jangan sekali-kali berhenti pengekodan.** Konfigurasikan ini sebagai satu kombo OmniRoute dan semua sandaran berlaku secara automatik โ€” tiada penukaran manual. --- --- ## ๐Ÿ†“ Model Percuma โ€” Perkara Yang Anda Dapat > Semua model di bawah adalah **100% percuma dengan kad kredit sifar diperlukan**. Laluan automatik OmniRoute antara mereka apabila satu kuota habis โ€” gabungkan kesemuanya untuk kombo $0 yang tidak boleh dipecahkan. ### ๐Ÿ”ต MODEL CLAUDE (melalui Kiro โ€” AWS Builder ID) | Model | Awalan | Had | Had Kadar | | ------------------- | ------ | ---------------- | --------------------------- | | `claude-sonnet-4.5` | `kr/` | **Tidak terhad** | Tiada had harian dilaporkan | | `claude-haiku-4.5` | `kr/` | **Tidak terhad** | Tiada had harian dilaporkan | | `claude-opus-4.6` | `kr/` | **Tidak terhad** | Opus terkini melalui Kiro | ### ๐ŸŸข MODEL IFLOW (OAuth Percuma โ€” Tiada Kad Kredit) | Model | Awalan | Had | Had Kadar | | ------------------ | ------ | ---------------- | ------------------------- | | `kimi-k2-thinking` | `if/` | **Tidak terhad** | Tiada had yang dilaporkan | | `qwen3-coder-plus` | `if/` | **Tidak terhad** | Tiada had yang dilaporkan | | `deepseek-r1` | `if/` | **Tidak terhad** | Tiada had yang dilaporkan | | `minimax-m2.1` | `if/` | **Tidak terhad** | Tiada had yang dilaporkan | | `kimi-k2` | `if/` | **Tidak terhad** | Tiada had yang dilaporkan | ### MODEL QWEN (Pengesahan Kod Peranti) | Model | Awalan | Had | Had Kadar | | ------------------- | ------ | ---------------- | ------------------------- | | `qwen3-coder-plus` | `qw/` | **Tidak terhad** | Tiada had yang dilaporkan | | `qwen3-coder-flash` | `qw/` | **Tidak terhad** | Tiada had dilaporkan | | `qwen3-coder-next` | `qw/` | **Tidak terhad** | Tiada had dilaporkan | | `vision-model` | `qw/` | **Tidak terhad** | Multimodal (imej) | ### ๐ŸŸฃ GEMINI CLI (Google OAuth) | Model | Awalan | Had | Had Kadar | | ------------------------ | ------ | ---------------------------- | ---------------------- | | `gemini-3-flash-preview` | `gc/` | **180K tok/bulan** + 1K/hari | Tetapan semula bulanan | | `gemini-2.5-pro` | `gc/` | 180K/bulan (kolam kongsi) | Berkualiti tinggi | ### โšซ NVIDIA NIM (Kunci API Percuma โ€” build.nvidia.com) | Peringkat | Had Harian | Had Kadar | Nota | | ------------- | ---------------- | ----------- | ---------------------------------------------------------- | | Percuma (Dev) | Tiada topi token | **~40 RPM** | 70+ model; beralih kepada had kadar tulen pertengahan 2025 | Model percuma popular: `moonshotai/kimi-k2.5` (Kimi K2.5), `z-ai/glm4.7` (GLM 4.7), `deepseek-ai/deepseek-v3.2` (DeepSeek V3.2), `nvidia/llama-3.3-70b-instruct`, `deepseek/deepseek-r1` ### โšช CEREBRAS (Kunci API Percuma โ€” inference.cerebras.ai) | Peringkat | Had Harian | Had Kadar | Nota | | --------- | ----------------- | ---------------- | -------------------------------------------------------------- | | Percuma | **1J token/hari** | 60K TPM / 30 RPM | Inferens LLM terpantas di dunia; ditetapkan semula setiap hari | Tersedia secara percuma: `llama-3.3-70b`, `llama-3.1-8b`, `deepseek-r1-distill-llama-70b` ### ๐Ÿ”ด GROQ (Kunci API Percuma โ€” console.groq.com) | Peringkat | Had Harian | Had Kadar | Nota | | --------- | ------------- | ------------------- | ------------------------------------------- | | Percuma | **14.4K RPD** | 30 RPM setiap model | Tiada kad kredit; 429 pada had, tidak dicaj | Tersedia secara percuma: `llama-3.3-70b-versatile`, `gemma2-9b-it`, `mixtral-8x7b`, `whisper-large-v3` ### ๐Ÿ”ด LONGCAT AI (Kunci API Percuma โ€” longcat.chat) ๐Ÿ†• | Model | Awalan | Kuota Percuma Harian | Nota | | ----------------------------- | ------ | -------------------- | ----------------------------- | | `LongCat-Flash-Lite` | `lc/` | **50J token** ๐Ÿ’ฅ | Kuota percuma terbesar pernah | | `LongCat-Flash-Chat` | `lc/` | 500K token | Sembang berbilang pusingan | | `LongCat-Flash-Thinking` | `lc/` | 500K token | Penaakulan / CoT | | `LongCat-Flash-Thinking-2601` | `lc/` | 500K token | Versi Jan 2026 | | `LongCat-Flash-Omni-2603` | `lc/` | 500K token | Multimodal | > 100% percuma semasa dalam beta awam. Daftar di [longcat.chat](https://longcat.chat) dengan e-mel atau telefon. Ditetapkan semula setiap hari 00:00 UTC. ### ๐ŸŸข PENDEBATAN AI (Tiada Kunci API Diperlukan) ๐Ÿ†• | Model | Awalan | Had Kadar | Pembekal Di Belakang | | ---------- | ------ | --------- | --------------------- | | `openai` | `pol/` | 1 req/15s | GPT-5 | | `claude` | `pol/` | 1 req/15s | Claude Anthropic | | `gemini` | `pol/` | 1 req/15s | Google Gemini | | `deepseek` | `pol/` | 1 req/15s | DeepSeek V3 | | `llama` | `pol/` | 1 req/15s | Pengakap Meta Llama 4 | | `mistral` | `pol/` | 1 req/15s | Mistral AI | > โœจ **Sifar geseran:** Tiada pendaftaran, tiada kunci API. Tambahkan penyedia Pendebungaan dengan medan kunci kosong dan ia berfungsi serta-merta. ### ๐ŸŸ  CLOUDFLARE WORKERS AI (Kunci API Percuma โ€” cloudflare.com) ๐Ÿ†• | Peringkat | Neuron Harian | Penggunaan Setara | Nota | | --------- | ------------- | ----------------------------------------- | --------------------------- | | Percuma | **10,000** | ~150 LLM respons / 500s audio / 15K benam | Kelebihan global, 50+ model | Model percuma popular: `@cf/meta/llama-3.3-70b-instruct`, `@cf/google/gemma-3-12b-it`, `@cf/openai/whisper-large-v3-turbo` (audio percuma!), `@cf/qwen/qwen2.5-coder-15b-instruct` > Memerlukan Token API + ID Akaun daripada [dash.cloudflare.com](https://dash.cloudflare.com). Simpan ID Akaun dalam tetapan pembekal. ### ๐ŸŸฃ SCALEWAY AI (Token Percuma 1J โ€” scaleway.com) ๐Ÿ†• | Peringkat | Kuota Percuma | Lokasi | Nota | | --------- | ------------- | ------------ | ------------------------------------- | | Percuma | **1J token** | ๐Ÿ‡ซ๐Ÿ‡ท Paris, EU | Tiada kad kredit diperlukan dalam had | Tersedia secara percuma: `qwen3-235b-a22b-instruct-2507` (Qwen3 235B!), `llama-3.1-70b-instruct`, `mistral-small-3.2-24b-instruct-2506`, `deepseek-v3-0324` > patuh EU/GDPR. Dapatkan kunci API di [console.scaleway.com](https://console.scaleway.com). > **๐Ÿ’ก Timbunan Percuma Terunggul (11 Pembekal, $0 Selamanya):** > > ``` > Kiro (kr/) โ†’ Claude Sonnet/Haiku UNLIMITED > iFlow (if/) โ†’ kimi-k2-thinking, qwen3-coder-plus, deepseek-r1 UNLIMITED > LongCat Lite (lc/) โ†’ LongCat-Flash-Lite โ€” 50M tokens/day ๐Ÿ”ฅ > Pollinations (pol/) โ†’ GPT-5, Claude, DeepSeek, Llama 4 โ€” no key needed > Qwen (qw/) โ†’ qwen3-coder models UNLIMITED > Gemini (gemini/) โ†’ Gemini 2.5 Flash โ€” 1,500 req/day free > Cloudflare AI (cf/) โ†’ 50+ models โ€” 10K Neurons/day > Scaleway (scw/) โ†’ Qwen3 235B, Llama 70B โ€” 1M free tokens (EU) > Groq (groq/) โ†’ Llama/Gemma โ€” 14.4K req/day ultra-fast > NVIDIA NIM (nvidia/) โ†’ 70+ open models โ€” 40 RPM forever > Cerebras (cerebras/) โ†’ Llama/Qwen world-fastest โ€” 1M tok/day > ``` ## ๐ŸŽ™๏ธ Kombo Transkripsi Percuma > Transkripsikan sebarang audio/video untuk **$0** โ€” Deepgram memimpin dengan percuma $200, sandaran AssemblyAI $50, Groq Whisper sebagai sandaran kecemasan tanpa had. | Pembekal | Kredit Percuma | Model Terbaik | Had Kadar | | -------------------- | ------------------------------ | ---------------------------------------- | ---------------------------------- | | ๐ŸŸข **Deepgram** | **$200 percuma** (pendaftaran) | `nova-3` โ€” ketepatan terbaik, 30+ bahasa | Tiada had RPM untuk kredit percuma | | ๐Ÿ”ต **PerhimpunanAI** | **$50 percuma** (pendaftaran) | `universal-3-pro` โ€” bab, sentimen, PII | Tiada had RPM untuk kredit percuma | | ๐Ÿ”ด **Groq** | **Percuma selamanya** | `whisper-large-v3` โ€” OpenAI Whisper | 30 RPM (kadar terhad) | **Kombo yang dicadangkan dalam `/dashboard/combos`:** ``` Name: free-transcription Strategy: Priority Nodes: [1] deepgram/nova-3 โ†’ uses $200 free first [2] assemblyai/universal-3-pro โ†’ fallback when Deepgram credits run out [3] groq/whisper-large-v3 โ†’ free forever, emergency fallback ``` Kemudian dalam `/dashboard/media` โ†’ **Transkripsi** tab: muat naik mana-mana fail audio atau video โ†’ pilih titik akhir kombo anda โ†’ dapatkan transkripsi dalam format yang disokong. ## ๐Ÿ’ก Ciri Utama OmniRoute v2.0 dibina sebagai platform operasi, bukan hanya proksi geganti. ### ๐Ÿ†• Baharu โ€” Penambahbaikan Berinspirasikan ClawRouter (Mac 2026) | Ciri | Apa yang Dilakukan | | ----------------------------------------- | ------------------------------------------------------------------------------------------------------------------------- | | โšก **Keluarga Cepat Grok-4** | model xAI pada $0.20/$0.50/M โ€” menanda aras 1143ms (30% lebih pantas daripada Gemini 2.5 Flash) | | ๐Ÿง  **GLM-5 melalui Z.AI** | Konteks keluaran 128K, $0.5/1J โ€” perdana terbaharu daripada keluarga GLM | | ๐Ÿ”ฎ **MiniMax M2.5** | Penaakulan + tugas agen pada $0.30/1J โ€” peningkatan ketara daripada M2.1 | | ๐ŸŽฏ **alatMemanggil Bendera setiap Model** | Per-model `toolCalling: true/false` dalam registry โ€” AutoCombo melangkau model bukan alat yang mampu | | ๐ŸŒ **Pengesanan Niat Pelbagai Bahasa** | Kata kunci PT/ZH/ES/AR dalam pemarkahan AutoCombo โ€” pemilihan model yang lebih baik untuk kandungan bukan bahasa Inggeris | | ๐Ÿ“Š **Kemunduran Didorong Penanda Aras** | Kependaman p95 sebenar daripada pemarkahan kombo suapan permintaan langsung โ€” AutoCombo belajar daripada data sebenar | | ๐Ÿ” **Minta Deduplikasi** | Tetingkap penyahduaan berasaskan cincang kandungan โ€” selamat berbilang ejen, menghalang caj pendua | | ๐Ÿ”Œ **Strategi Penghala Boleh Pasang** | Antara muka `RouterStrategy` boleh diperluas โ€” tambah logik penghalaan tersuai sebagai pemalam | ### ๐Ÿš€ v2.0.9+ sebelumnya โ€” Taman Permainan, Cap Jari CLI & ACP | Ciri | Apa yang Dilakukan | | --------------------------------------------- | ------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------ | | ๐ŸŽฎ **Taman Permainan Model** | Halaman papan pemuka untuk menguji mana-mana model secara langsung โ€” pemilih pembekal/model/titik akhir, Editor Monaco, penstriman, batalkan, pemasaan | | ๐Ÿ” **Padanan Cap Jari CLI** | Penyusunan pengepala/badan setiap penyedia untuk memadankan tandatangan CLI asli โ€” togol setiap pembekal dalam Tetapan > Keselamatan. **IP proksi anda dipelihara** | | ๐Ÿค **Sokongan ACP (Protokol Pelanggan Agen)** | Penemuan ejen CLI (Codex, Claude, Goose, Gemini CLI, OpenClaw + 9 lagi), pemijah proses, `/api/acp/agents` titik akhir | | ๐Ÿค– **Papan Pemuka Ejen ACP** | Nyahpepijat โ€บ Halaman ejen โ€” grid 14 ejen dengan status pemasangan, versi, borang ejen tersuai untuk sebarang alat CLI. Pengguna **OpenCode** mendapat butang "Muat turun opencode.json" yang menjana secara automatik konfigurasi sedia untuk digunakan dengan semua model yang tersedia. | | ๐Ÿ”ง **Model Tersuai `apiFormat` Penghalaan** | Model tersuai dengan `apiFormat: "responses"` kini dihalakan dengan betul ke penterjemah API Respons | | ๐Ÿข **Pengasingan Ruang Kerja Codex** | Berbilang ruang kerja Codex setiap e-mel โ€” OAuth memisahkan sambungan dengan betul mengikut ID ruang kerja | | ๐Ÿ”„ **Kemas Kini Auto Elektron** | Apl desktop menyemak kemas kini + pemasangan automatik semasa dimulakan semula | ### ๐Ÿค– Operasi Ejen & Protokol (v2.0) | Ciri | Apa yang Dilakukan | | ----------------------------------------- | ------------------------------------------------------------------------------------------------------- | | ๐Ÿ”ง **Pelayan MCP (16 alatan)** | Alat IDE/agen melalui 3 pengangkutan: stdio, SSE (`/api/mcp/sse`), HTTP Boleh Strim (`/api/mcp/stream`) | | ๐Ÿค **Pelayan A2A (JSON-RPC + SSE)** | Pelaksanaan tugas ejen kepada ejen dengan aliran penyegerakan dan penstriman | | ๐Ÿงญ **Halaman Titik Akhir Disatukan** | Halaman pengurusan tab dengan tab Endpoint Proxy, MCP, A2A dan Titik Akhir API | | ๐ŸŽš๏ธ **Servis Dayakan/Lumpuhkan Togol** | Suis HIDUP/MATI untuk MCP dan A2A dengan tetapan tetapan (lalai: MATI) | | ๐Ÿ›ฐ๏ธ **Denyutan Jantung Masa Jalanan MCP** | Status proses sebenar (pid, masa beroperasi, umur degupan jantung, pengangkutan, mod skop) | | ๐Ÿ“‹ **Jejak Audit MCP** | Log audit boleh ditapis dengan kejayaan/kegagalan dan atribusi utama | | ๐Ÿ” **Penguatkuasaan Skop MCP** | 9 kebenaran skop berbutir untuk akses alat terkawal | | ๐Ÿ“ก **Pengurusan Kitaran Hayat Tugas A2A** | Senaraikan/tapis tugas, periksa acara/artifak, batalkan tugas yang sedang dijalankan | | ๐Ÿ“‹ **Penemuan Kad Agen** | `/.well-known/agent.json` untuk penemuan automatik pelanggan | | ๐Ÿงช **Protokol E2E Test Harness** | Klien MCP SDK + A2A sebenar mengalir dalam `test:protocols:e2e` | | โš™๏ธ **Kawalan Operasi** | Tukar kombo, gunakan profil daya tahan, tetapkan semula pemutus dari satu permukaan kawalan | ### ๐Ÿง  Penghalaan & Perisikan | Ciri | Apa yang Dilakukan | | ------------------------------------ | ------------------------------------------------------------------------------------ | | ๐ŸŽฏ **Smart 4-Tier Fallback** | Laluan automatik: Langganan โ†’ Kunci API โ†’ Murah โ†’ Percuma | | ๐Ÿ“Š **Penjejakan Kuota Masa Nyata** | Kiraan token langsung + tetapan semula kira detik setiap pembekal | | ๐Ÿ”„ **Terjemahan Format** | OpenAI โ†” Claude โ†” Gemini โ†” Respons dengan penukaran selamat skema | | ๐Ÿ‘ฅ **Sokongan Berbilang Akaun** | Berbilang akaun bagi setiap pembekal dengan pemilihan pintar | | ๐Ÿ”„ **Muat Semula Token Auto** | Token OAuth dimuat semula secara automatik dengan cuba semula | | ๐ŸŽจ **Kombo Tersuai** | 6 strategi pengimbangan + kawalan rantai sandaran | | ๐ŸŒ **Penghala Wildcard** | `provider/*` penghalaan dinamik | | ๐Ÿง  **Kawalan Belanjawan Berfikir** | Had penaakulan laluan, auto, tersuai dan adaptif | | ๐Ÿ”€ **Alias โ€‹โ€‹Model** | Pengalian model + tersuai terbina dalam dan keselamatan penghijrahan | | โšก **Degradasi Latar Belakang** | Halakan tugas latar belakang keutamaan rendah ke model yang lebih murah | | ๐Ÿงช **Penghalaan Pintar Sedar Tugas** | Autopilih model mengikut jenis kandungan (pengekodan/penglihatan/analisis/ringkasan) | | ๐Ÿ’ฌ **System Prompt Suntikan** | Kawalan tingkah laku global digunakan secara konsisten | | ๐Ÿ“„ **Kesesuaian API Respons** | Sokongan penuh `/v1/responses` untuk Codex dan aliran kerja agen lanjutan | ### ๐ŸŽต API Berbilang Modal | Ciri | Apa yang Dilakukan | | ------------------------ | ------------------------------------------------------------------------------------------------------------------------------------------------------------------------ | | ๐Ÿ–ผ๏ธ **Penjanaan Imej** | `/v1/images/generations` dengan awan dan hujung belakang tempatan | | ๐Ÿ“ **Pembenaman** | `/v1/embeddings` untuk carian dan saluran paip RAG | | ๐ŸŽค **Transkripsi Audio** | `/v1/audio/transcriptions` โ€” 7 pembekal (Deepgram Nova 3, AssemblyAI, Groq Whisper, HuggingFace, ElevenLabs, OpenAI, Azure), pengesanan autobahasa, sokongan MP4/MP3/WAV | | ๐Ÿ”Š **Teks-ke-Ucapan** | `/v1/audio/speech` โ€” 10 pembekal (ElevenLabs, OpenAI, Deepgram, Cartesia, PlayHT, HuggingFace, Nvidia NIM, Inworld, Coqui, Tortoise) dengan mesej ralat yang betul | | ๐ŸŽฌ **Penjanaan Video** | `/v1/videos/generations` (Aliran kerja ComfyUI + SD WebUI) | | ๐ŸŽต **Generasi Muzik** | `/v1/music/generations` (aliran kerja ComfyUI) | | ๐Ÿ›ก๏ธ **Kesederhanaan** | `/v1/moderations` pemeriksaan keselamatan | | ๐Ÿ”€ **Penyusunan semula** | `/v1/rerank` untuk pemarkahan perkaitan | | ๐Ÿ” **Carian Web** ๐Ÿ†• | `/v1/search` โ€” 5 pembekal (Serper, Brave, Perplexity, Exa, Tavily), 6,500+ percuma/bulan, auto-failover, cache | ### ๐Ÿ›ก๏ธ Ketahanan, Keselamatan & Tadbir Urus | Ciri | Apa yang Dilakukan | | ----------------------------------- | ------------------------------------------------------------------------------------------------------------ | | ๐Ÿ”Œ **Pemutus Litar** | Perjalanan/pulih setiap model dengan kawalan ambang | | ๐ŸŽฏ **Model Sedar Titik Akhir** | Model tersuai mengisytiharkan titik akhir yang disokong + format API | | ๐Ÿ›ก๏ธ **Kawanan Anti Guruh** | Perlindungan Mutex + semaphore pada acara cuba semula/kadar | | ๐Ÿง  **Semantik + Cache Tandatangan** | Pengurangan kos/pendaman dengan dua lapisan cache | | โšก **Minta Idepotency** | Tetingkap perlindungan pendua | | ๐Ÿ”’ **TLS Fingerprint Spoofing** | Cap jari TLS seperti pelayar โ€” **mengurangkan pengesanan bot dan pembenderaan akaun** | | ๐Ÿ” **Padanan Cap Jari CLI** | Padan dengan tandatangan permintaan CLI asli โ€” **mengurangkan risiko larangan sambil mengekalkan IP proksi** | | ๐ŸŒ **Penapisan IP** | Kawalan senarai benar/senarai sekat untuk penempatan terdedah | | ๐Ÿ“Š **Had Kadar Boleh Diedit** | Had global/peringkat pembekal boleh dikonfigurasikan dengan kegigihan | | ๐Ÿ”‘ **Pengurusan Kunci API + Skop** | Kawalan pengeluaran/putaran kunci dan model/pembekal selamat | | ๐Ÿ›ก๏ธ **Dilindungi `/models`** | Gating pengesahan pilihan dan penyembunyian penyedia untuk katalog model | ### ๐Ÿ“Š Kebolehlihatan & Analitis | Ciri | Apa yang Dilakukan | | ------------------------------------- | ---------------------------------------------------------------- | | ๐Ÿ“ **Permintaan + Pembalakan Proksi** | Permintaan/tindak balas penuh dan pengelogan proksi | | ๐Ÿ“‹ **Papan Pemuka Log Bersatu** | Permintaan, proksi, audit dan paparan konsol dalam satu halaman | | ๐Ÿ” **Minta Telemetri** | kependaman p50/p95/p99 dan pengesanan permintaan | | ๐Ÿฅ **Papan Pemuka Kesihatan** | Masa aktif, keadaan pemutus, sekatan, statistik cache | | ๐Ÿ’ฐ **Penjejakan Kos** | Kawalan belanjawan dan keterlihatan harga setiap model | | ๐Ÿ“ˆ **Penggambaran Analitik** | Cerapan penggunaan model/pembekal dan pandangan arah aliran | | ๐Ÿงช **Rangka Kerja Penilaian** | Ujian set emas dengan strategi perlawanan boleh dikonfigurasikan | ### โ˜๏ธ Deployment & Platform | Ciri | Apa yang Dilakukan | | ----------------------------- | --------------------------------------------------------------- | | ๐ŸŒ **Kerahkan Di Mana-mana** | Localhost, VPS, Docker, persekitaran Cloud | | ๐Ÿ’พ **Penyegerakan Awan** | Penyegerakan konfigurasi melalui pekerja awan | | ๐Ÿ”„ **Sandaran/Pulihkan** | Eksport/import dan aliran pemulihan bencana | | ๐Ÿง™ **Onboarding Wizard** | Persediaan berpandu jalan pertama | | ๐Ÿ”ง **Papan Pemuka Alat CLI** | Persediaan satu klik untuk alat pengekodan popular | | ๐ŸŽฎ **Taman Permainan Model** | Uji mana-mana pembekal/model/titik akhir daripada papan pemuka | | ๐Ÿ” **Togol Cap Jari CLI** | Padanan cap jari setiap pembekal dalam Tetapan > Keselamatan | | ๐ŸŒ **i18n (30 bahasa)** | Papan pemuka penuh + sokongan bahasa dokumen dengan liputan RTL | | ๐Ÿงน **Kosongkan Semua Model** | Pembersihan senarai model satu klik dalam butiran pembekal | | ๐Ÿ“‹ **Templat Isu** | Templat GitHub standard untuk pepijat dan ciri | | ๐Ÿ“‚ **Direktori Data Tersuai** | `DATA_DIR` ganti untuk lokasi storan | ### Menampilkan Deep Dive #### Saling balik pintar dengan kawalan kos praktikal ```txt Combo: "my-coding-stack" 1. cc/claude-opus-4-6 2. nvidia/llama-3.3-70b 3. glm/glm-4.7 4. if/kimi-k2-thinking ``` Apabila kuota, kadar atau kesihatan gagal, OmniRoute secara automatik beralih ke calon seterusnya tanpa penukaran manual. #### Pengurusan protokol yang boleh dilihat dan dikendalikan - MCP + A2A boleh ditemui dalam UI dan dokumen (tidak tersembunyi) - API status protokol mendedahkan data operasi secara langsung (`/api/mcp/*`, `/api/a2a/*`) - Papan pemuka termasuk tindakan untuk operasi hari ke-2 (togol kombo, penetapan semula pemutus, pembatalan tugas) #### Penterjemah + aliran kerja pengesahan Kawasan Penterjemah termasuk: - **Taman Permainan**: meminta semakan transformasi - **Penguji Sembang**: permintaan penuh/tindak balas pergi balik - **Bangku Ujian**: berbilang kes dalam satu larian - **Pemantau Langsung**: paparan trafik masa nyata Selain itu pengesahan protokol dengan pelanggan sebenar melalui `npm run test:protocols:e2e`. > ๐Ÿ“– **[MCP Server README](open-sse/mcp-server/README.md)** โ€” Rujukan alat, konfigurasi IDE dan contoh klien > > ๐Ÿ“– **[A2A Server README](src/lib/a2a/README.md)** โ€” Kemahiran, kaedah JSON-RPC, penstriman dan kitaran hayat tugas ## ๐Ÿงช Penilaian (Evals) OmniRoute termasuk rangka kerja penilaian terbina dalam untuk menguji kualiti tindak balas LLM terhadap set emas. Aksesnya melalui **Analytics โ†’ Evals** dalam papan pemuka. ### Set Emas Terbina dalam "Set Emas OmniRoute" yang dipramuat mengandungi kes ujian untuk: - Salam, matematik, geografi, penjanaan kod - Pematuhan format JSON, terjemahan, penjanaan turun nilai - Penolakan keselamatan (kandungan berbahaya), pengiraan, logik boolean ### Strategi Penilaian | Strategi | Penerangan | Contoh | | ---------- | --------------------------------------------------------------------- | -------------------------------- | | `exact` | Output mesti sepadan dengan tepat | `"4"` | | `contains` | Output mesti mengandungi subrentetan (tidak peka huruf besar-besaran) | `"Paris"` | | `regex` | Output mesti sepadan dengan corak regex | `"1.*2.*3"` | | `custom` | Fungsi JS tersuai mengembalikan benar/salah | `(output) => output.length > 10` | --- ## ๐Ÿ“– Panduan Persediaan ### Persediaan Protokol (MCP + A2A)
๐Ÿงฉ Persediaan MCP (Protokol Konteks Model) Mulakan pengangkutan MCP dalam mod stdio: ```bash omniroute --mcp ``` Aliran pengesahan yang disyorkan: 1. Sambungkan klien MCP anda melalui stdio. 2. Jalankan `omniroute_get_health`. 3. Jalankan `omniroute_list_combos`. 4. Buka `/dashboard/mcp` untuk mengesahkan degupan jantung, aktiviti dan audit. API berguna untuk automasi: - `GET /api/mcp/status` - `GET /api/mcp/tools` - `GET /api/mcp/audit` - `GET /api/mcp/audit/stats`
๐Ÿค Persediaan A2A (Agent2Agent) Temui ejen: ```bash curl http://localhost:20128/.well-known/agent.json ``` Hantar tugasan: ```bash curl -X POST http://localhost:20128/a2a \ -H 'content-type: application/json' \ -d '{"jsonrpc":"2.0","id":"setup-a2a","method":"message/send","params":{"skill":"quota-management","messages":[{"role":"user","content":"Summarize quota status."}]}}' ``` Urus kitaran hayat: - `GET /api/a2a/status` - `GET /api/a2a/tasks` - `GET /api/a2a/tasks/:id` - `POST /api/a2a/tasks/:id/cancel` UI Operasi: - `/dashboard/a2a` untuk pemerhatian tugas/keadaan/strim dan tindakan asap
๐Ÿงช Pengesahan protokol hujung ke hujung Sahkan kedua-dua protokol dengan pelanggan sebenar: ```bash npm run test:protocols:e2e ``` Ini mengesahkan: - Sambung/senarai/panggilan klien MCP SDK - Penemuan A2A/hantar/strim/dapat/batal - Semak silang data dalam audit MCP dan API pengurusan tugas A2A
๐Ÿ’ณ Pembekal Langganan ### Kod Claude (Pro/Max) ```bash Dashboard โ†’ Providers โ†’ Connect Claude Code โ†’ OAuth login โ†’ Auto token refresh โ†’ 5-hour + weekly quota tracking Models: cc/claude-opus-4-6 cc/claude-sonnet-4-5-20250929 cc/claude-haiku-4-5-20251001 ``` **Petua Pro:** Gunakan Opus untuk tugas yang rumit, Sonnet untuk kelajuan. OmniRoute menjejaki kuota setiap model! ### OpenAI Codex (Plus/Pro) ```bash Dashboard โ†’ Providers โ†’ Connect Codex โ†’ OAuth login (port 1455) โ†’ 5-hour + weekly reset Models: cx/gpt-5.2-codex cx/gpt-5.1-codex-max ``` #### Pengurusan Had Akaun Codex (5j + Mingguan) Setiap akaun Codex kini mempunyai togol dasar dalam `Dashboard -> Providers`: - `5h` (HIDUP/MATI): menguatkuasakan dasar ambang tetingkap 5 jam. - `Weekly` (HIDUP/MATI): menguatkuasakan dasar ambang tetingkap mingguan. - Tingkah laku ambang: apabila tetingkap yang didayakan mencapai >=90% penggunaan, akaun itu dilangkau. - Tingkah laku putaran: Laluan OmniRoute ke akaun Codex yang layak seterusnya secara automatik. - Tetapkan semula tingkah laku: apabila masa pembekal `resetAt` berlalu, akaun menjadi layak semula secara automatik. Senario: - `5h ON` + `Weekly ON`: akaun dilangkau apabila mana-mana tetingkap mencapai ambang. - `5h OFF` + `Weekly ON`: hanya penggunaan mingguan boleh menyekat akaun. - `5h ON` + `Weekly OFF`: hanya penggunaan 5 jam boleh menyekat akaun. - `resetAt` lulus: akaun memasuki semula putaran secara automatik (tiada manual didayakan semula). ### Gemini CLI (PERCUMA 180K/bulan!) ```bash Dashboard โ†’ Providers โ†’ Connect Gemini CLI โ†’ Google OAuth โ†’ 180K completions/month + 1K/day Models: gc/gemini-3-flash-preview gc/gemini-2.5-pro ``` **Nilai Terbaik:** Peringkat percuma yang besar! Gunakan ini sebelum peringkat berbayar. ### Copilot GitHub ```bash Dashboard โ†’ Providers โ†’ Connect GitHub โ†’ OAuth via GitHub โ†’ Monthly reset (1st of month) Models: gh/gpt-5 gh/claude-4.5-sonnet gh/gemini-3-pro ```
๐Ÿ”‘ Pembekal Kunci API ### NVIDIA NIM (Akses pembangun PERCUMA โ€” 70+ model) 1. Daftar: [build.nvidia.com](https://build.nvidia.com) 2. Dapatkan kunci API percuma (1000 kredit inferens disertakan) 3. Papan Pemuka โ†’ Tambah Pembekal โ†’ NVIDIA NIM: - Kunci API: `nvapi-your-key` **Model:** `nvidia/llama-3.3-70b-instruct`, `nvidia/mistral-7b-instruct` dan 50+ lagi **Petua Pro:** API serasi OpenAI โ€” berfungsi dengan lancar dengan terjemahan format OmniRoute! ### DeepSeek 1. Daftar: [platform.deepseek.com](https://platform.deepseek.com) 2. Dapatkan kunci API 3. Papan Pemuka โ†’ Tambah Pembekal โ†’ DeepSeek **Model:** `deepseek/deepseek-chat`, `deepseek/deepseek-coder` ### Groq (Tier Percuma Tersedia!) 1. Daftar: [console.groq.com](https://console.groq.com) 2. Dapatkan kunci API (termasuk peringkat percuma) 3. Papan Pemuka โ†’ Tambah Pembekal โ†’ Groq **Model:** `groq/llama-3.3-70b`, `groq/mixtral-8x7b` **Petua Pro:** Inferens sangat pantas โ€” terbaik untuk pengekodan masa nyata! ### OpenRouter (100+ Model) 1. Daftar: [openrouter.ai](https://openrouter.ai) 2. Dapatkan kunci API 3. Papan Pemuka โ†’ Tambah Pembekal โ†’ OpenRouter **Model:** Akses 100+ model daripada semua pembekal utama melalui kunci API tunggal.
๐Ÿ’ฐ Penyedia Murah (Sandaran) ### GLM-4.7 (Tetapan semula harian, $0.6/1J) 1. Daftar: [Zhipu AI](https://open.bigmodel.cn/) 2. Dapatkan kunci API daripada Pelan Pengekodan 3. Papan Pemuka โ†’ Tambah Kunci API: - Pembekal: `glm` - Kunci API: `your-key` **Gunakan:** `glm/glm-4.7` **Petua Pro:** Pelan Pengekodan menawarkan kuota 3ร— pada kos 1/7! Tetapkan semula setiap hari 10:00 AM. ### MiniMax M2.1 (tetapan semula 5j, $0.20/1J) 1. Daftar: [MiniMax](https://www.minimax.io/) 2. Dapatkan kunci API 3. Papan Pemuka โ†’ Tambah Kunci API **Gunakan:** `minimax/MiniMax-M2.1` **Petua Pro:** Pilihan termurah untuk konteks panjang (token 1M)! ### Kimi K2 ($9/bulan rata) 1. Langgan: [Moonshot AI](https://platform.moonshot.ai/) 2. Dapatkan kunci API 3. Papan Pemuka โ†’ Tambah Kunci API **Gunakan:** `kimi/kimi-latest` **Petua Pro:** Tetap $9/bulan untuk 10J token = $0.90/1J kos efektif!
๐Ÿ†“ Pembekal PERCUMA (Sandaran Kecemasan) ### iFlow (5 model PERCUMA melalui OAuth) ```bash Dashboard โ†’ Connect iFlow โ†’ iFlow OAuth login โ†’ Unlimited usage Models: if/kimi-k2-thinking if/qwen3-coder-plus if/glm-4.7 if/minimax-m2 if/deepseek-r1 ``` ### Qwen (4 model PERCUMA melalui Kod Peranti) ```bash Dashboard โ†’ Connect Qwen โ†’ Device code authorization โ†’ Unlimited usage Models: qw/qwen3-coder-plus qw/qwen3-coder-flash ``` ### Kiro (Claude PERCUMA) ```bash Dashboard โ†’ Connect Kiro โ†’ AWS Builder ID or Google/GitHub โ†’ Unlimited usage Models: kr/claude-sonnet-4.5 kr/claude-haiku-4.5 ```
๐ŸŽจ Cipta Kombo ### Contoh 1: Maksimumkan Langganan โ†’ Sandaran Murah ``` Dashboard โ†’ Combos โ†’ Create New Name: premium-coding Models: 1. cc/claude-opus-4-6 (Subscription primary) 2. glm/glm-4.7 (Cheap backup, $0.6/1M) 3. minimax/MiniMax-M2.1 (Cheapest fallback, $0.20/1M) Use in CLI: premium-coding ``` ### Contoh 2: Percuma-Sahaja (Kos Sifar) ``` Name: free-combo Models: 1. gc/gemini-3-flash-preview (180K free/month) 2. if/kimi-k2-thinking (unlimited) 3. qw/qwen3-coder-plus (unlimited) Cost: $0 forever! ```
๐Ÿ”ง CLI Integrasi ### IDE Kursor ``` Settings โ†’ Models โ†’ Advanced: OpenAI API Base URL: http://localhost:20128/v1 OpenAI API Key: [from OmniRoute dashboard] Model: cc/claude-opus-4-6 ``` ### Kod Claude Gunakan halaman **CLI Tools** dalam papan pemuka untuk konfigurasi satu klik atau edit `~/.claude/settings.json` secara manual. ### Codex CLI ```bash export OPENAI_BASE_URL="http://localhost:20128" export OPENAI_API_KEY="your-omniroute-api-key" codex "your prompt" ``` ### OpenClaw **Pilihan 1 โ€” Papan Pemuka (disyorkan):** ``` Dashboard โ†’ CLI Tools โ†’ OpenClaw โ†’ Select Model โ†’ Apply ``` **Pilihan 2 โ€” Manual:** Edit `~/.openclaw/openclaw.json`: ```json { "models": { "providers": { "omniroute": { "baseUrl": "http://127.0.0.1:20128/v1", "apiKey": "sk_omniroute", "api": "openai-completions" } } } } ``` > **Nota:** OpenClaw hanya berfungsi dengan OmniRoute tempatan. Gunakan `127.0.0.1` dan bukannya `localhost` untuk mengelakkan isu resolusi IPv6. ### Cline / Teruskan / RooCode ``` Settings โ†’ API Configuration: Provider: OpenAI Compatible Base URL: http://localhost:20128/v1 API Key: [from OmniRoute dashboard] Model: if/kimi-k2-thinking ``` ### OpenCode **Langkah 1:** Tambahkan OmniRoute sebagai pembekal tersuai: ```bash opencode /connect # Select "Other" โ†’ Enter ID: "omniroute" โ†’ Enter your OmniRoute API key ``` **Langkah 2:** Cipta/edit `opencode.json` dalam akar projek anda: ```json { "$schema": "https://opencode.ai/config.json", "provider": { "omniroute": { "npm": "@ai-sdk/openai-compatible", "name": "OmniRoute", "options": { "baseURL": "http://localhost:20128/v1" }, "models": { "cc/claude-sonnet-4-20250514": { "name": "Claude Sonnet 4" }, "gg/gemini-2.5-pro": { "name": "Gemini 2.5 Pro" }, "if/kimi-k2-thinking": { "name": "Kimi K2 (Free)" } } } } } ``` **Langkah 3:** Pilih model dalam OpenCode: ```bash /models # Select any OmniRoute model from the list ``` > **Petua:** Tambahkan sebarang model yang tersedia dalam titik akhir `/v1/models` OmniRoute anda ke bahagian `models`. Gunakan format `provider/model-id` daripada papan pemuka OmniRoute anda.
--- ## ๐Ÿ› Menyelesaikan masalah
Klik untuk mengembangkan panduan penyelesaian masalah **"Model bahasa tidak memberikan mesej"** - Kuota pembekal habis โ†’ Semak penjejak kuota papan pemuka - Penyelesaian: Gunakan sandaran kombo atau tukar kepada peringkat yang lebih murah **Penghadan kadar** - Kuota langganan habis โ†’ Sandar kepada GLM/MiniMax - Tambah kombo: `cc/claude-opus-4-6 โ†’ glm/glm-4.7 โ†’ if/kimi-k2-thinking` **Token OAuth tamat tempoh** - Dikemas semula secara automatik oleh OmniRoute - Jika isu berterusan: Papan Pemuka โ†’ Pembekal โ†’ Sambung semula **Kos tinggi** - Semak statistik penggunaan dalam Papan Pemuka โ†’ Kos - Tukar model utama kepada GLM/MiniMax - Gunakan peringkat percuma (Gemini CLI, iFlow) untuk tugasan yang tidak kritikal **Port papan pemuka/API salah** - `PORT` ialah port asas kanonik (dan port API secara lalai) - `API_PORT` mengatasi hanya pendengar API yang serasi dengan OpenAI - `DASHBOARD_PORT` mengatasi hanya papan pemuka/pendengar Next.js - Tetapkan `NEXT_PUBLIC_BASE_URL` pada papan pemuka/URL awam anda (untuk panggilan balik OAuth) **Ralat penyegerakan awan** - Sahkan `BASE_URL` mata pada contoh larian anda - Sahkan `CLOUD_URL` mata ke titik akhir awan anda yang dijangkakan - Pastikan nilai `NEXT_PUBLIC_*` sejajar dengan nilai sebelah pelayan **Log masuk pertama tidak berfungsi** - Semak `INITIAL_PASSWORD` dalam `.env` - Jika tidak ditetapkan, kata laluan sandaran ialah `123456` **Tiada log permintaan** - Tetapkan `ENABLE_REQUEST_LOGS=true` dalam `.env` **Ujian sambungan menunjukkan "Tidak sah" untuk pembekal yang serasi dengan OpenAI** - Banyak pembekal tidak mendedahkan titik akhir `/models` - OmniRoute v1.0.6+ termasuk pengesahan sandaran melalui pelengkapan sembang - Pastikan URL asas mengandungi akhiran `/v1` ### ๐Ÿ” OAuth pada Pelayan Jauh > **โš ๏ธ Penting untuk pengguna yang menjalankan OmniRoute pada VPS, Docker atau mana-mana pelayan jauh** #### Mengapa Antigravity / Gemini CLI OAuth gagal pada pelayan jauh? Pembekal **Antigravity** dan **Gemini CLI** menggunakan **Google OAuth 2.0**. Google memerlukan `redirect_uri` dalam aliran OAuth agar sepadan dengan salah satu URI pradaftar dalam Konsol Awan Google apl. Bukti kelayakan OAuth yang digabungkan dalam OmniRoute didaftarkan **untuk `localhost` sahaja**. Apabila anda mengakses OmniRoute pada pelayan jauh (cth. `https://omniroute.myserver.com`), Google menolak pengesahan dengan: ``` Error 400: redirect_uri_mismatch ``` #### Penyelesaian: Konfigurasikan bukti kelayakan OAuth anda sendiri Anda perlu membuat **ID Klien OAuth 2.0** dalam Google Cloud Console dengan URI pelayan anda. #### Langkah demi langkah **1. Buka Google Cloud Console** Pergi ke: [https://console.cloud.google.com/apis/credentials](https://console.cloud.google.com/apis/credentials) **2. Buat ID Pelanggan OAuth 2.0 baharu** - Klik **"+ Cipta Bukti kelayakan"** โ†’ **"ID klien OAuth"** - Jenis aplikasi: **"Aplikasi web"** - Nama: apa sahaja yang anda suka (cth. `OmniRoute Remote`) **3. Tambah URI Ubah Hala Dibenarkan** Dalam medan **"URI halauan dibenarkan"**, tambahkan: ``` https://your-server.com/callback ``` > Gantikan `your-server.com` dengan domain atau IP pelayan anda (sertakan port jika perlu, cth. `http://45.33.32.156:20128/callback`). **4. Simpan dan salin bukti kelayakan** Selepas membuat, Google akan menunjukkan **ID Pelanggan** dan **Rahsia Pelanggan**. **5. Tetapkan pembolehubah persekitaran** Dalam `.env` anda (atau pembolehubah persekitaran Docker): ```bash # For Antigravity: ANTIGRAVITY_OAUTH_CLIENT_ID=your-client-id.apps.googleusercontent.com ANTIGRAVITY_OAUTH_CLIENT_SECRET=GOCSPX-your-secret # For Gemini CLI: GEMINI_OAUTH_CLIENT_ID=your-client-id.apps.googleusercontent.com GEMINI_OAUTH_CLIENT_SECRET=GOCSPX-your-secret GEMINI_CLI_OAUTH_CLIENT_SECRET=GOCSPX-your-secret ``` **6. Mulakan semula OmniRoute** ```bash # npm: npm run dev # Docker: docker restart omniroute ``` **7. Cuba sambung semula** Papan pemuka โ†’ Pembekal โ†’ Antigraviti (atau Gemini CLI) โ†’ OAuth Google kini akan mengubah hala dengan betul ke `https://your-server.com/callback`. --- #### Penyelesaian sementara (tanpa kelayakan tersuai) Jika anda tidak mahu menyediakan bukti kelayakan anda sendiri sekarang, anda masih boleh menggunakan **aliran URL manual**: 1. OmniRoute membuka URL kebenaran Google 2. Selepas memberi kebenaran, Google cuba mengubah hala ke `localhost` (yang gagal pada pelayan jauh) 3. **Salin URL penuh** dari bar alamat penyemak imbas anda (walaupun halaman tidak dimuatkan) 4. Tampalkan URL tersebut ke dalam medan yang ditunjukkan dalam modal sambungan OmniRoute 5. Klik **"Sambung"** > Ini berfungsi kerana kod kebenaran dalam URL adalah sah tidak kira sama ada halaman ubah hala dimuatkan. ---
๐Ÿ‡ง๐Ÿ‡ท Versรฃo em Portuguรชs #### Adakah OAuth melakukan Antigraviti / Gemini CLI tidak menggunakan perkhidmatan anda? Ia membuktikan **Antigraviti** dan **Gemini CLI** menggunakan **Google OAuth 2.0** untuk autenticaรงรฃo. O Google exige que a `redirect_uri` gunakan tiada fluks OAuth seja **exatamente** uma das URIs prรฉ-cadastradas no Google Cloud Console untuk aplicativo. Sebagai credenciais OAuth embutidas no OmniRoute estรฃo cadastradas **apenas untuk `localhost`**. Quando vocรช acessa o OmniRoute em um servidor remoto (cth: `https://omniroute.meuservidor.com`), o Google rejeita a autenticaรงรฃo com: ``` Error 400: redirect_uri_mismatch ``` #### Penyelesaian: Konfigurasikan suas prรณprias credenciais OAuth Vocรช precisa criar um **OAuth 2.0 Client ID** no Google Cloud Console com a URI do seu servidor. #### Passo a passo **1. Akses ke Konsol Awan Google** Abra: [https://console.cloud.google.com/apis/credentials](https://console.cloud.google.com/apis/credentials) **2. Crie um novo ID Pelanggan OAuth 2.0** - Klik em **"+ Cipta Bukti Kelayakan"** โ†’ **"ID klien OAuth"** - Tipo de aplicativo: **"Aplikasi web"** - Nama: escolha qualquer nome (cth: `OmniRoute Remote`) **3. Tambah sebagai URI Ubah Hala Dibenarkan** Tiada **"URI ubah hala yang dibenarkan"**, tambahan: ``` https://seu-servidor.com/callback ``` > Gantikan `seu-servidor.com` pelo domรญnio ou IP do seu servidor (termasuk porta se necessรกrio, cth: `http://45.33.32.156:20128/callback`). **4. Simpan dan salin sebagai kredensia** Apรณs criar, o Google mostrarรก o **ID Pelanggan** e o **Rahsia Pelanggan**. **5. Konfigurasikan sebagai variรกveis de ambiente** No seu `.env` (ou nas variรกveis de ambiente do Docker): ```bash # Para Antigravity: ANTIGRAVITY_OAUTH_CLIENT_ID=seu-client-id.apps.googleusercontent.com ANTIGRAVITY_OAUTH_CLIENT_SECRET=GOCSPX-seu-secret # Para Gemini CLI: GEMINI_OAUTH_CLIENT_ID=seu-client-id.apps.googleusercontent.com GEMINI_OAUTH_CLIENT_SECRET=GOCSPX-seu-secret GEMINI_CLI_OAUTH_CLIENT_SECRET=GOCSPX-seu-secret ``` **6. Reinicie o OmniRoute** ```bash # Se usando npm: npm run dev # Se usando Docker: docker restart omniroute ``` **7. Tente conectar novamente** Papan pemuka โ†’ Pembekal โ†’ Antigraviti (ou Gemini CLI) โ†’ OAuth Agora o Google redirectionarรก corretamente untuk `https://seu-servidor.com/callback` dan a autenticaรงรฃo funcionarรก. --- #### Penyelesaian sementara (sem configurar credenciais prรณprias) Jika anda ingin mendapatkan credenciais prรณprias agora, ada kemungkinan penggunaan atau fluks **manual de URL**: 1. OmniRoute abrirรก a URL de authorizaรงรฃo do Google 2. Apรณs vocรช authorizar, o Google tentarรก redirectionar para `localhost` (que falha no servidor remoto) 3. **Salin URL yang lengkap** pada penyemak imbas barra de endeรงo do seu (mesmo que a pรกgina nรฃo carregue) 4. Cole essa URL no campo que aparece no modal de conexรฃo do OmniRoute 5. Klik em **"Sambung"** > Penyelesaian ini berfungsi sebagai kodigo de autorizaรงรฃo na URL adalah bebas untuk mengubah hala mengikut arahan atau tidak.
---
## ๐Ÿ› ๏ธ Timbunan Teknologi
Klik untuk mengembangkan butiran tindanan teknologi - **Waktu Jalan**: Node.js 18โ€“22 LTS (โš ๏ธ Node.js 24+ **tidak disokong** โ€” `better-sqlite3` binari asli tidak serasi) - **Bahasa**: TypeScript 5.9 โ€” **100% TypeScript** merentas `src/` dan `open-sse/` (sifar `any` dalam modul teras sejak v2.0) - **Kerangka**: Next.js 16 + React 19 + Tailwind CSS 4 - **Pangkalan Data**: LowDB (JSON) + SQLite (keadaan domain + log proksi + audit MCP + keputusan penghalaan) - **Skema**: Zod (pengesahan I/O alat MCP, kontrak API) - **Protokol**: MCP (stdio/HTTP) + A2A v0.3 (JSON-RPC 2.0 + SSE) - **Penstriman**: Acara Dihantar Pelayan (SSE) - **Auth**: OAuth 2.0 (PKCE) + JWT + API Keys + MCP Scoped Authorization - **Ujian**: Pelari ujian Node.js + Vitest (900+ ujian termasuk unit, penyepaduan, E2E) - **CI/CD**: GitHub Actions (auto npm publish + Docker Hub pada keluaran) - **Laman web**: [omniroute.online](https://omniroute.online) - **Pakej**: [npmjs.com/package/omniroute](https://www.npmjs.com/package/omniroute) - **Docker**: [hub.docker.com/r/diegosouzapw/omniroute](https://hub.docker.com/r/diegosouzapw/omniroute) - **Ketahanan**: Pemutus litar, pengunduran eksponen, kumpulan anti-gemuruh, penipuan TLS, penyembuhan diri kombo automatik
--- ## ๐Ÿ“– Dokumentasi | Dokumen | Penerangan | | ---------------------------------------------- | -------------------------------------------------------- | | [User Guide](docs/USER_GUIDE.md) | Pembekal, kombo, penyepaduan CLI, penggunaan | | [API Reference](docs/API_REFERENCE.md) | Semua titik akhir dengan contoh | | [MCP Server](open-sse/mcp-server/README.md) | 16 alatan MCP, konfigurasi IDE, pelanggan Python/TS/Go | | [A2A Server](src/lib/a2a/README.md) | JSON-RPC 2.0 protokol, kemahiran, penstriman, mgmt tugas | | [Auto-Combo Engine](docs/auto-combo.md) | Pemarkahan 6 faktor, pek mod, penyembuhan diri | | [Troubleshooting](docs/TROUBLESHOOTING.md) | Masalah dan penyelesaian biasa | | [Architecture](docs/ARCHITECTURE.md) | Seni bina sistem dan dalaman | | [Contributing](CONTRIBUTING.md) | Persediaan pembangunan dan garis panduan | | [OpenAPI Spec](docs/openapi.yaml) | Spesifikasi OpenAPI 3.0 | | [Security Policy](SECURITY.md) | Pelaporan kerentanan dan amalan keselamatan | | [VM Deployment](docs/VM_DEPLOYMENT_GUIDE.md) | Panduan lengkap: Persediaan VM + nginx + Cloudflare | | [Features Gallery](docs/FEATURES.md) | Lawatan papan pemuka visual dengan tangkapan skrin | | [Release Checklist](docs/RELEASE_CHECKLIST.md) | Langkah pengesahan prakeluaran | --- ## ๐Ÿ—บ๏ธ Pelan Hala Tuju OmniRoute mempunyai **210+ ciri yang dirancang** merentas berbilang fasa pembangunan. Berikut adalah bidang utama: | Kategori | Ciri Terancang | Sorotan | | ------------------------------ | -------------- | ---------------------------------------------------------------------------------------------------- | | ๐Ÿง  **Penghalaan & Perisikan** | 25+ | Penghalaan kependaman terendah, penghalaan berasaskan teg, kuota prapenerbangan, pemilihan akaun P2C | | ๐Ÿ”’ **Keselamatan & Pematuhan** | 20+ | Pengerasan SSRF, penyelubungan kelayakan, had kadar setiap titik akhir, skop kunci pengurusan | | ๐Ÿ“Š **Kebolehlihatan** | 15+ | Penyepaduan OpenTelemetry, pemantauan kuota masa nyata, penjejakan kos setiap model | | ๐Ÿ”„ **Integrasi Pembekal** | 20+ | Pendaftaran model dinamik, penyejukan pembekal, Codex berbilang akaun, penghuraian kuota Copilot | | โšก **Prestasi** | 15+ | Lapisan cache dwi, โ€‹โ€‹cache gesaan, cache respons, penstriman keepalive, API kelompok | | ๐ŸŒ **Ekosistem** | 10+ | API WebSocket, konfigurasi hot-reload, kedai konfigurasi teragih, mod komersial | ### ๐Ÿ”œ Akan Datang - ๐Ÿ”— **OpenCode Integration** โ€” Sokongan pembekal asli untuk IDE pengekodan AI OpenCode - ๐Ÿ”— **Pengintegrasian TRAE** โ€” Sokongan penuh untuk rangka kerja pembangunan TRAE AI - ๐Ÿ“ฆ **API Kelompok** โ€” Pemprosesan kelompok tak segerak untuk permintaan pukal - ๐ŸŽฏ **Penghalaan Berasaskan Teg** โ€” Permintaan laluan berdasarkan teg tersuai dan metadata - ๐Ÿ’ฐ **Strategi Kos Terendah** โ€” Pilih pembekal yang tersedia paling murah secara automatik > ๐Ÿ“ Spesifikasi ciri penuh tersedia dalam [**OMNI_TOKEN_342**](docs/new-features/) (217 spesifikasi terperinci) --- ## ๐Ÿ‘ฅ Penyumbang [![Contributors](https://contrib.rocks/image?repo=diegosouzapw/OmniRoute&max=100&columns=20&anon=1)](https://github.com/diegosouzapw/OmniRoute/graphs/contributors) ### Cara Menyumbang 1. Garpu repositori 2. Buat cawangan ciri anda (`git checkout -b feature/amazing-feature`) 3. Serahkan perubahan anda (`git commit -m 'Add amazing feature'`) 4. Tolak ke cawangan (`git push origin feature/amazing-feature`) 5. Buka Permintaan Tarik Lihat [CONTRIBUTING.md](CONTRIBUTING.md) untuk mendapatkan garis panduan terperinci. ### Mengeluarkan Versi Baharu ```bash # Create a release โ€” npm publish happens automatically gh release create v2.0.0 --title "v2.0.0" --generate-notes ``` --- ## ๐Ÿ“Š Sejarah Bintang ## Stargazers dari semasa ke semasa ## [![Stargazers over time](https://starchart.cc/diegosouzapw/OmniRoute.svg?variant=adaptive)](https://starchart.cc/diegosouzapw/OmniRoute) ## ๐Ÿ™ Ucapan terima kasih Terima kasih khas kepada **[9router](https://github.com/decolua/9router)** oleh **[decolua](https://github.com/decolua)** โ€” projek asal yang mengilhamkan garpu ini. OmniRoute membina asas yang luar biasa itu dengan ciri tambahan, API berbilang modal dan penulisan semula TypeScript penuh. Terima kasih khas kepada **[CLIProxyAPI](https://github.com/router-for-me/CLIProxyAPI)** โ€” pelaksanaan Go asal yang mengilhamkan port JavaScript ini. --- ## ๐Ÿ“„ Lesen Lesen MIT - lihat [LICENSE](LICENSE) untuk butiran. ---
Dibina dengan โค๏ธ untuk pembangun yang kod 24/7
omniroute.online