Changelog

Yang baru di LokaRouter — endpoint, fitur, dan perbaikan.

Resilience, rankings & billing polish
  • Peringkat: leaderboard publik model paling banyak dipakai (30 hari terakhir, agregat anonim).
  • Failover mid-stream: jika provider menutup stream sebelum mengirim apa pun, request otomatis dicoba ke provider berikutnya.
  • Sinkronisasi harga kini otomatis — cron per jam menjaga harga per-token tetap segar (admin tetap bisa sinkron manual dari Ops).
  • Biaya top-up opsional (TOPUP_FEE_PERCENT) dengan nominal terkredit ditampilkan transparan sebelum pembayaran.
Tools registry & live prices
  • Registry tools: simpan definisi fungsi (nama, deskripsi, JSON Schema) dan batasi tool yang boleh dipanggil tiap API key lewat guardrail allowed-tools baru (403 tool_not_allowed).
  • Playground: aktifkan tool dari registry sebagai chip dan lihat tool_calls yang dialirkan tampil inline.
  • Harga model live: admin bisa menyinkronkan harga per-token dari daftar model upstream; penagihan memakai harga live dengan fallback katalog.
Auto-routing & broader OpenAI surface
  • lokarouter/auto: routing model heuristik — set model ke lokarouter/auto dan gateway memilih model hosted terbaik per request.
  • Endpoint baru: POST /v1/completions, POST /v1/embeddings, GET /v1/models/{id}, GET /v1/key.
  • Header observability di setiap respons gateway: x-request-id dan x-lokarouter-latency-ms; header rate-limit pada 429.
  • Referensi API publik di /docs/api.
Workspaces, Files (Beta), presets
  • Undangan workspace via email dengan masa terima 7 hari; anggota menerima dari dashboard mereka.
  • Cap budget bulanan per workspace, ditegakkan di gateway (402 workspace_budget_exhausted).
  • Files (Beta): /v1/files kompatibel OpenAI dengan batas 5 MB dan halaman kelola di dashboard.
  • Preset: simpan system prompt dan parameter sampling, pakai ulang di playground.
  • Halaman Aktivitas: belanja 30 hari, tingkat error, latency per model, dan grafik kesehatan harian.
Guardrails, routing control, settings
  • Halaman Guardrails: budget, model yang diizinkan, dan preferensi routing per API key.
  • Halaman Routing: kesehatan penyedia langsung, urutan failover, preferensi routing tingkat akun.
  • Halaman Pengaturan: tampilan, bahasa dashboard, toggle email saldo menipis.
  • Keamanan: BYOK provider keys kini terenkripsi at-rest (AES-256-GCM).

← Kembali ke Dokumentasi