Chat AI dengan Open Web UI
Perlu bantuan AI (akal imitasi) untuk satu tim kecil? Ternyata ada pilihan, kalau nggak mau langganan per orang.
Caranya adalah dengan meracik chat AI sendiri:
✅ Akses ke ratusan model
✅ Ongkos VPS $10/tahun
✅ Bayar token sesuai pemakaian
tentunya dengan sedikit kelemahan:
❌ Kudu ngoprek dikit
❌ Perlu sering dipantau
❌ Nggak semumpuni ChatGPT
Tapi coba aja dulu. Begini caranya, baca sampai tuntas.
Rancangannya sendiri seperti gambar berikut.
🖥️ VPS dari CloudServer
💿 OS: Debian + Podman
🔍 Antarmuka: Open Web UI
💡 LLMaaS: OpenRouter, Gemini
Dari CloudServer (bukan sponsor), VPS-nya hanya $10 per tahun. Bisa cari yang lain juga, minimal RAM 1 GB dan SSD 10 GB (walaupun kalau bakal dipakai rame-rame, perlu tambahan pastinya). Jangan lupa pasang fail2ban, Nginx, dll.
Untuk UI buat chat, Open Web UI adalah pilihan populer. Ada Libre Chat kalau mau coba yang lain.
Idenya di sini adalah untuk tidak menggunakan produk "jadi" seperti ChatGPT, DeepSeek, Claude, Gemini, Mistral, dll. Kita akan langsung nembak ke LLM-nya, tanpa perantara. Lihat juga tulisan saya sebelumnya soal ChatGPT Versi Murah.
Misalnya satu tim ada 10 orang, kalau masing-masing perlu berlangganan $20 per bulan, total sebulannya udah $200. Padahal belum tentu juga pada nge-chat non-stop 24/7.
Daripada tiap orang “ngecer”, mending kita beli akses LLM secara "grosir".
Setelah dapat VPS/VM/mesin beneran, pasang Debian 12 terus Podman. Pakai Docker juga boleh. Buat yang belum tahu, Podman ini adalah alternatif cakep untuk Docker.
Pertama-tama, luncurkan manual dulu:
mkdir openwebui
sudo podman run --rm --detach --name openwebui -v "$HOME/openwebui:/app/backend/data" -p 3125:8080 ghcr.io/open-webui/open-webui:mainterus tinggal buka port 3125 di mesin tersebut. Langsung bikin akun untuk admin, pastikan ada penampakan Open Web UI.
Abis itu, konfigurasi untuk pakai Cloud LLM yang diinginkan. Bingung milih yang mana? Cermati ulasan saya sebelumnya.
Patokan gampangnya, begini.
⚛️ Mau coba banyak model? OpenRouter atau Glama.
💻 Untuk pemakaian pribadi: Gemini, Together, Groq. Ada jatah gratis tapi mungkin kena batasan pemakaian.
📊 Kerja bareng tim: Gemini (murah), OpenAI (berkualitas), DeepInfra (pilihan model cakep)
Tapi yang penting oprek aja semuanya!
Masih kurang jelas? Berikut tulisan saya yang lama, Ulasan Jujur Lusinan LLMaaS.
Terima kasih sudah membaca tulisan ini! Sebelumnya, celotehan ini hadir sebagai sebuah utas di lapak Threads saya.
Bila dirasakan berfaedah, bagikan juga bahasan ini dengan teman-teman penggandrung LLM yang lain.
Supaya tidak ketinggalan, ikuti saya di Substack and sekalian berlangganan juga (dijamin 100% gratis).Dukungan ini akan sangat berarti buat saya. Jabat erat!