Construct Computer Buktikan AI Agent Bisa Jalan di Cloudflare Tanpa Biaya Idle

Salah satu masalah paling menyebalkan dalam menjalankan AI agent otonom adalah tagihan infrastruktur yang membengkak karena mesin tetap menyala meski tidak ada yang mengerjakannya. Construct Computer, sebuah startup AI employee, baru-baru ini membagikan arsitektur internal mereka yang memecahkan masalah tersebut dengan cara yang elegan: menjalankan agent di Cloudflare Workers dan Durable Objects, bukan di VPS tradisional. Artikel ini merangkum bagaimana mereka membangun sistem tersebut, konsekuensi biayanya, dan pelajaran yang bisa ditiru oleh developer di Indonesia.

Pendekatan ini memungkinkan setiap pengguna Construct memiliki komputer virtual yang benar-benar aktif hanya saat ada pekerjaan. Saat tab browser ditutup atau sesi idle, sumber daya compute tidak dibiarkan menyala sia-sia. Berbeda dengan VPS konvensional yang dikenakan biaya per jam mesin hidup, arsitektur edge ini memungkinkan billing yang hanya aktif ketika ada event nyata. Hasilnya: produk AI agent yang terasa always-on tanpa invoice always-on.

Masalah dengan Model VPS Klasik

Cara default menjalankan AI agent adalah memberinya sebuah Linux box dan membiarkannya tetap hidup. Agent dilatih untuk berinteraksi dengan bash, bash butuh filesystem dan process table, dan solusi termudah adalah sebuah mesin yang selalu on. Pendekatan ini bekerja sampai invoice datang dan memaksa founder untuk memikirkan ulang arsitektur mereka.

Construct awalnya membangun backend mereka sebagai monolith Bun dan Elysia di atas VPS dengan SQLite di disk lokal. Setiap pengguna mendapatkan box sendiri yang dikelola oleh sekitar 1.300 baris kode manajemen kontainer. Masalahnya: biaya tidak skal dengan penggunaan. Seseorang yang daftar sekali lalu menghilang memakan biaya sama besar dengan power user yang menggunakan produk setiap hari. Produk tidak bisa scale jika tagihan tumbuh seiring jumlah akun, bukan jumlah pekerjaan. Ini adalah masalah klasik yang dihadapi banyak startup AI: biaya infrastruktur yang membunuh unit economics sebelum produk sempat mencapai product-market fit.

Pada 30 Maret 2026, mereka memutuskan untuk migrasi total ke Cloudflare Workers. Dalam dua hari, seluruh backend diubah menjadi Hono on Workers, WebSocket hub per-user di Durable Object dengan hibernation, dan container object yang diarsip ke R2 saat tidur lalu dipulihkan saat bangun. Hasilnya: tagihan hanya muncul ketika ada yang benar-benar bekerja. Migrasi ini bukan sekadar optimisasi, tetapi transformasi fundamental pada model bisnis mereka.

Arsitektur Edge yang Hemat Biaya

Kunci dari penghematan biaya adalah pemisahan antara agent loop dan machine. Agent loop: transcript, routing tool, pemanggilan model, dan memory recall. Hanya machine yang butuh Linux sesungguhnya untuk menjalankan command seperti pdftotext, konversi spreadsheet, atau kompilasi proyek. Dengan memisahkan keduanya, separuh stack yang mahal berhenti membutuhkan uptime terus-menerus.

Construct menempatkan agent loop di Durable Object dengan SQLite lokal. WebSocket hibernation memastikan tab browser yang terbuka seharian bukanlah proses yang berjalan, melainkan socket yang di-hold oleh runtime. Keepalive pings dijawab runtime tanpa membangunkan object. Object baru bangun ketika ada event nyata, lalu tidur lagi ketika tidak ada. Teknik ini mengubah biaya dari uptime-based menjadi event-based.

Ketika agent memanggil terminal tool, sebuah Cloudflare Sandbox di-resolve dengan instance key per user atau workspace. Parameter sleepAfter menjadi pivot: setelah sepuluh menit idle, kontainer dihancurkan. Dipadukan dengan CPU billing aktif Cloudflare Containers, yang mengenakan biaya berdasarkan CPU yang dikonsumsi bukan wall-clock uptime, idle sandbox berhenti menjadi beban finansial. Perbedaannya seperti membayar listrik per kWh versus membayar sewa gedung per jam terlepas dari apakah ada orang di dalamnya.

R2 sebagai Workspace Persisten

File pengguna tidak disimpan di disk mesin, melainkan di R2 bucket yang di-mount ke container melalui s3fs. Quota 100 MB, 1 GB, atau 3 GB adalah batas bytes tersimpan, bukan volume yang harus tetap spin up. Ketika Construct menyimpan laporan, spreadsheet, atau brief riset, file-file tersebut outlive mesin secara konstruksi. Mereka tidak pernah benar-benar berada di mesin. Ini berbeda drastis dengan provisioned volume yang menunggu pemiliknya mengingat produknya masih ada.

Untuk memastikan mount benar-benar writable, Construct tidak cukup dengan memeriksa keberadaan direktori. Mereka membuat non-root user membuat probe file lalu menghapusnya dengan timeout sepuluh detik. Jika gagal, sistem melakukan unmount, remount, fix ownership, dan probe ulang. Mekanisme ini mencegah silent failure yang sering terjadi pada sistem FUSE di production. Sebuah pelajaran berharga: jangan pernah memercayai status output yang mengatakan semuanya baik-baik saja tanpa verifikasi write aktual.

Unglamorous consequence dari arsitektur ini adalah bahwa setiap exec merupakan fresh shell. Working directory tidak persisten. Agent dilatih pada bash yang biasanya memiliki state berkelanjutan, sehingga mereka awalnya kesulitan. Construct menulis hint ke dalam failure path yang menjelaskan bahwa setiap panggilan terminal dimulai dari clean state. Ini adalah contoh bagaimana UX writing yang baik bisa menggantikan asumsi arsitektural yang kontra-intuitif.

Pelajaran untuk Developer Cloud di Indonesia

Arsitektur Construct menunjukkan bahwa platform edge computing kini sudah cukup matang untuk menjalankan workload AI agent production. Cloudflare Workers, Durable Objects, D1, R2, dan Sandbox SDK membentuk stack yang memungkinkan developer membangun produk AI tanpa harus mengelola server sendiri atau menerima tagihan idle yang mematikan. Bagi startup di Jakarta, Bandung, atau Surabaya yang sedang membangun agent workflow, ini adalah bukti bahwa serverless tidak lagi hanya untuk landing page statis.

Pelajaran paling berharga adalah: pisahkan durable state dari compute Linux. State yang butuh persistensi bisa tinggal di Durable Object SQLite atau D1. Compute yang butuh Linux hanya hidup selama tool call berlangsung. Dengan cara ini, skala produk Anda bisa tumbuh seiring penggunaan aktual, bukan seberapa banyak orang yang kebetulan pernah mendaftar. camelAI, startup lain di ruang yang sama, telah mencapai kesimpulan yang hampir identik secara independen, memberikan validasi bahwa arsitektur ini bukan sekadar preferensi pribadi.

Construct secara terbuka mengakui keterbatasan: jika workload Anda adalah satu long-lived process per user yang benar-benar tidak pernah idle, maka belilah VM. Arsitektur edge ini membayar dividen hanya ketika mesin seharusnya idle sebagian besar waktu. Namun untuk sebagian besar produk AI agent, itu adalah asumsi yang sangat valid. Pengguna tidak selalu aktif; mereka mengirimkan tugas, menunggu, lalu kembali beberapa menit atau jam kemudian. Selama interval tersebut, mesin tidak perlu tetap hidup.

Di era AI agent yang semakin kompetitif, unit economics akan menjadi pembeda antara startup yang bertahan dan yang bangkrut. Construct telah membuktikan bahwa dengan arsitektur yang tepat, AI employee bisa merasa selalu hadir tanpa membebani neraca. Itulah masa depan infrastruktur AI: tidak terlihat, tidak terduga, dan tidak memakan biaya saat sedang tidak bekerja.