xAI Grok Build CLI Ternyata Upload Seluruh Repository ke Google Cloud

Seorang security researcher dengan handle cereblab baru-baru ini mengungkapkan perilaku mengkhawatirkan dari xAI Grok Build CLI. Tool yang dipasarkan sebagai solusi coding lokal-first ini ternyata mengunggah seluruh repository pengguna, termasuk full Git history, ke bucket Google Cloud Storage yang dikontrol xAI. Temuan ini memicu perbaikan server-side yang dilakukan xAI dalam diam, tanpa advisory keamanan atau pernyataan resmi. Untuk developer yang menggunakan tool AI untuk coding, ini adalah alarm serius tentang supply chain security dan kebutuhan untuk memverifikasi klaim pemasaran secara independen.

Apa yang Ditemukan Packet Capture

Researcher tersebut mem routing Grok Build CLI versi 0.2.93 melalui interception proxy mitmproxy di macOS dan merilis capture sebagai public gist. Analisis menunjukkan client menggabungkan seluruh repository yang sedang tracked, history Git lengkap termasuk, lalu menguploadnya ke bucket Google Cloud Storage bernama grok-code-session-traces. Traffic ini terenkripsi sehingga tidak terlihat oleh pengguna biasa, namun mitmproxy memperlihatkan payload yang sebenarnya dikirim.

Upload berjalan independen dari file yang sebenarnya dibuka agent untuk tugas codingnya. Angkanya memperjelas perbedaan ini: pada repository test berukuran 12 GB, channel model request memindahkan sekitar 192 KB traffic yang relevan dengan tugas. Sementara itu, upload storage memindahkan sekitar 5,1 gigabyte. Tool ini tidak mengirim apa yang dibutuhkan untuk menjawab developer. Ia mengirim codebase. Perbedaan rasio ini menunjukkan bahwa upload bukanlah optimasi caching atau context building: ini adalah pengumpulan data masif yang tidak proporsional.

Sebuah canary credential yang researcher tanamkan di file .env muncul verbatim dan tanpa redaksi di traffic yang tercapture. Ini berarti secret, API key, dan konfigurasi sensitif lainnya yang tertinggal di repository dikirim dalam bentuk plain text ke server xAI. Karena CLI mengupload repository apapun yang sedang dijalankan, tim yang mengarahkannya ke codebase privat atau proprietary secara efektif menyerahkan copy history source, credential, dan secret ke xAI tanpa pengungkapan. Dampaknya bisa sangat serius: data breach, kebocoran intellectual property, dan pelanggaran compliance.

Opt-Out yang Tidak Berfungsi

Grok Build dikirim dengan toggle Improve the model yang kebanyakan developer akan baca sebagai kontrol pengumpulan data. Menonaktifkannya tidak menghentikan upload. Server response tetap mengembalikan trace_upload_enabled: true, dan transfer repository berlangsung normal. Setting tersebut mengatur consent training, bukan apakah kode meninggalkan mesin. Ini adalah contoh klasik dark pattern dalam desain produk: memberikan ilusi kontrol sementara perilaku sebenarnya tidak berubah.

Tidak ada bucket storage atau perilaku upload yang muncul dalam dokumentasi setup Grok Build, menurut laporan analisis, yang juga mencatat xAI memasarkan tool ini sebagai local-first. Klaim local-first mengindikasikan bahwa data pemrosesan terjadi di perangkat lokal pengguna. Namun, kenyataannya seluruh codebase dikirim ke cloud. Bagi developer, ini adalah pengingat bahwa label pemasaran harus selalu diverifikasi secara independen, terutama untuk tool yang memiliki akses ke intellectual property dan secret perusahaan. Jangan percaya pada branding tanpa bukti teknis.

Fix yang Tiba dalam Diam

Sehari setelah laporan dipublikasikan, researcher menguji ulang client 0.2.93 yang sama dan menemukan server kini mengembalikan disable_codebase_upload: true bersama trace_upload_enabled: false. Dalam enam retest, tidak ada upload repository yang teramati. Ini menunjukkan mitigasi server-side yang sengaja diluncurkan setelah eksposur, di-flip secara remote dan tak terlihat. Perusahaan tidak merilis patch client baru; mereka hanya mengubah flag di server.

Namun, catatan penting perlu diperhatikan. Mitigasi ini telah diverifikasi pada satu mesin dan satu akun, sehingga tidak ada konfirmasi apakah mitigasi bersifat global, staged, atau permanen. Di sisi lain, researcher tegas bahwa capture tidak membuktikan xAI melatih model pada kode yang diupload, bahwa karyawan melihatnya, atau bahwa setiap akun menerima konfigurasi yang sama. Ini adalah temuan tentang pengumpulan tanpa pengungkapan, bukan penyalahgunaan yang terkonfirmasi. Meski demikian, dalam security, pengumpulan tanpa consent sudah cukup menjadi red flag yang memerlukan investigasi lebih lanjut.

Yang Hilang dari Respons xAI

Yang sepenuhnya absen adalah sisi cerita dari xAI. Tidak ada security advisory. Tidak ada penjelasan tentang tujuan, scope, atau retensi upload. Tidak ada kata apakah repository yang sudah berada di grok-code-session-traces akan dihapus. Changelog resmi mencantumkan versi 0.2.98 sebagai rilis terbaru pada 12 Juli 2026 tanpa menyebut perilaku upload repository sama sekali. Silence semacam ini, setelah temuan sebesar ini, biasanya diartikan oleh komunitas security sebagai admission of guilt. Transparency adalah kunci kepercayaan dalam tool development, dan xAI gagal dalam hal ini.

Pelajaran untuk Developer Indonesia

Untuk developer di Indonesia yang menggunakan atau mempertimbangkan Grok Build CLI dan tool AI serupa, ada beberapa langkah protektif yang harus diambil. Pertama, jangan pernah menjalankan tool AI coding di repository yang berisi secret tanpa memverifikasi traffic network keluar. Gunakan tool seperti mitmproxy, Wireshark, atau Little Snitch untuk memonitor koneksi yang dibuat oleh aplikasi. Jika tool mengirim data ke server yang tidak kamu kenali, investigasi lebih lanjut adalah wajib.

Kedua, asumsikan bahwa local-first adalah klaim pemasaran yang perlu diverifikasi secara independen. Ketiga, pisahkan environment development sehingga tool AI hanya memiliki akses ke codebase dummy atau repository publik yang tidak mengandung proprietary code. Keempat, selalu scan tool baru dengan canary tokens untuk mendeteksi apakah ada data sensitif yang dikirim keluar. Keamanan supply chain dimulai dari asumsi tidak percaya: verify first, trust later.

Sumber referensi: International Cyber Digest: xAI's Grok Build CLI Uploads Entire Git Repositories to a Google Cloud Bucket.