Tutorial AI Coding Assistant Lokal dengan Continue.dev dan Ollama

Privasi kode menjadi perhatian utama bagi developer enterprise dan indie hacker yang bekerja dengan codebase proprietary. Mengirimkan snippet kode ke cloud-based AI coding assistant seperti GitHub Copilot atau ChatGPT kadang tidak memenuhi kebijakan security perusahaan. Solusinya adalah membangun AI coding assistant yang berjalan sepenuhnya di local machine menggunakan Continue.dev dan Ollama.

Kombinasi Continue.dev sebagai IDE extension dan Ollama sebagai local LLM runner memungkinkan autocomplete, chat, dan code explanation tanpa satu baris kode pun meninggalkan laptop Anda. Artikel ini akan membahas setup lengkap dari nol hingga siap digunakan untuk produktivitas sehari-hari.

Persiapan Prerequisites

Pastikan sistem Anda memenuhi requirement berikut:

• macOS, Linux, atau Windows dengan WSL2

• Minimal 8 GB RAM (16 GB direkomendasikan untuk model 7B parameter)

• VS Code, JetBrains IDE, atau Neovim

• Ollama sudah terinstall

Install Ollama sesuai sistem operasi melalui website resmi Ollama. Verifikasi instalasi:

ollama --version

Langkah 1: Download Model Code LLM

Ollama mendukung berbagai model yang di-optimize untuk coding. Pilihan populer antara lain Code Llama, DeepSeek Coder, Qwen 2.5 Coder, dan Mistral. Untuk tutorial ini, kita gunakan Qwen 2.5 Coder 7B yang menawarkan keseimbangan baik antara akurasi dan kecepatan:

ollama pull qwen2.5-coder:7b

Setelah download selesai, test model dengan perintah:

ollama run qwen2.5-coder:7b
>>> Tuliskan fungsi Python untuk menghitung Fibonacci dengan memoization

Jika respons muncul dengan cepat, model sudah siap. Keluar dari interactive mode dengan /bye.

Langkah 2: Install Extension Continue.dev

Buka VS Code, navigasi ke Extensions Marketplace, dan cari Continue. Install extension dari publisher Continue. Setelah terinstall, icon Continue akan muncul di sidebar kiri.

Alternatif untuk JetBrains, download plugin Continue dari JetBrains Marketplace. Untuk Neovim, ikuti panduan di dokumentasi resmi Continue.dev.

Langkah 3: Konfigurasi Continue.dev untuk Local LLM

Buka file konfigurasi Continue dengan menekan Ctrl+Shift+P (atau Cmd+Shift+P di macOS) dan pilih Continue: Open config.json. Tambahkan konfigurasi model Ollama:

{
  "models": [
    {
      "title": "Qwen Coder Local",
      "provider": "ollama",
      "model": "qwen2.5-coder:7b"
    }
  ],
  "tabAutocompleteModel": {
    "title": "Qwen Autocomplete",
    "provider": "ollama",
    "model": "qwen2.5-coder:7b"
  }
}

Simpan file dan reload VS Code window. Continue akan otomatis mendeteksi Ollama server di endpoint default (port 11434).

Langkah 4: Aktifkan Autocomplete dan Chat Inline

Continue.dev menyediakan dua mode utama: chat sidebar dan inline autocomplete. Untuk mengaktifkan autocomplete, buka settings Continue dan aktifkan Tab Autocomplete.

Test fitur dengan membuka file kode dan mulai mengetik. Setelah beberapa karakter, Continue akan menampilkan saran kode berwarna abu-abu. Tekan Tab untuk menerima saran tersebut.

Untuk chat inline, blok kode yang ingin di-refactor, tekan Ctrl+L, dan ketik instruksi natural language seperti Refactor ini menjadi async function dengan error handling. Continue akan menggenerate perubahan diff yang bisa langsung di-apply.

Langkah 5: Integrasi dengan Context Project

Salah satu keunggulan Continue.dev adalah kemampuan memberikan context dari seluruh codebase. Gunakan fitur @ mention untuk mereferensikan file, folder, atau documentation:

@file src/utils/helpers.ts
Jelaskan fungsi utama di file ini dan identifikasi potensi bug.

Anda juga bisa mengindex codebase dengan embedding lokal. Install model embedding dari Ollama:

ollama pull nomic-embed-text

Lalu tambahkan ke config Continue:

{
  "embeddingsProvider": {
    "provider": "ollama",
    "model": "nomic-embed-text"
  }
}

Kesimpulan

Setup AI coding assistant lokal dengan Continue.dev dan Ollama memberikan produktivitas setara dengan Copilot tanpa mengorbankan privasi kode. Meskipun model lokal 7B mungkin tidak sekuat GPT-4o untuk task kompleks, kemampuannya untuk autocomplete, refactoring, dan code explanation sudah sangat memadai untuk sebagian besar workflow development. Eksplorasi model lain yang tersedia di Ollama Library untuk menemukan yang paling cocok dengan stack teknologi Anda.