LLM Reward Expertise: Keahlian Manusia Masih Dibutuhkan di Era AI

Ada anggapan umum bahwa LLM membuat semua orang setara. Jika Anda dan seorang pemula menggunakan model yang sama, hasilnya akan serupa, bukan? Ternyata, ini adalah mitos yang berbahaya bagi perkembangan karier. Bukti nyata datang dari percakapan matematikawan top dunia, Terence Tao, dengan ChatGPT tentang Jacobian Conjecture. Hasilnya menunjukkan bahwa LLM reward expertise: keahlian domain justru memaksimalkan nilai yang bisa diekstrak dari AI, bukan menggantikannya.

Berdasarkan analisis dari Sean Goedecke, banyak orang salah kaprah menganggap prompting tidak memerlukan skill. Padahal, domain knowledge adalah faktor penentu utama kualitas output LLM. ChatGPT yang dipakai Tao bukan ChatGPT yang dipakai orang awam: performa model meningkat drastis ketika dipandu oleh expert yang tahu persis apa yang dia inginkan dan mengapa jawaban tersebut penting. Ini mematahkan anggapan bahwa AI adalah equalizer skill dan menegaskan bahwa fondasi keahlian tetap bernilai.

Apa yang Dilakukan Terence Tao Berbeda

Goedecke menganalisis percakapan Tao dan menemukan beberapa pola yang tidak bisa ditiru oleh non-expert melalui teknik prompting generik. Pertama, pesan Tao sangat singkat dan to the point. Dia tidak merespons point-by-point, hanya gist dari output model. Kedua, output model menjadi jauh lebih ringkas dan teknis dibanding ketika Goedecke sendiri bertanya tentang matematika. Tao secara tidak langsung memberi sinyal bahwa dia adalah matematikawan, sehingga model beralih ke mode talking-to-mathematicians, bukan explaining-to-amateurs. Perubahan mode ini secara fundamental mengubah kualitas output yang dihasilkan dan menunjukkan model sangat responsif terhadap sinyal expertise.

Ketiga, Tao mendorong balik ketika respons model terlihat salah, tapi tidak langsung menolak secara frontal. Dia menggunakan kalimat seperti "this looks more complex than I was hoping for" untuk mengarahkan tanpa konfrontasi yang mematikan kreativitas model. Keempat, Tao hampir tidak pernah mengikuti saran model tentang langkah selanjutnya. Sebaliknya, dia membuat lompatan dan saran sendiri berdasarkan pemahaman mendalam tentang masalah dan literatur. Semua ini membutuhkan keahlian yang tidak bisa diakali oleh prompt template yang dijual di internet atau cheat sheet viral di media sosial.

Relevansi untuk Software Engineer

Ide ini bukan hanya berlaku untuk matematika murni. Goedecke sendiri, yang bekerja sebagai engineer di GitHub, mengamati fenomena serupa di codebase enterprise. Jika Anda memiliki theory of codebase yang baik, Anda bisa mendorong LLM jauh lebih keras dibanding jika Anda tidak familiar dengan sistem. Karena Anda punya sense sendiri tentang solusi yang bagus, Anda bisa bilang: tidak, ini bisa lebih sederhana, atau bukankah kita sudah punya fungsi X di modul Y? Pertanyaan-pertanyaan spesifik ini hanya muncul dari kepemilikan domain yang mendalam dan tidak bisa digenerate oleh prompt engineering semata.

Contoh nyata: seorang engineer yang baru bergabung dengan tim mungkin bisa meminta LLM membuat fitur login generik. Tapi engineer senior yang memahami architecture bisa meminta LLM mengintegrasikan fitur tersebut dengan existing auth system, menghandle edge cases yang sudah diketahui dari pengalaman produksi, dan memastikan compliance dengan security policy internal. Hasilnya tidak hanya berjalan, tapi sustainable, maintainable, dan sesuai konteks organisasi. Inilah perbedaan antara kode yang bisa berjalan dan kode yang bisa survive di production selama bertahun-tahun tanpa menjadi technical debt.

Human sebagai Bottleneck, Bukan Model

Kesimpulan menarik dari Goedecke: untuk banyak tugas kompleks, human adalah bottleneck, bukan model. Informasi yang dibutuhkan sudah ada di dalam parameter model. Tapi butuh manusia yang sangat pintar untuk mengeluarkannya dengan tepat. Ini berarti keahlian manusia tidak akan tergantikan oleh model yang semakin kuat dalam waktu dekat. Sebaliknya, model yang lebih kuat justru membuat expert semakin berharga karena mereka bisa mengekstrak lebih banyak nilai dari tool yang sama, mirip dengan ahli supir mobil balap yang bisa memaksimalkan mesin F1 di trek yang sama.

Bagi developer Indonesia, ini adalah pengingat bahwa investasi dalam pemahaman domain tetap penting di era AI. Jangan hanya fokus pada cara menggunakan tool, tapi perdalam pemahaman tentang arsitektur software, algoritma, dan domain bisnis yang Anda geluti. LLM adalah amplifier, bukan pengganti. Semakin kuat fondasi Anda, semakin besar amplifikasi yang Anda dapatkan dari AI. Seorang junior dengan Copilot mungkin lebih cepat menulis kode, tapi seorang senior dengan Copilot akan menulis sistem yang benar dan scalable.

Kesimpulan

Terence Tao dan ChatGPT membuktikan bahwa LLM tidak menciptakan kesetaraan skill. Keahlian domain memungkinkan expert untuk mendapatkan output yang secara kualitatif berbeda dari non-expert menggunakan model yang sama persis. Bagi developer, ini berarti karier jangka panjang masih dibangun dari pemahaman mendalam, bukan sekadar kemampuan prompting atau penggunaan tool. Jadilah expert di domain Anda, dan biarkan LLM menjadi multiplier dari keahlian tersebut. AI tidak akan menggantikan Anda, tapi developer yang menggunakan AI dengan pemahaman domain yang kuat akan menggantikan yang tidak. Pilihan ada di tangan Anda: jadilah pengguna AI yang mendalam, bukan hanya pengguna AI yang sering. Mulai dari sekarang.