AI, Otomasi, dan Pertanyaan yang Tak Bisa Dijawab oleh Mesin

Setiap kali saya membuka editor dan melihat AI autocomplete melengkapi fungsi yang baru saya ketikkan dua baris, ada satu pertanyaan yang menggelayut di sudut pikiran: apa yang sebenarnya tersisa untuk manusia lakukan, jika mesin bisa menulis kode lebih cepat dan lebih bersih dari developer berpengalaman sekalipun?

Pertanyaan itu bukan sekadar anxiety ekonomi. Ia adalah pertanyaan filosofis yang sudah lama mengintai sejak calculator pertama menggantikan penjumlahan manual, sejak spreadsheet menggantikan buku besar, dan sejak compiler menggantikan assembly programmer. Setiap gelombang otomasi selalu diikuti oleh jeritan yang sama: apakah profesi ini akan hilang?

Tapi ada sesuatu yang berbeda dengan AI generatif. Calculator tidak pernah mengklaim bisa berpikir. Spreadsheet tidak pernah menulis laporan tahunan. AI coding assistant, bagaimanapun kita menyebutnya, sedang bergerak menuju territory yang sebelumnya eksklusif milik manusia: judgment.

Dan judgment adalah hal yang paling sulit untuk diotomatisasi, bukan karena kompleksitas teknisnya, melainkan karena judgment selalu melibatkan beban moral. Ketika kita memutuskan antara arsitektur monolith versus microservices, kita tidak hanya memilih teknologi. Kita memilih masa depan tim, keberlanjutan produk, dan kualitas hidup rekan-rekan kita yang akan memelihara sistem itu bertahun-tahun mendatang.

Paradox Otomasi: Mengapa Semakin Pintar Mesin, Semakin Penting Manusia

Di tahun 1983, seorang psikolog bernama Lisanne Bainbridge menulis sebuah paper yang kini dikenal sebagai Ironies of Automation. Intinya sederhana: semakin otomatis sebuah sistem, semakin penting kontribusi manusia pada saat-saat kritis. Ketika sistem berjalan mulus, manusia tidak diperlukan. Tapi ketika sistem gagal, dan itulah momen yang benar-benar penting, manusia yang harus mengambil alih. Masalahnya, keterampilan manusia justru menurun karena sudah terlalu lama bergantung pada otomasi.

Paradox itu kini kita rasakan setiap hari. Developer yang terbiasa mengandalkan AI autocomplete untuk menulis boilerplate tiba-tiba kebingungan ketika harus membuat keputusan arsitektural yang tidak ada dalam training data. Kemampuan untuk merasa something is off dengan sebuah solusi, kemampuan untuk merasakan ketegangan logis yang tidak terucap, adalah sesuatu yang AI belum bisa dan mungkin tidak akan pernah bisa lakukan dengan cara yang sama.

Menurut paper asli Bainbridge, otomasi yang terlalu sempurna justru menciptakan out-of-the-loop unfamiliarity. Manusia kehilangan sense of agency, dan ketika akhirnya diperlukan, mereka tidak lagi siap. Ini bukan kutukan, tapi peringatan: teknologi yang paling berbahaya bukanlah yang gagal, melainkan yang berhasil terlalu baik.

Di dunia software, paradox ini terlihat jelas. AI bisa menghasilkan CRUD API dalam hitungan detik, tapi ketika sistem yang sama harus diintegrasikan dengan legacy database yang sudah berjalan 15 tahun, atau ketika stakeholder bisnis secara implisit meminta perilaku yang berbeda dari yang mereka ucapkan, AI tidak bisa membaca ruang. Hanya manusia yang bisa menangkap nuansa antara request dan need.

AI Tidak Meragukan, dan Itulah Kelemahannya

Salah satu mitos terbesar tentang AI adalah bahwa AI itu objektif. Fakta sebenarnya: AI tidak pernah meragukan. AI tidak memiliki kemampuan untuk merasa curiga terhadap prompt yang diberikan, tidak memiliki insting untuk bertanya apakah pertanyaan ini sendiri sudah benar? AI menjawab apa yang diminta, dengan keyakinan statistik yang seringkali menyesatkan.

Developer hebat bukanlah yang bisa menulis kode tercepat. Developer hebat adalah yang bisa merasakan ketika sebuah requirement tidak masuk akal, ketika stakeholder meminta fitur yang akan merusak arsitektur yang sudah dibangun, ketika technical debt sedang menumpuk di balik solusi yang terlihat elegan. Ini bukan kemampuan teknis, ini adalah kemampuan ontologis: memahami apa yang sebenarnya sedang dibangun, bukan sekadar apa yang secara literal diminta.

Di artikelnya Good Writing, Paul Graham pernah menulis bahwa tulisan yang baik adalah hasil dari berpikir dengan jelas. Bukan kebetulan bahwa developer yang baik juga adalah developer yang bisa berpikir dengan jelas tentang konteks, bukan sekadar sintaks. AI bisa menulis sintaks yang sempurna, tapi tidak bisa berpikir dengan jelas tentang konteks hidup manusia yang kompleks.

Bayangkan sebuah skenario: AI menyarankan menggunakan pattern caching yang kompleks untuk mengoptimalkan endpoint yang sebenarnya jarang diakses. Secara teknis, solusi itu valid. Secara kontekstual, solusi itu sia-sia. Developer yang berpengalaman akan merasakan ketidaksesuaian itu tanpa harus melihat metric. Mereka merasakan smell dari solusi yang terlalu over-engineered untuk masalah yang terlalu sederhana. AI tidak punya hidung untuk mencium smell itu.

Code sebagai Ekspresi, Bukan Output

Ada pergeseran fundamental yang sedang terjadi dalam cara kita memahami software. Di era sebelum AI, code adalah artefak akhir dari proses berpikir. Di era AI, code menjadi medium yang lebih mirip seperti tinta untuk penulis atau cat untuk pelukis: alat untuk mengekspresikan sebuah keputusan, bukan produk itu sendiri.

Ini berarti pekerjaan developer sedang bertransformasi dari code producer menjadi decision architect. Kode yang dihasilkan AI bukanlah masalah, asal keputusan yang melahirkannya adalah keputusan yang dimengerti dan dipertanggungjawabkan oleh manusia. Seperti yang sering dikatakan DHH, founder Ruby on Rails: software adalah ekspresi dari nilai dan pilihan manusia, bukan matriks matematika yang netral.

Transformasi ini tidak nyaman. Ia menuntut developer untuk berpikir lebih dalam tentang why daripada how. Ia menuntut kita untuk menjadi lebih manusiawi: lebih skeptis, lebih empatik, lebih sadar konteks. Semua sifat yang, secara ironis, tidak bisa diotomatisasi.

Banyak developer yang merasa terancam oleh perubahan ini. Itu wajar. Tapi yang perlu dipahami adalah: AI tidak menggantikan developer, AI menggantikan bagian dari pekerjaan developer yang memang seharusnya sudah diotomatisasi sejak lama. Bagian yang tersisa, dan justru yang semakin berharga, adalah bagian yang paling manusiawi: judgment, empati, dan tanggung jawab moral.

Mengapa Kita Perlu Mengajarkan AI untuk Meragukan

Di masa depan, skill paling berharga bagi developer bukanlah mastery atas framework terbaru atau bahasa pemrograman paling hype. Skill paling berharga adalah kemampuan untuk meragukan, mempertanyakan, dan memvalidasi. Ketika AI menghasilkan 100 baris kode dalam sekejap, yang dibutuhkan bukan developer yang bisa menulis 100 baris lebih cepat, melainkan developer yang bisa mengatakan: 100 baris ini salah arah.

Ini adalah filsafat praktis. Ia tidak meminta kita untuk menjadi anti-teknologi. Ia meminta kita untuk memahami batasan teknologi. AI adalah alat yang luar biasa untuk ekspansi, tapi alat yang buruk untuk introspeksi. AI bisa menunjukkan what is, tapi tidak bisa menunjukkan what ought to be.

Dan itulah ruang yang akan selalu tersedia untuk manusia. Bukan karena manusia lebih cepat atau lebih akurat, tapi karena manusia adalah satu-satunya entitas yang bisa merasa tidak nyaman dengan status quo dan bertanya: apakah ini benar-benar yang kita inginkan?

Developer yang akan bertahan di era ini adalah developer yang berani menjadi professional skeptic. Mereka yang tidak terburu-buru menerima solusi AI hanya karena solusi itu terlihat benar secara statistik. Mereka yang mengajukan pertanyaan sulit: siapa yang akan memelihara ini? Apa dampaknya terhadap tim? Apakah ini selaras dengan nilai yang kita percayai sebagai organisasi?

---

Jadi, apa yang tersisa untuk developer di era AI? Jawabannya mungkin mengejutkan: lebih dari sebelumnya. Tapi bukan dalam bentuk yang sama. Pekerjaan kita tidak lagi tentang keystrokes per menit, tapi tentang keputusan per hari. Kualitas kita tidak lagi diukur dari coverage, tapi dari keberanian untuk meragukan solusi yang terlihat sempurna.

AI tidak mengambil pekerjaan kita. AI memaksa kita untuk menemukan kembali esensi dari pekerjaan kita. Dan esensi itu selalu sama: membangun sistem yang membantu manusia, dengan judgment manusia, untuk tujuan manusia.

Pertanyaan terbuka untuk malam ini: jika AI suatu hari bisa meragukan dirinya sendiri, apakah itu akan menjadi puncak kecerdasan atau awal dari krisis identitas manusia yang sesungguhnya?