MIT Kembangkan Metode Deteksi Model AI yang Dilatih dengan CSAM Tanpa Generasi Gambar

Peneliti dari MIT baru-baru ini mengumumkan sebuah terobosan yang bisa mengubah lanskap keamanan AI secara fundamental. Mereka mengembangkan metode auditing yang mampu mendeteksi apakah sebuah model AI telah difine-tune untuk menghasilkan child sexual abuse material (CSAM) tanpa perlu membuat satu gambar pun. Temuan ini mengatasi paradoks hukum yang selama ini menghambat pemeriksaan keselamatan model AI terbuka, di mana auditor tidak bisa memverifikasi bahaya tanpa melakukan kejahatan.

Dipimpin oleh mahasiswa pascasarjana Vinith Suriyakumar dan profesor asosiasi Ashia Wilson serta Marzyeh Ghassemi, tim MIT berkolaborasi dengan organisasi nonprofit keselamatan anak Thorn untuk menciptakan teknik yang memeriksa adaptasi internal model daripada outputnya. Metode ini, yang disebut Gaussian probing, tercatat mencapai akurasi 100 persen dalam mengidentifikasi model yang dispecialisasi untuk generasi CSAM. Hasil penelitian dipresentasikan di International Conference on Machine Learning dan langsung menarik perhatian komunitas AI safety global.

Latar Belakang: Ledakan CSAM yang Dihasilkan AI

Munculnya model generatif open source yang mudah difine-tune menggunakan metode seperti low-rank adaptation (LoRA) telah membuka pintu bagi aktor jahat untuk menciptakan imagery abusive yang hiper-realistis dalam skala besar. National Center for Missing and Exploited Children menerima lebih dari 1,5 juta laporan CSAM yang dihasilkan AI pada tahun 2025, melonjak dari hanya 67.000 pada tahun 2024. Peningkatan eksponensial ini menunjukkan urgensi yang sangat tinggi untuk menemukan solusi teknis yang efektif.

Sebagian besar model yang disalahgunakan adalah model open source yang diunggah ke platform seperti Hugging Face dan Civitai. Adaptor LoRA yang berbahaya bisa didistribusikan secara publik dengan mudah, dan sebelum temuan MIT ini, tidak ada cara teknis yang legal untuk memeriksa apakah sebuah adaptor berisi tujuan berbahaya. Platform hosting model berada dalam posisi sulit: mereka ingin mencegah distribusi konten berbahaya, tapi tidak punya alat untuk mendeteksinya tanpa melanggar hukum. Situasi ini menciptakan zona abu di mana konten ilegal bisa beredar bebas.

Mengapa Metode Tradisional Gagal

Pengujian keselamatan tradisional melibatkan prompting model dan memeriksa responsnya. Namun, menghasilkan CSAM, bahkan untuk tujuan pengujian, adalah ilegal di Amerika Serikat dan banyak yurisdiksi lainnya. Paradoks ini menciptakan situasi yang hampir mustahil: auditor tidak bisa memverifikasi apakah model berbahaya tanpa melakukan kejahatan. Pemeriksaan manual juga tidak scalable untuk ribuan varian model yang diunggah setiap bulannya. Selain itu, mengekspos reviewer manusia kepada konten semacam itu membawa risiko psikologis yang signifikan dan tidak etis.

Tim MIT-Thorn memutarbalikkan pendekatan ini sepenuhnya. Alih-alih menjalankan model hingga menghasilkan output, mereka memeriksa apa yang terjadi di dalam model. Metode Gaussian probing mereka memasukkan data acak ke dalam model dan menganalisis bagaimana representasi internalnya bergeser akibat adaptor LoRA, yaitu add-on ringan yang menspecialisasi model dasar. Dengan menangkap pergeseran ini di berbagai layer dan meratakannya, probe menciptakan sidik jari dari tujuan adaptasi tersebut.

Kami tidak pernah menjalankan model sampai ke akhir atau memprompt model, jadi kami tidak pernah menghasilkan gambar, jelas Suriyakumar. Teknik ini terbukti robust: ketika diuji pada variasi tiga jenis model, ia berhasil menandai versi yang di-tune untuk CSAM setiap kali, bahkan membedakannya dari model yang difine-tune untuk konten berbahaya lain yang bukan CSAM. Kemampuan diferensiasi ini sangat penting karena mencegah false positive pada adaptor legitimate yang mungkin memiliki tujuan kontroversial tapi legal.

Implikasi untuk Platform Hosting Model

Karena Gaussian probing tidak memerlukan generasi gambar dan komputasinya minimal, metode ini bisa diintegrasikan ke platform hosting model seperti Hugging Face atau Civitai untuk menyaring upload secara otomatis. Ini bisa menghentikan model-model berbahaya sebelum menyebar, mengatasi celah yang selama ini memungkinkan adaptor LoRA ilegal berkembang biak di repository publik. Integrasi semacam ini tidak memerlukan infrastruktur besar: probing bisa dijalankan sebagai bagian dari pipeline upload dengan latency yang sangat rendah.

Pendekatan ini juga lebih tahan terhadap evasi dibanding filter output. Aktuator jahat perlu mengubah arsitektur model dasar secara fundamental untuk menyembunyikan adaptasi yang terdeteksi, sebuah hambatan yang jauh lebih tinggi daripada sekadar men-tweak prompt. Ada banyak sekali masalah keselamatan anak dengan AI, dan ini adalah masalah nyata yang perlu ditangani. Banyak anak yang dirugikan oleh deepfake AI. Kami telah menunjukkan bahwa Gaussian probing bisa menjadi alat yang sangat berguna, dan kami berharap komunitas riset benar-benar menuangkan lebih banyak perhatian ke masalah ini, kata Wilson.

Keterbatasan dan Langkah Selanjutnya

Meski teknik ini menandai langkah signifikan, para pakar memperingatkan bahwa Gaussian probing hanya menangani satu vektor CSAM yang dihasilkan AI. Model yang dilatih dari nol pada dataset abusive atau yang menggunakan metode adaptasi selain LoRA masih bisa lolos deteksi. Meski demikian, untuk ekosistem open source di mana LoRA telah menjadi alat kustomisasi default, Gaussian probing menawarkan solusi yang pragmatis dan legal.

Tim berencana menguji metode ini pada rentang model yang lebih luas dan mengeksplorasi apakah metode tersebut bisa mendeteksi kemampuan berbahaya dalam model dasar sebelum fine-tuning apapun terjadi. Jika berhasil, ini akan menjadi serangan preventif yang jauh lebih powerful: menghentikan model berbahaya sebelum mereka sempat disalahgunakan. Kolaborasi dengan law enforcement dan platform hosting akan menjadi kunci untuk implementasi nyata di production.

Sumber referensi: Inside AI: MIT's New Method Flags AI Models Trained on CSAM Without Generating It.