Havedev
Distillation AI Bukan Sekadar Masalah Curang, Tetapi Masalah Kepercayaan Model
The Core Update
Anthropic merilis laporan baru yang menuduh adanya serangan distillation yang dilakukan oleh beberapa perusahaan AI berbasis di China, termasuk Alibaba, Moonshot AI, dan DeepSeek. Menurut laporan tersebut, aktivitas ini meningkat dalam beberapa bulan terakhir seiring persaingan model AI yang makin ketat.
Inti masalahnya bukan sekadar banyaknya request ke Claude. Anthropic menyebut bahwa kampanye ini mencoba mengambil kemampuan bernilai tinggi dari model frontier, termasuk kemampuan agentic, penggunaan tool, coding, analisis data, dan logical reasoning.
Dalam laporan itu, Anthropic menyebut hampir 200 juta exchange terkait distillation attack dari lima kampanye berbeda. Salah satu kampanye yang dikaitkan dengan Alibaba disebut sebagai upaya distillation terbesar yang pernah diamati Anthropic, dengan 151 juta exchange antara Mei sampai Juli 2026.
Distillation sendiri bukan istilah baru di dunia AI. Secara umum, distillation dipakai untuk melatih model yang lebih kecil agar meniru kemampuan model yang lebih besar. Dalam konteks riset yang sah, teknik ini bisa membantu efisiensi.
Tetapi masalah muncul ketika distillation dilakukan tanpa izin, apalagi dengan cara mencoba membongkar jejak reasoning internal dari model lain.
Anthropic menyebut beberapa kampanye mencoba mengekstrak chain of thought dari Claude. Padahal Claude biasanya tidak menampilkan chain of thought internal secara langsung. Yang ditampilkan ke pengguna adalah ringkasan proses berpikir, bukan jejak lengkap internal model.
Salah satu contoh yang disebut dalam laporan adalah teknik framing sebagai permintaan terjemahan. Prompt dibuat seolah-olah meminta model menerjemahkan working memory sebelumnya ke bahasa Jepang katakana-only.
Di permukaan, ini terlihat seperti prompt biasa. Tetapi dari sudut pandang keamanan model, ini adalah contoh bahwa serangan terhadap AI tidak selalu berbentuk malware, exploit server, atau pencurian database. Kadang bentuknya adalah instruksi yang disusun untuk membuat model melanggar batas yang sudah dipasang.
The Reality Check
Banyak orang melihat isu ini sebagai drama antar perusahaan AI besar. Sebagian akan membacanya sebagai perebutan kemampuan model. Sebagian lain akan membacanya sebagai bagian dari kompetisi geopolitik antara Amerika Serikat dan China.
Keduanya mungkin benar. Tetapi untuk bisnis yang memakai AI, pelajaran praktisnya lebih dekat dari itu.
AI bukan hanya soal model mana yang paling pintar. AI juga soal siapa yang boleh mengakses apa, data apa yang boleh diproses, output apa yang boleh dipercaya, dan batas apa yang harus dijaga.
Selama ini banyak bisnis mulai memakai AI dari sisi produktivitas. Tim memakai chatbot untuk membuat draft email, merangkum dokumen, menulis kode, membaca spreadsheet, atau membantu support pelanggan. Ini wajar. Nilainya cepat terlihat.
Tetapi begitu AI mulai masuk ke pekerjaan yang lebih penting, risikonya ikut naik.
Jika model bisa diminta melakukan analisis data, maka data apa yang boleh masuk? Jika model bisa memakai tool, tool apa yang boleh dijalankan? Jika model bisa membantu keputusan operasional, siapa yang memeriksa hasilnya? Jika model bisa mengakses dokumen internal, dokumen mana yang seharusnya tidak pernah keluar dari ruang tertentu?
Laporan Anthropic menunjukkan satu hal yang sering terlupakan: kemampuan AI yang kuat akan selalu menarik pihak yang ingin menirunya, mengakalinya, atau memanfaatkannya di luar tujuan awal.
Ini bukan berarti bisnis harus takut memakai AI. Tetapi bisnis perlu berhenti melihat AI sebagai kolom chat biasa.
AI yang terhubung ke data, tool, workflow, atau pelanggan adalah bagian dari sistem operasional. Ia perlu diperlakukan seperti sistem, bukan seperti mainan produktivitas.
Masalahnya, banyak organisasi belum sampai ke sana. Mereka menambahkan AI ke alur kerja tanpa status yang jelas, tanpa pembatasan akses yang rapi, tanpa audit log yang dibaca, dan tanpa aturan kapan output AI boleh langsung dipakai.
Akhirnya, risiko tidak muncul karena AI terlalu canggih. Risiko muncul karena bisnis memakai AI tanpa struktur kerja yang cukup jelas.
Di titik ini, isu distillation juga memberi pelajaran lain: model output bisa menjadi aset. Cara model menjawab, menyusun reasoning, memakai tool, dan menyelesaikan masalah adalah bagian dari nilai. Jika output dipakai sembarangan untuk melatih sistem lain, batas antara penggunaan normal dan ekstraksi kemampuan menjadi kabur.
Bagi perusahaan AI besar, ini menyangkut intellectual property dan keamanan frontier model. Bagi bisnis biasa, ini menyangkut data pelanggan, dokumen internal, SOP, pricing, strategi sales, dan knowledge base yang mungkin tidak terasa sensitif sampai semuanya terkumpul di satu tempat.
The Havedev Way
Dari sudut pandang Havedev, kabar seperti ini sebaiknya tidak membuat bisnis panik terhadap AI. Tetapi juga tidak sehat kalau bisnis menganggap semua ini hanya urusan perusahaan model besar.
Cara yang lebih masuk akal adalah mulai dari pertanyaan operasional yang sederhana: AI di bisnis Anda sedang menyentuh bagian mana?
Untuk banyak tim, jawabannya mungkin masih ringan:
- membuat draft konten
- merangkum meeting
- membantu customer support
- membaca spreadsheet
- membuat template email
- membantu coding internal
- mencari insight dari dokumen
Daftar ini terlihat aman. Tetapi setiap poin punya konteks risiko yang berbeda.
Membuat draft konten tidak sama risikonya dengan membaca data pelanggan. Merangkum artikel publik tidak sama dengan merangkum kontrak. Membantu coding tidak sama dengan memegang akses production. Menjawab pertanyaan umum pelanggan tidak sama dengan memberi keputusan refund, diskon, atau eskalasi komplain.
Karena itu, sebelum menambah automation AI, bisnis perlu membuat batas yang jelas.
Batas pertama adalah data. Tentukan data apa yang boleh masuk ke AI publik, data apa yang hanya boleh diproses lewat environment internal, dan data apa yang tidak boleh diberikan ke model sama sekali.
Batas kedua adalah aksi. Jika AI hanya memberi saran, risikonya berbeda dengan AI yang bisa menjalankan tool, mengirim email, mengubah data CRM, membuat invoice, atau membuka tiket support.
Batas ketiga adalah keputusan. Tentukan output AI mana yang boleh langsung dipakai dan output mana yang wajib diperiksa manusia terlebih dahulu.
Batas keempat adalah pencatatan. Jika AI dipakai untuk pekerjaan penting, bisnis perlu tahu siapa yang menjalankan, prompt apa yang dipakai, data apa yang disentuh, dan keputusan apa yang diambil setelahnya.
Ini tidak selalu berarti bisnis harus membangun sistem besar dari awal. Untuk tahap awal, spreadsheet kebijakan sederhana, template prompt yang disetujui, dan pembatasan akses tool sering sudah jauh lebih baik daripada membiarkan semua orang bereksperimen sendiri.
AI governance tidak harus dimulai dari dokumen tebal. Ia bisa dimulai dari tiga kolom yang jelas:
- boleh dipakai untuk apa
- tidak boleh dipakai untuk apa
- perlu approval kapan
Setelah itu, barulah automation menjadi lebih sehat.
Jika AI dipakai untuk lead, pastikan data awal lead jelas. Jika AI dipakai untuk support, pastikan kategori dan batas jawaban jelas. Jika AI dipakai untuk coding, pastikan tidak ada secret, token, atau akses production yang bocor. Jika AI dipakai untuk analisis internal, pastikan sumber data dan asumsi tetap bisa dilacak.
Laporan Anthropic tentang distillation memberi sinyal bahwa masa depan AI bukan hanya tentang model yang lebih pintar. Masa depan AI juga tentang model yang lebih aman, akses yang lebih terukur, dan organisasi yang lebih disiplin dalam memakai kemampuan tersebut.
Bisnis yang menang bukan selalu yang memakai AI paling banyak. Bisnis yang lebih siap adalah yang tahu pekerjaan mana yang cocok dibantu AI, data mana yang boleh disentuh, dan keputusan mana yang tetap perlu manusia.
AI bisa mempercepat pekerjaan. Tetapi tanpa batas yang jelas, AI juga bisa mempercepat kebocoran, kesalahan, dan ketergantungan pada proses yang tidak dipahami.
Sebelum menambahkan AI agent, workflow automation, atau integrasi tool baru, cek satu hal sederhana: apakah bisnis Anda sudah tahu batas kerja AI di dalam operasi sehari-hari?
Kalau jawabannya belum jelas, mulai dari sana.
Dapatkan Audit Teknis Gratis untuk meninjau alur AI, automation, data, dan integrasi tool sebelum bisnis Anda membangun sistem yang lebih dalam.
Sumber referensi berita: TechCrunch