Model AI Makin Kuat, Tetapi Pertanyaan Governance Makin Sulit Diabaikan

Amazon CEO Andy Jassy dilaporkan sempat menyampaikan kekhawatiran keamanan kepada pejabat pemerintah Amerika Serikat terkait kemampuan model Anthropic. Menurut laporan The Wall Street Journal, kekhawatiran itu berkaitan dengan penggunaan Claude Fable 5 untuk mendapatkan informasi yang dapat dipakai dalam serangan siber.

Tidak lama setelah itu, pemerintah disebut memberlakukan pembatasan ekspor terhadap model Fable 5 dan Mythos 5. Anthropic kemudian memutus akses global ke dua model tersebut.

Amazon menyatakan bahwa bukan hal yang aneh jika pemerintah meminta pandangan mereka soal potensi risiko keamanan. Namun Amazon juga mengatakan tidak membagikan detail diskusi tersebut. Di sisi lain, AWS mengakui terdampak oleh pemutusan akses model.

Situasinya menjadi lebih menarik karena Amazon adalah investor besar Anthropic. Jadi ini bukan cerita sederhana tentang kompetitor yang saling menyerang. Ini adalah contoh bagaimana hubungan antara cloud provider, AI lab, pemerintah, pelanggan enterprise, dan isu keamanan mulai menjadi semakin rumit.

The Core Update

Inti beritanya bukan hanya bahwa dua model AI dibatasi.

Inti yang lebih penting adalah ini: kemampuan model AI sudah masuk ke wilayah yang membuat pemerintah, penyedia cloud, dan perusahaan besar harus ikut mengambil posisi.

Dalam laporan tersebut, Amazon disebut menemukan bahwa model Anthropic dapat membantu menghasilkan informasi yang relevan untuk aktivitas siber berisiko. David Sacks, yang sebelumnya menjadi AI czar pemerintahan Trump dan kini ikut memimpin President’s Council of Advisors on Science and Technology, menyebut ada pihak tepercaya yang menemukan jailbreak.

Menurut versinya, pemerintah meminta Anthropic memperbaiki jailbreak atau menurunkan model dari deployment. Ia mengklaim Anthropic menolak.

Anthropic membalas melalui blog post bahwa kemampuan yang menjadi perhatian pemerintah sebenarnya sudah tersedia di model publik lain.

Argumen Anthropic ini penting, tetapi tidak otomatis menyelesaikan masalah. Jika kemampuan berisiko sudah tersedia di banyak model, berarti persoalannya bukan hanya satu model tertentu. Persoalannya adalah ekosistem AI secara keseluruhan sedang bergerak lebih cepat daripada mekanisme kontrol, audit, dan tata kelolanya.

Di sinilah banyak diskusi AI sering terlalu sempit. Kita terlalu sering bertanya model mana yang paling pintar. Lebih jarang bertanya: model mana yang paling bisa dipercaya untuk dipakai dalam konteks bisnis, pemerintahan, dan infrastruktur penting?

The Reality Check

Ada kecenderungan untuk melihat kasus seperti ini dari dua kubu ekstrem.

Kubu pertama berkata: model kuat harus dibuka seluas mungkin karena inovasi tidak boleh ditahan.

Kubu kedua berkata: model kuat harus dikunci karena risikonya terlalu besar.

Keduanya punya alasan. Tetapi untuk bisnis, pertanyaan praktisnya lebih sederhana: kalau sebuah model berubah aksesnya besok pagi, proses apa yang ikut berhenti?

Banyak perusahaan mulai memakai AI untuk customer support, analisis dokumen, coding assistance, knowledge base internal, riset pasar, sales enablement, sampai automation operasional. Di permukaan, ini terlihat seperti peningkatan produktivitas.

Namun di baliknya ada ketergantungan baru.

Jika satu model tiba-tiba dibatasi, apakah workflow tetap berjalan? Jika provider mengubah policy, apakah sistem masih aman? Jika regulator meminta akses dihentikan, apakah bisnis punya fallback? Jika model menghasilkan jawaban yang terlihat meyakinkan tetapi berisiko, siapa yang bertanggung jawab membaca risiko itu?

AI bukan lagi sekadar fitur tambahan. Dalam banyak sistem, AI mulai menjadi bagian dari alur kerja.

Dan ketika AI masuk ke alur kerja, bisnis tidak cukup hanya menilai kualitas output. Bisnis perlu menilai ketahanan proses.

Beberapa pertanyaan yang seharusnya mulai ditanyakan:

• model apa yang dipakai untuk proses penting?
• data apa yang dikirim ke model tersebut?
• keputusan apa yang boleh dipengaruhi oleh AI?
• apakah ada human review untuk output berisiko?
• apakah ada alternatif jika model utama tidak tersedia?
• bagaimana mencatat penggunaan AI untuk audit internal?

Tanpa pertanyaan seperti ini, AI adoption mudah berubah menjadi AI dependency yang tidak terlihat.

Kasus Anthropic juga menunjukkan bahwa keamanan AI tidak selalu berada di sisi pengguna akhir. Kadang risikonya muncul di level model. Kadang di level prompt. Kadang di level integrasi. Kadang di level kebijakan negara.

Bagi bisnis, ini berarti strategi AI tidak bisa hanya diserahkan ke tim yang paling cepat mencoba tool baru. Perlu ada bahasa kerja yang jelas antara owner, tim teknis, operasional, legal, dan keamanan.

Bukan untuk membuat semua hal lambat. Tetapi agar bisnis tahu bagian mana yang boleh cepat, dan bagian mana yang harus dikendalikan.

The Havedev Way

Dari sudut pandang Havedev, pelajaran utama dari kasus ini bukan bahwa bisnis harus takut memakai AI.

Justru sebaliknya: bisnis perlu memakai AI dengan lebih sadar.

AI yang sehat bukan hanya AI yang bisa menjawab cepat. AI yang sehat adalah AI yang masuk ke proses bisnis dengan batas yang jelas, data yang tepat, fallback yang masuk akal, dan pemilik keputusan yang tidak kabur.

Untuk banyak bisnis, langkah awalnya tidak perlu rumit. Mulai dari memetakan penggunaan AI yang sudah terjadi hari ini.

Biasanya AI sudah dipakai secara informal untuk:

• membuat draft konten
• merangkum meeting
• membalas email
• membantu coding
• membaca dokumen
• membuat proposal
• menjawab pertanyaan pelanggan
• menyusun laporan internal

Masalahnya, penggunaan informal ini sering tidak tercatat. Owner merasa bisnis belum terlalu memakai AI, padahal tim sudah memakainya setiap hari.

Di titik ini, audit ringan jauh lebih berguna daripada policy panjang yang tidak dibaca.

Tanyakan dulu:

• pekerjaan apa yang sudah dibantu AI?
• tool atau model apa yang dipakai?
• data sensitif apa yang mungkin masuk ke sana?
• output AI dipakai sebagai referensi atau keputusan final?
• siapa yang mengecek hasilnya?
• apa yang terjadi jika tool itu tidak bisa diakses?

Jawaban dari pertanyaan ini membantu bisnis membedakan tiga jenis penggunaan AI.

Pertama, penggunaan rendah risiko. Misalnya brainstorming ide konten, membuat variasi headline, atau merapikan draft internal yang tidak berisi data sensitif.

Kedua, penggunaan menengah risiko. Misalnya merangkum dokumen operasional, membantu membuat proposal client, atau menganalisis data internal yang perlu dijaga konteksnya.

Ketiga, penggunaan tinggi risiko. Misalnya keputusan legal, finansial, keamanan, data pelanggan sensitif, akses sistem, atau automation yang langsung memengaruhi pelanggan.

Setelah peta ini jelas, bisnis bisa menentukan aturan yang lebih masuk akal. Tidak semua AI perlu dilarang. Tidak semua AI boleh bebas. Yang dibutuhkan adalah batas yang sesuai dengan risiko.

Untuk implementasi teknis, pendekatannya juga sebaiknya bertahap.

Jika AI dipakai di website, pastikan data yang dikumpulkan jelas dan tidak berlebihan. Jika AI dipakai untuk lead handling, pastikan status dan handover ke tim manusia tetap terbaca. Jika AI dipakai untuk internal knowledge base, pastikan dokumen yang diindeks memang boleh diakses oleh pengguna tersebut. Jika AI dipakai dalam automation, pastikan ada log dan mekanisme override.

AI seharusnya memperjelas proses, bukan membuat proses makin sulit diaudit.

Kasus Amazon, Anthropic, dan pemerintah Amerika Serikat adalah sinyal bahwa era AI tanpa governance mulai berakhir. Model akan makin kuat. Regulator akan makin aktif. Provider akan makin berhati-hati. Pelanggan enterprise akan makin banyak bertanya soal keamanan, data, dan kontinuitas.

Bisnis yang ingin memakai AI secara serius perlu mulai dari fondasi yang sederhana: tahu AI dipakai di mana, tahu risikonya apa, tahu siapa yang mengecek, dan tahu apa rencana cadangannya.

Karena pada akhirnya, masalah terbesar bukan hanya apakah model AI bisa menjawab pertanyaan sulit.

Masalah yang lebih penting adalah apakah bisnis tahu apa yang harus dilakukan ketika jawaban, akses, atau aturan mainnya tiba-tiba berubah.

Dapatkan Audit Teknis Gratis untuk meninjau penggunaan AI, automation, website, dan alur data bisnis Anda sebelum ketergantungan baru terbentuk tanpa kontrol yang jelas.

---

Sumber referensi berita: TechCrunch