AI Tidak Kekurangan Ambisi, AI Kekurangan Mandat yang Jelas

Banyak percakapan tentang AI masih berputar di sekitar kemampuan teknis. Model makin pintar, agent makin mandiri, automation makin cepat, dan perusahaan teknologi makin percaya diri menawarkan sistem yang bisa membantu mengambil keputusan.

Sebagian dari itu memang berguna. AI bisa membantu bisnis merapikan data, mempercepat layanan pelanggan, membuat analisis awal, dan mengurangi pekerjaan manual yang berulang.

Tetapi ada masalah yang lebih dasar: siapa yang memberi mandat pada sistem itu untuk mengambil alih keputusan penting?

Dalam wawancara dengan TechCrunch, sejarawan Jill Lepore membahas gagasan yang ia sebut sebagai artificial state. Intinya, perusahaan teknologi semakin sering mengambil fungsi yang dulu menjadi wilayah negara demokratis: mengatur ruang publik, membuat aturan perilaku, memoderasi konflik, memengaruhi informasi, bahkan membayangkan bentuk pemerintahan berbasis mesin.

Lepore tidak menolak teknologi. Kritiknya lebih spesifik: ketika perusahaan privat mulai menjalankan fungsi publik tanpa persetujuan publik, tanpa akuntabilitas yang jelas, dan tanpa proses demokratis yang sehat.

Itu bukan masalah kecil. Karena ketika keputusan publik dipindahkan ke algoritma, dashboard, platform, atau model AI, pertanyaan teknis berubah menjadi pertanyaan politik.

The Core Update

Jill Lepore, sejarawan Harvard dan penulis The New Yorker, sedang menyiapkan buku berjudul The Rise and Fall of the Artificial State. Dalam buku itu, ia menelusuri ide lama bahwa manusia bisa hidup di bawah pemerintahan buatan, atau government by machines.

Menurut Lepore, masalahnya bukan teknologi itu sendiri. Masalahnya adalah cara perusahaan teknologi mengambil fungsi negara secara bertahap.

Platform media sosial menjadi ruang debat publik, tetapi tidak dipilih oleh warga. Perusahaan AI membuat konstitusi internal untuk modelnya, tetapi bukan lewat proses politik. Pendiri teknologi bicara tentang AI president, digital town hall, atau masa depan setelah nation-state, tetapi tidak selalu menjelaskan siapa yang punya hak menolak.

Di permukaan, semua itu sering dibungkus sebagai efisiensi.

Lebih cepat dari birokrasi. Lebih murah dari institusi publik. Lebih skalabel dari proses demokratis. Lebih objektif karena memakai data.

Namun efisiensi tidak otomatis berarti legitimasi.

Sebuah sistem bisa cepat tetapi tidak adil. Dashboard bisa rapi tetapi tidak mewakili warga. Algoritma bisa konsisten tetapi tetap salah arah. Platform bisa besar tetapi bukan berarti ia layak disebut ruang publik.

Lepore memberi contoh Twitter. Pada awalnya, Twitter bukan proyek besar untuk menyelamatkan demokrasi. Ia lebih seperti produk sosial yang ringan dan menyenangkan. Namun ketika politisi, media, dan publik mulai memakainya untuk membaca opini masyarakat, Twitter perlahan diperlakukan seperti town hall digital.

Padahal tidak semua warga ada di sana. Tidak semua pengguna aktif bicara politik. Dan percakapan politik di platform itu sering didominasi kelompok paling aktif, paling keras, dan paling partisan.

Masalahnya bukan hanya Twitter. Masalahnya adalah kebiasaan membaca sinyal digital sebagai representasi publik.

Ketika angka engagement dianggap suara rakyat, demokrasi menjadi terlalu mudah disederhanakan.

The Reality Check

Silicon Valley sering memakai narasi besar untuk menjelaskan produknya. Produk baru tidak hanya disebut tool, tetapi disebut masa depan. Platform tidak hanya membantu komunikasi, tetapi disebut memperbaiki demokrasi. AI tidak hanya membantu pekerjaan, tetapi disebut menyelamatkan peradaban.

Narasi seperti ini terdengar menarik. Tetapi ia juga berbahaya jika membuat bisnis, pemerintah, dan publik lupa membedakan alat dengan mandat.

AI bisa membantu membuat keputusan. Tetapi AI tidak otomatis berhak menentukan keputusan.

Platform bisa membantu warga bicara. Tetapi platform tidak otomatis menjadi institusi demokratis.

Perusahaan bisa membuat aturan internal. Tetapi aturan internal bukan pengganti hukum publik.

Ini perbedaan yang sering kabur.

Dalam dunia bisnis, pola yang sama juga sering muncul dalam skala lebih kecil. Banyak perusahaan memasang automation, scoring, chatbot, dan dashboard untuk mempercepat proses. Itu wajar. Tetapi jika aturan dasarnya belum jelas, automation hanya memindahkan keputusan kabur ke sistem yang terlihat lebih meyakinkan.

Lead score terlihat objektif, padahal kriterianya belum diuji. Chatbot terlihat responsif, padahal tidak tahu kapan harus eskalasi ke manusia. Dashboard terlihat lengkap, padahal metriknya tidak menjawab keputusan penting. AI assistant terlihat pintar, padahal sumber datanya berantakan.

Di level publik, risikonya lebih besar.

Jika perusahaan teknologi membangun data center besar, pertanyaannya bukan hanya soal kapasitas komputasi. Warga berhak tahu dampak energi, air, pekerjaan, lingkungan, dan manfaat lokalnya. Jika platform mengatur distribusi informasi, pertanyaannya bukan hanya soal algoritma ranking. Publik berhak tahu bagaimana aturan dibuat, siapa yang diuntungkan, dan bagaimana keputusan bisa digugat.

Lepore juga mengkritik cara sebagian pemimpin teknologi membaca science fiction. Banyak karya fiksi ilmiah sebenarnya adalah peringatan, bukan manual produk. Cerita tentang mesin yang mengambil alih kehidupan manusia sering ditulis untuk menunjukkan risiko ketergantungan, bukan untuk dijadikan roadmap.

Masalah muncul ketika warning story dibaca seperti pitch deck.

Di titik ini, kritik Lepore penting karena ia mengembalikan pertanyaan yang sering hilang: apakah perubahan teknologi ini benar-benar membuat hidup publik lebih baik, atau hanya membuat kekuasaan baru terlihat lebih modern?

Progress tidak cukup diukur dari kecanggihan. Progress harus diukur dari hasilnya bagi manusia.

Apakah warga lebih punya suara?

Apakah keputusan lebih bisa diawasi?

Apakah risiko lebih transparan?

Apakah pihak yang terdampak bisa menolak?

Apakah sistem punya jalur koreksi saat salah?

Kalau jawabannya belum jelas, teknologi itu belum tentu progress. Bisa jadi hanya percepatan tanpa arah.

The Havedev Way

Dari sudut pandang Havedev, pelajaran praktisnya sederhana: jangan memperlakukan AI dan automation sebagai pengganti struktur keputusan.

Untuk bisnis, AI sebaiknya mulai dari pekerjaan yang jelas batasnya. Membalas pertanyaan awal. Mengelompokkan inquiry. Merangkum tiket support. Membantu sales menyiapkan follow-up. Menarik insight dari data operasional. Membuat draft, bukan memutuskan hal yang berdampak besar tanpa pengawasan.

Sebelum memakai AI lebih jauh, bisnis perlu menjawab beberapa pertanyaan dasar:

• keputusan apa yang boleh dibantu AI?
• keputusan apa yang tetap harus dipegang manusia?
• data apa yang dipakai sebagai dasar?
• siapa yang bertanggung jawab jika hasilnya salah?
• kapan AI harus berhenti dan eskalasi?
• bagaimana hasil AI diaudit?
• apakah pelanggan tahu saat berinteraksi dengan sistem otomatis?

Pertanyaan ini tidak membuat bisnis anti-teknologi. Justru sebaliknya. Ini membuat teknologi lebih sehat untuk dipakai jangka panjang.

AI yang baik tidak harus menggantikan semua proses. Sering kali, AI paling berguna ketika memperjelas pekerjaan yang sebelumnya tersembunyi: lead yang belum ditindaklanjuti, support yang berulang, dokumen yang belum lengkap, atau proses manual yang membuang waktu tim.

Namun begitu AI mulai menyentuh keputusan yang memengaruhi pelanggan, karyawan, harga, prioritas layanan, atau akses terhadap sesuatu, governance tidak bisa diabaikan.

Governance bukan berarti birokrasi berat. Untuk banyak bisnis, governance awal bisa sangat sederhana:

• tulis batas penggunaan AI
• simpan log keputusan penting
• minta manusia meninjau hasil berisiko tinggi
• beri jalur komplain atau koreksi
• cek bias dari data yang dipakai
• ukur dampak, bukan hanya kecepatan

Inilah perbedaan antara memakai AI sebagai tool dan menyerahkan proses bisnis kepada kotak hitam.

Bisnis tidak harus menunggu regulasi sempurna untuk mulai disiplin. Justru bisnis yang lebih awal merapikan aturan internal akan lebih siap saat pelanggan, partner, atau regulator mulai bertanya.

Website, CRM, chatbot, dashboard, dan automation sebaiknya tidak hanya dibuat untuk terlihat modern. Semua itu harus membantu keputusan menjadi lebih jelas, lebih bisa diawasi, dan lebih mudah diperbaiki saat salah.

Jika tidak, bisnis hanya membangun versi kecil dari masalah yang dikritik Lepore: sistem teknis yang mengambil alih fungsi penting tanpa mandat yang jelas.

Penutupnya bukan bahwa AI harus ditolak. Penutupnya adalah AI perlu ditempatkan dengan benar.

AI adalah alat yang kuat. Tetapi alat yang kuat tetap butuh batas, pemilik keputusan, dan mekanisme koreksi.

Sebelum menambah automation baru, cek dulu satu hal sederhana: apakah tim Anda sudah tahu keputusan mana yang boleh diotomatisasi, keputusan mana yang harus ditinjau manusia, dan siapa yang bertanggung jawab saat sistem salah?

Kalau jawabannya belum jelas, mulai dari sana.

Dapatkan Audit Teknis Gratis untuk meninjau penggunaan website, AI, automation, dan alur digital bisnis Anda sebelum sistem yang terlihat pintar mulai mengambil keputusan yang belum siap diawasi.

---

Sumber referensi berita: TechCrunch