AI Bukan Masalah Tool Saja, AI Mulai Mengambil Fungsi Negara

Historian Jill Lepore mengangkat kritik yang cukup tajam terhadap arah Silicon Valley. Dalam bukunya yang akan datang, The Rise and Fall of the Artificial State, ia menyebut bahwa sebagian perusahaan teknologi makin sering mengambil fungsi yang dulu identik dengan negara.

Bukan hanya membuat software. Bukan hanya menyediakan platform. Tetapi ikut membentuk aturan, mengelola ruang publik, menentukan akses informasi, menulis semacam konstitusi internal untuk AI, bahkan membayangkan mesin sebagai bentuk pemerintahan yang lebih efisien.

Menurut Lepore, ini bukan sekadar kemajuan teknologi. Ini adalah pergeseran kekuasaan.

Ia menyebutnya sebagai artificial state: sebuah keadaan ketika perusahaan, algoritma, mesin, dan sistem otomatis mulai menggantikan peran negara demokratis. Masalahnya, masyarakat tidak pernah benar-benar memberi persetujuan untuk itu.

The Core Update

Dalam wawancaranya di podcast Equity TechCrunch, Jill Lepore menjelaskan bahwa ia bukan anti-teknologi. Kritiknya bukan kepada komputer, internet, atau AI sebagai alat.

Kritiknya ada pada cara perusahaan privat makin sering mengambil fungsi publik.

Ini terlihat dalam banyak bentuk. Platform media sosial pernah diposisikan sebagai ruang publik digital. Perusahaan AI menulis prinsip moral untuk modelnya sendiri. CEO teknologi berbicara tentang AI president atau masa depan setelah negara-bangsa. Data center dibangun di banyak wilayah dengan dampak energi, air, lingkungan, dan tata ruang yang tidak selalu dipahami warga sejak awal.

Di permukaan, semua terdengar seperti inovasi. Lebih cepat, lebih murah, lebih efisien.

Tetapi pertanyaan dasarnya tetap sama: siapa yang memutuskan?

Kalau keputusan publik mulai dipindahkan ke sistem milik perusahaan privat, demokrasi menjadi sulit dibaca. Warga tidak lagi berhadapan dengan aturan yang dibuat lewat proses politik terbuka, tetapi dengan terms of service, algoritma rekomendasi, kebijakan moderasi, model AI, dan keputusan infrastruktur yang sering terasa jauh dari pengawasan publik.

Lepore juga menyoroti bagaimana sebagian pemimpin teknologi membaca science fiction secara keliru. Banyak cerita fiksi ilmiah sebenarnya ditulis sebagai peringatan tentang mesin, kekuasaan, dan manusia yang kehilangan kendali. Tetapi dalam budaya teknologi tertentu, cerita-cerita itu sering dibaca seperti blueprint masa depan.

Peringatan berubah menjadi manual.

Di sinilah kritik Lepore menjadi menarik. Masalahnya bukan bahwa Silicon Valley terlalu banyak membaca science fiction. Masalahnya, mereka sering mengambil bagian yang terlihat keren, lalu melewatkan bagian yang menjelaskan risikonya.

The Reality Check

Ada kecenderungan lama di dunia teknologi: menganggap perubahan teknologi sebagai kemajuan dengan sendirinya.

Kalau lebih otomatis, berarti lebih baik. Kalau lebih cepat, berarti lebih modern. Kalau lebih besar skalanya, berarti lebih sukses. Kalau AI bisa mengambil keputusan, berarti manusia bisa dikurangi dari proses.

Pandangan seperti ini nyaman untuk bisnis teknologi, tetapi tidak selalu sehat untuk masyarakat.

Tidak semua hal yang bisa diotomatisasi sebaiknya diotomatisasi. Tidak semua keputusan yang bisa dibuat lebih cepat akan menjadi keputusan yang lebih benar. Tidak semua sistem yang efisien akan adil bagi orang yang terdampak.

Contoh paling sederhana adalah media sosial.

Pada awalnya, Twitter bukan lahir sebagai lembaga demokrasi. Ia adalah produk komunikasi. Ringan, cepat, dan pada masanya terasa menyenangkan. Tetapi ketika politisi, media, aktivis, dan publik mulai memakainya sebagai arena politik, platform itu perlahan diperlakukan seperti town hall digital.

Padahal representasinya tidak pernah setara dengan masyarakat luas. Sebagian kecil pengguna yang sangat aktif bisa menciptakan kesan bahwa mereka mewakili opini publik. Politisi membaca sinyal dari sana. Media mengambil bahan dari sana. Keputusan bisa dipengaruhi oleh percakapan yang sebenarnya tidak mewakili mayoritas warga.

Masalahnya bukan hanya platformnya. Masalahnya adalah ketika bisnis privat mulai diperlakukan seperti infrastruktur demokrasi tanpa desain demokratis.

Hal yang sama bisa terjadi pada AI.

AI bisa membantu banyak pekerjaan. Menulis draft, merangkum dokumen, menjawab pertanyaan pelanggan, membantu analisis data, mempercepat proses internal, dan membuka akses ke kemampuan yang sebelumnya mahal.

Tetapi AI menjadi bermasalah ketika ia dipakai untuk menggantikan proses akuntabilitas.

Misalnya:

• keputusan kredit yang tidak bisa dijelaskan
• seleksi kandidat kerja yang bias tetapi terlihat objektif
• layanan publik yang menolak warga karena skor sistem
• rekomendasi informasi yang membentuk opini tanpa transparansi
• chatbot yang menjadi pintu utama layanan penting tanpa jalur eskalasi manusia
• data center yang menguras listrik dan air tanpa persetujuan warga yang cukup jelas

Di titik itu, AI bukan lagi sekadar tool. AI menjadi lapisan kekuasaan.

Dan lapisan kekuasaan butuh pertanyaan yang lebih berat daripada sekadar “fiturnya bisa jalan atau tidak?”

Pertanyaannya menjadi:

• siapa pemilik keputusan?
• siapa yang bisa menggugat hasilnya?
• data apa yang dipakai?
• dampaknya jatuh ke siapa?
• apakah warga atau pengguna punya pilihan nyata?
• apakah sistem ini memperbaiki layanan atau hanya memindahkan biaya ke pihak yang lebih lemah?

Tanpa pertanyaan seperti ini, teknologi mudah terlihat netral padahal sedang mengubah distribusi kuasa.

The Havedev Way

Dari sudut pandang Havedev, pelajaran praktisnya bukan bahwa bisnis harus takut memakai AI. Justru sebaliknya: bisnis perlu memakai AI dengan lebih sadar.

AI sebaiknya dimulai dari fungsi yang jelas, risiko yang terbatas, dan akuntabilitas yang tetap berada pada manusia.

Untuk bisnis, ini berarti AI lebih sehat dipakai sebagai pendukung proses, bukan pengganti tanggung jawab.

Contohnya, AI boleh membantu merapikan inquiry pelanggan, membuat ringkasan percakapan, memberi draft balasan, membaca pola komplain, atau membantu tim menemukan follow-up yang terlewat. Tetapi status akhir, keputusan penting, dan komunikasi sensitif tetap perlu pemilik yang jelas.

AI juga perlu batas.

Batas bukan musuh inovasi. Batas membuat inovasi bisa dipercaya.

Sebelum bisnis memasang AI ke proses penting, tanyakan dulu:

• keputusan apa yang akan dibantu AI?
• apakah AI hanya memberi rekomendasi atau membuat keputusan final?
• siapa yang bertanggung jawab jika hasilnya salah?
• apakah pengguna tahu bahwa AI terlibat?
• apakah ada jalur manusia untuk komplain atau koreksi?
• data pelanggan apa yang masuk ke sistem?
• apakah output AI dicatat agar bisa diaudit?

Pertanyaan seperti ini sering terlihat kurang glamor dibanding demo AI. Tetapi justru di situ fondasi sistem yang sehat dibuat.

Banyak perusahaan tidak gagal karena kurang canggih. Mereka gagal karena terlalu cepat menyerahkan proses penting ke sistem yang belum punya aturan kerja yang jelas.

Hal yang sama berlaku untuk website, CRM, dashboard, automation, dan AI agent.

Kalau alur kerja belum jelas, AI hanya mempercepat kebingungan. Kalau data berantakan, AI hanya membuat ringkasan yang rapi dari input yang lemah. Kalau tanggung jawab tidak jelas, AI menjadi tempat bersembunyi saat keputusan salah.

Karena itu, pendekatan yang lebih sehat adalah mulai dari proses paling konkret:

• lead masuk dari mana?
• siapa yang merespons?
• informasi apa yang wajib dikumpulkan?
• kapan AI boleh membantu?
• kapan manusia wajib mengambil alih?
• apa yang harus tercatat?
• bagaimana hasilnya dievaluasi?

Setelah itu, baru pilih teknologi.

Bukan mulai dari “kita harus pakai AI”, tetapi dari “bagian mana dari proses yang perlu dibantu tanpa menghilangkan akuntabilitas?”

Kritik Jill Lepore penting karena mengingatkan bahwa teknologi tidak hidup di ruang kosong. Tool yang dipakai bisnis hari ini bisa membentuk cara keputusan dibuat besok. Platform yang terlihat praktis bisa menjadi infrastruktur. Automation yang awalnya kecil bisa menjadi aturan kerja yang sulit digugat.

Bagi bisnis, pelajarannya sederhana: jangan menyerahkan keputusan penting kepada sistem hanya karena sistem itu terlihat pintar.

AI yang baik harus membuat pekerjaan lebih jelas, bukan membuat tanggung jawab lebih kabur.

Kalau AI membantu tim melihat status, mempercepat respons, mengurangi pekerjaan repetitif, dan menjaga kualitas layanan, itu arah yang sehat. Tetapi kalau AI membuat pelanggan sulit mendapat jawaban manusia, membuat keputusan tidak bisa dijelaskan, atau membuat owner tidak tahu lagi bagaimana proses berjalan, berarti bisnis sedang membangun masalah baru dengan teknologi baru.

Teknologi boleh membantu. Tetapi keputusan tetap perlu pemilik.

Sebelum membangun AI agent, automation, atau dashboard baru, cek dulu satu hal sederhana: apakah proses yang akan dibantu sudah cukup jelas untuk diaudit oleh manusia?

Kalau belum, mulai dari sana.

Dapatkan Audit Teknis Gratis untuk meninjau alur website, automation, dan penggunaan AI agar bisnis Anda tidak hanya lebih cepat, tetapi juga lebih jelas dan bisa dipertanggungjawabkan.

---

Sumber referensi berita: TechCrunch