Havedev
AI Tidak Hanya Soal Bisa Apa, Tetapi Siapa yang Mengendalikan
The Core Update
Di TechBBQ Copenhagen, percakapan tentang AI tidak berhenti pada pertanyaan biasa: model mana yang lebih pintar, agent mana yang lebih produktif, atau startup mana yang paling cepat tumbuh.
Pertanyaannya bergeser ke hal yang lebih mendasar: siapa yang sebenarnya memegang kendali?
Investor, founder, dan operator dari berbagai bagian Eropa membicarakan isu yang sama dari banyak sudut. AI memang sedang membuka peluang baru. Tetapi semakin banyak pekerjaan, keputusan, data, dan infrastruktur bisnis bergantung pada AI, semakin penting juga pertanyaan tentang kontrol.
Konteksnya menjadi lebih nyata setelah model Anthropic, Mythos dan Fable, sempat tidak tersedia untuk pengguna di luar Eropa. Bagi sebagian tim, gangguan seperti ini terasa besar. Bagi yang lain, mungkin masih dianggap risiko jauh. Namun kejadian itu cukup untuk mengingatkan ekosistem teknologi Eropa bahwa kemampuan AI yang dipakai setiap hari belum tentu benar-benar berada dalam kendali mereka.
Selama ini, banyak bisnis dan startup memakai AI seperti memakai layanan digital lain: daftar, integrasi, bayar, lalu pakai. Selama sistem berjalan, risiko kepemilikan model, lokasi data, kebijakan akses, dan ketergantungan vendor sering tidak terasa mendesak.
Tetapi ketika AI mulai masuk ke operating system, workflow internal, customer support, product development, analisis data, dan keputusan bisnis, pertanyaannya berubah. AI bukan lagi sekadar tool tambahan. AI mulai menjadi lapisan kerja.
Di titik itu, kontrol menjadi isu operasional, bukan hanya isu politik.
The Reality Check
Banyak bisnis mungkin merasa pembahasan tentang kedaulatan AI terlalu jauh. Seolah-olah itu hanya urusan negara, regulator, big tech, atau perusahaan infrastruktur.
Namun kenyataannya lebih dekat dari itu.
Setiap kali bisnis memasukkan data pelanggan ke tool AI, mengandalkan AI untuk merangkum komunikasi internal, memakai agent untuk mengambil tindakan otomatis, atau membangun proses penting di atas API pihak ketiga, bisnis sedang membuat keputusan tentang kontrol.
Masalahnya, keputusan itu sering tidak terlihat sebagai keputusan besar. Ia muncul sebagai fitur kecil.
AI assistant untuk email terlihat praktis. AI agent untuk follow-up terlihat efisien. AI yang terhubung ke dokumen internal terlihat membantu. Integrasi AI ke chat, CRM, atau dashboard terlihat seperti peningkatan produktivitas yang masuk akal.
Kadang memang begitu.
Tetapi pertanyaan yang jarang ditanyakan adalah: data apa yang lewat, siapa yang bisa mengakses, apa yang terjadi kalau layanan berubah, dan bagian mana dari proses bisnis yang sekarang bergantung pada pihak luar?
Di TechBBQ, Meredith Whittaker dari Signal mengingatkan bahwa era AI juga bisa menjadi mesin pengumpulan data yang jauh lebih besar. AI assistant dan agent tidak hanya membutuhkan instruksi. Mereka sering membutuhkan konteks. Konteks berarti email, chat, dokumen, kalender, histori pelanggan, catatan meeting, dan pola kerja.
Semakin personal dan berguna sebuah AI, biasanya semakin banyak data yang perlu ia lihat.
Ini bukan berarti bisnis harus menolak AI. Itu terlalu sederhana.
Tetapi bisnis perlu lebih jujur tentang trade-off-nya. Produktivitas yang naik bisa datang bersama ketergantungan yang naik. Otomasi yang lebih cepat bisa datang bersama risiko kontrol yang lebih kabur. Agent yang terlihat membantu bisa menjadi titik baru tempat data, keputusan, dan akses berkumpul.
Bagi bisnis, pertanyaan praktisnya bukan “apakah AI berbahaya?”
Pertanyaan yang lebih berguna adalah:
- proses mana yang aman dibantu AI?
- data mana yang tidak boleh keluar sembarangan?
- keputusan mana yang tetap harus dipegang manusia?
- vendor mana yang terlalu kritikal untuk tidak punya rencana cadangan?
- apa yang terjadi kalau akses AI berubah besok?
- apakah tim masih bisa bekerja tanpa agent tertentu?
Di sinilah percakapan tentang control menjadi relevan untuk bisnis biasa.
AI sovereignty tidak selalu berarti membangun model sendiri. Untuk kebanyakan bisnis, itu tidak realistis dan tidak perlu. Tetapi sovereignty bisa berarti tahu bagian mana dari bisnis yang sedang diserahkan ke tool luar, batas apa yang perlu dibuat, dan proses mana yang harus tetap bisa berjalan tanpa satu vendor tertentu.
Masalahnya mirip dengan banyak adopsi teknologi sebelumnya. Bisnis sering mulai dari fitur, bukan dari alur kerja. Mulai dari demo, bukan dari risiko. Mulai dari rasa ingin cepat, bukan dari keputusan yang ingin dikendalikan.
Akibatnya, AI bisa masuk ke banyak titik tanpa peta yang jelas.
Satu tim memakai AI untuk membalas pelanggan. Tim lain memakai AI untuk merangkum kontrak. Founder memakai AI untuk membaca data penjualan. Marketing memakai AI untuk membuat konten. Developer memakai AI untuk menulis kode. Semua terlihat produktif, tetapi tidak selalu ada standar bersama tentang data, approval, kualitas, dan akuntabilitas.
Ketika skala masih kecil, ini terasa fleksibel. Ketika bisnis tumbuh, ini bisa menjadi sumber risiko.
Bukan karena AI pasti salah. Tetapi karena tidak jelas siapa yang bertanggung jawab ketika AI salah, data bocor, keputusan bias, atau workflow berhenti karena layanan berubah.
The Havedev Way
Dari sudut pandang Havedev, pelajaran dari TechBBQ cukup jelas: bisnis tidak perlu panik terhadap AI, tetapi juga tidak sebaiknya terlalu santai.
AI sebaiknya diperlakukan seperti infrastruktur kerja, bukan mainan produktivitas semata.
Sebelum menambahkan AI assistant, agent, automation, atau integrasi baru, bisnis perlu melihat alur kerjanya terlebih dahulu. Bukan mulai dari “AI apa yang bisa dipakai?”, tetapi dari “bagian mana dari pekerjaan yang memang perlu dibantu, dan bagian mana yang tidak boleh kehilangan kontrol?”
Untuk banyak bisnis, langkah awal yang sehat bisa sederhana:
- petakan proses yang sudah memakai AI
- bedakan data publik, internal, sensitif, dan rahasia
- tentukan keputusan yang boleh dibantu AI tetapi tidak boleh diputuskan AI
- cek vendor dan layanan yang sudah menjadi titik ketergantungan
- siapkan fallback manual untuk proses yang dekat dengan pendapatan atau pelanggan
- buat aturan tim tentang penggunaan AI di dokumen, chat, CRM, dan kode
Ini bukan birokrasi. Ini cara agar AI tetap membantu tanpa membuat bisnis kehilangan arah.
Contohnya, AI untuk membuat draft balasan pelanggan bisa berguna. Tetapi status komplain, refund, harga khusus, atau janji delivery tetap perlu aturan manusia. AI untuk menganalisis lead bisa membantu. Tetapi keputusan follow-up dan prioritas sales tetap perlu definisi yang jelas. AI untuk coding bisa mempercepat developer. Tetapi review, security, dan pemahaman sistem tetap tidak boleh hilang.
Yang perlu dihindari adalah otomatisasi proses yang belum jelas pemiliknya.
Jika alur follow-up masih kabur, AI agent hanya akan mempercepat kekaburan. Jika data pelanggan belum tertata, AI hanya akan membaca kekacauan dengan gaya bahasa yang lebih rapi. Jika keputusan bisnis belum punya batas, AI bisa memberi rekomendasi yang terlihat meyakinkan tetapi sulit dipertanggungjawabkan.
AI yang baik tidak menggantikan struktur kerja. AI membutuhkan struktur kerja.
Karena itu, pendekatan yang lebih sehat bukan menolak AI atau memakai AI di semua tempat. Pendekatan yang lebih sehat adalah memilih titik masuk yang jelas.
Mulai dari proses yang punya nilai nyata, risiko terukur, dan data yang bisa dibatasi. Misalnya:
- merapikan inquiry dari website
- membuat ringkasan lead sebelum follow-up
- membantu customer support menyusun draft jawaban
- mengelompokkan tiket berdasarkan kategori
- membuat laporan operasional dari data yang sudah disetujui
- membantu tim internal mencari informasi di knowledge base yang aman
Setelah itu, ukur hasilnya. Apakah waktu respons turun? Apakah kualitas follow-up naik? Apakah tim lebih mudah mengambil keputusan? Apakah ada data sensitif yang tidak perlu ikut masuk? Apakah proses tetap bisa berjalan kalau tool AI sedang bermasalah?
Pertanyaan seperti ini lebih berguna daripada sekadar bertanya model mana yang paling canggih.
TechBBQ menunjukkan bahwa percakapan AI mulai matang. Bukan hanya tentang mesin yang semakin pintar, tetapi tentang manusia dan bisnis yang perlu memutuskan apa yang pantas diberikan kepada mesin.
Bagi bisnis, kontrol bukan berarti semua hal harus dibangun sendiri. Kontrol berarti tahu apa yang sedang dipakai, apa yang sedang diserahkan, apa yang harus dibatasi, dan apa yang tetap harus bisa dijalankan tanpa AI.
AI akan terus masuk ke website, CRM, dashboard, support, sales, operation, dan software internal. Pertanyaannya bukan lagi apakah bisnis akan memakai AI. Pertanyaannya adalah apakah bisnis memakai AI dengan struktur yang cukup jelas untuk tetap memegang kendali.
Kalau belum, jangan mulai dari agent paling canggih.
Mulai dari audit kecil: data apa yang masuk ke AI, keputusan apa yang dipengaruhi AI, dan proses mana yang akan macet kalau AI itu hilang besok.
Dapatkan Audit Teknis Gratis untuk meninjau penggunaan AI, automation, dan alur digital bisnis Anda sebelum ketergantungan yang kecil berubah menjadi risiko operasional yang besar.
Sumber referensi berita: TechCrunch