Havedev
Percakapan AI Mulai Bergeser: Bukan Lagi Apa yang Bisa Dibuat, Tetapi Siapa yang Mengendalikan
Banyak bisnis dan startup masih melihat AI sebagai perlombaan fitur. Chatbot yang lebih pintar, agent yang lebih mandiri, workflow yang lebih otomatis, atau integrasi yang lebih dalam ke aplikasi kerja sehari-hari.
Itu wajar. AI memang membuka banyak peluang operasional.
Tetapi percakapan di TechBBQ Copenhagen menunjukkan arah yang lebih dalam. Pertanyaannya bukan lagi hanya apa yang bisa dibangun dengan AI. Pertanyaannya mulai menjadi: siapa yang sebenarnya memegang kendali?
Di Eropa, isu ini terasa makin nyata setelah model AI Anthropic, Mythos dan Fable, sempat tidak tersedia untuk pengguna di luar Eropa. Bagi sebagian tim, gangguan seperti ini hanya terlihat seperti masalah teknis sementara. Bagi sebagian lain, ini menjadi pengingat bahwa kemampuan AI yang dipakai setiap hari bisa bergantung pada keputusan pihak lain, infrastruktur pihak lain, dan kepentingan geopolitik pihak lain.
Di permukaan, AI terlihat seperti software. Di baliknya, AI adalah akses ke model, data, komputasi, kebijakan, dan kontrol.
The Core Update
TechBBQ tahun ini membawa tema agency. Tetapi percakapan yang muncul tidak berhenti pada kemampuan AI agent melakukan pekerjaan. Banyak investor, founder, operator, dan pembicara justru kembali ke pertanyaan yang lebih mendasar: manusia dan organisasi masih memegang kendali sejauh mana?
Ellen de Brever dari Novo Nordisk Foundation Cellerator menyebut pergeseran ini dengan jelas. Diskusi bukan hanya tentang mesin yang lebih pintar, tetapi tentang penilaian manusia dan siapa yang tetap berada di kursi pengemudi.
Kalimat itu penting karena AI agent sering dipasarkan sebagai solusi untuk mengurangi pekerjaan manual. Agent bisa membaca email, membuat ringkasan, menjalankan tugas, mengatur jadwal, merespons pelanggan, atau membantu proses internal.
Namun semakin banyak keputusan yang diberikan kepada sistem, semakin penting juga pertanyaan tentang batasnya.
Siapa yang boleh memberi instruksi? Data apa yang boleh dibaca? Keputusan apa yang boleh diambil otomatis? Kapan manusia harus masuk? Apa yang terjadi kalau provider berubah aturan, harga, akses, atau lokasi layanan?
Ini bukan kekhawatiran teoretis. Untuk bisnis, AI yang terlalu menempel pada satu provider bisa menjadi risiko operasional. Untuk negara atau kawasan, ketergantungan AI pada infrastruktur luar bisa menjadi risiko strategis.
Karena itu, percakapan tentang AI sovereignty menjadi semakin kuat. Eropa tidak hanya ingin menjadi pengguna AI. Eropa mulai bertanya apakah ia memiliki model, infrastruktur, standar, dan kapasitas sendiri untuk tidak selalu menyewa kekuatan dari Amerika Serikat atau China.
The Reality Check
Ada sisi yang perlu dilihat dengan tenang. Tidak semua bisnis perlu langsung membangun model sendiri. Tidak semua startup perlu punya GPU cluster sendiri. Tidak semua aplikasi perlu berjalan di infrastruktur lokal.
Untuk banyak perusahaan, memakai model dari provider besar masih masuk akal. Cepat, praktis, kualitasnya tinggi, dan biaya awalnya lebih rendah dibanding membangun sendiri.
Masalahnya bukan memakai pihak ketiga. Masalahnya adalah tidak sadar bagian mana dari bisnis yang ikut diserahkan.
Ketika AI assistant masuk ke operating system, email, chat, dokumen, kalender, dan aplikasi kerja, ia tidak hanya membantu. Ia juga berpotensi menjadi lapisan baru yang membaca konteks kerja paling sensitif.
Meredith Whittaker dari Signal mengingatkan bahwa era AI bisa membentuk alat pengumpulan data yang sangat besar. Marketing AI sering membuat orang fokus pada kenyamanan, lalu lupa pada konsekuensi dari data yang dikumpulkan.
Untuk bisnis, ini perlu diterjemahkan ke pertanyaan yang lebih praktis.
Apakah data pelanggan boleh masuk ke model pihak ketiga? Apakah percakapan internal boleh diproses oleh AI assistant? Apakah dokumen kontrak boleh diringkas oleh layanan eksternal? Apakah log support boleh dipakai untuk fine-tuning? Apakah tim tahu data mana yang aman dan mana yang tidak?
Tanpa jawaban yang jelas, AI bisa berubah dari alat produktivitas menjadi area abu-abu operasional.
Di sisi lain, menolak semua AI juga bukan strategi yang sehat. Kompetitor akan tetap memakai automation. Pelanggan akan tetap mengharapkan respons lebih cepat. Tim internal akan tetap mencari cara kerja yang lebih ringan.
Jadi pilihan yang lebih masuk akal bukan antara memakai AI atau tidak memakai AI. Pilihannya adalah memakai AI dengan batas kontrol yang jelas.
The Havedev Way
Dari sudut pandang Havedev, bisnis tidak perlu memulai diskusi AI dari istilah besar seperti sovereignty, agentic workforce, atau model ownership. Mulai dari pertanyaan yang lebih dekat dengan operasi harian.
Pekerjaan mana yang ingin dibantu AI?
Data apa yang dibutuhkan untuk membantu pekerjaan itu?
Keputusan apa yang boleh dibuat otomatis?
Keputusan apa yang tetap harus melewati manusia?
Jika pertanyaan dasar ini belum jelas, integrasi AI mudah terlihat canggih tetapi sulit diaudit.
Contohnya, AI untuk membalas lead. Secara teknis, ini bisa dibuat cepat. Tetapi bisnis tetap perlu menentukan batasnya. AI boleh menyarankan balasan, tetapi apakah boleh mengirim langsung? AI boleh membaca pesan calon pelanggan, tetapi apakah boleh membaca semua riwayat chat? AI boleh menilai urgensi, tetapi siapa yang memeriksa kalau salah klasifikasi?
Contoh lain, AI untuk support pelanggan. Sistem bisa membantu merangkum tiket, mencari jawaban dari knowledge base, dan menyarankan prioritas. Namun status tiket, pemilik tindak lanjut, dan eskalasi tetap harus jelas. Kalau alur support masih kabur, AI hanya mempercepat kebingungan.
Karena itu, pendekatan yang lebih sehat biasanya bertahap:
- mulai dari use case yang sempit
- batasi data yang dikirim
- catat keputusan yang dibuat AI
- tetap sediakan review manusia untuk keputusan penting
- pilih provider dengan kebijakan data yang bisa dibaca
- siapkan rencana keluar jika layanan berubah
Ini bukan anti-AI. Ini cara memakai AI tanpa menyerahkan terlalu banyak kendali sejak awal.
Bagi bisnis kecil dan menengah, bentuk kontrol tidak harus selalu berarti punya model sendiri. Kontrol bisa berarti data pelanggan tidak bocor ke tempat yang tidak perlu. Kontrol bisa berarti workflow tetap bisa berjalan kalau satu layanan AI bermasalah. Kontrol bisa berarti prompt, aturan, dan hasil AI bisa diaudit. Kontrol bisa berarti tim tahu kapan harus percaya sistem dan kapan harus berhenti.
AI yang baik bukan hanya yang terlihat pintar. AI yang baik juga harus bisa dijelaskan perannya dalam proses kerja.
Percakapan di TechBBQ memberi sinyal penting: fase AI berikutnya tidak hanya tentang siapa yang punya fitur paling cepat. Fase berikutnya adalah siapa yang punya kendali paling sehat atas teknologi yang dipakai.
Untuk bisnis, ini berarti sebelum menambahkan AI agent baru, cek dulu satu hal sederhana: bagian mana dari keputusan, data, dan proses Anda yang sedang dipindahkan ke sistem?
Kalau jawabannya belum jelas, mulai dari sana.
Dapatkan Audit Teknis Gratis untuk meninjau peluang AI, automation, dan risiko kontrol data sebelum bisnis Anda menambahkan sistem baru.
Sumber referensi berita: TechCrunch