Havedev
AI Tidak Hanya Soal Apa yang Bisa Dibangun, Tetapi Siapa yang Memegang Kendali
Di TechBBQ Copenhagen, percakapan tentang AI tidak berhenti pada pertanyaan yang biasa: model mana yang paling pintar, startup mana yang paling cepat, atau use case mana yang paling menarik.
Percakapan kembali ke pertanyaan yang lebih mendasar: siapa yang sebenarnya memegang kendali?
Bagi banyak founder, investor, dan operator di Eropa, AI tidak lagi hanya dilihat sebagai teknologi baru yang bisa dipakai untuk membuat produk lebih cepat. AI mulai dilihat sebagai lapisan infrastruktur yang menentukan cara bisnis bekerja, cara data berpindah, dan cara keputusan dibuat.
Itu membuat isu sovereignty menjadi lebih penting. Bukan dalam arti slogan politik semata, tetapi dalam arti praktis: jika bisnis terlalu bergantung pada model, cloud, API, dan platform dari pihak luar, seberapa besar kendali yang benar-benar masih dimiliki?
The Core Update
Di acara TechBBQ tahun ini, tema agency terasa sangat relevan. Diskusi AI tidak hanya membahas apa yang bisa dilakukan mesin, tetapi juga apa yang manusia bersedia serahkan kepada mesin.
Konteksnya cukup jelas. Ketika model AI Anthropic Mythos dan Fable sempat tidak tersedia untuk pengguna di luar Eropa, sebagian pelaku startup mulai merasakan bahwa akses ke AI bukan sesuatu yang selalu netral dan permanen.
Bagi satu tim software, kejadian seperti itu bisa mengganggu pekerjaan. Bagi tim lain, mungkin hanya terasa seperti gangguan kecil. Tetapi sinyalnya tetap sama: ketika kemampuan utama bisnis bergantung pada layanan eksternal, risiko kontrol ikut berpindah ke luar bisnis.
Percakapan di TechBBQ akhirnya melebar ke beberapa isu:
- siapa yang memiliki model AI
- siapa yang menguasai infrastruktur komputasi
- siapa yang menyimpan dan membaca data
- siapa yang menentukan batas penggunaan
- siapa yang bisa mematikan akses
- siapa yang paling diuntungkan dari adopsi AI
Signal President Meredith Whittaker juga mengingatkan bahwa AI assistant dan AI agent yang masuk ke sistem operasi membawa risiko baru. Bukan hanya soal fitur yang lebih pintar, tetapi soal alat pengumpulan data yang makin dekat dengan aktivitas pribadi dan operasional pengguna.
Sementara itu, Emad Mostaque menekankan bahwa sovereignty adalah kemampuan untuk menahan kekuasaan yang diberikan pihak lain atas diri kita. Dalam konteks AI, kalimat itu menjadi sangat praktis. Jika pihak yang mengontrol AI juga mengontrol alur kerja, data, dan keputusan, maka AI bukan lagi sekadar software.
Ia menjadi titik kendali.
The Reality Check
Di sisi bisnis, isu ini sering terasa jauh. Banyak owner dan manager masih berada di tahap yang lebih sederhana: memakai AI untuk menulis konten, merangkum dokumen, menjawab chat, membuat laporan, atau membantu tim sales dan support.
Itu wajar. Tidak semua bisnis perlu langsung membangun model sendiri atau membicarakan kedaulatan teknologi seperti negara.
Tetapi ada jebakan yang perlu dilihat lebih awal: AI sering masuk ke bisnis lewat fitur kecil, lalu pelan-pelan menjadi bagian dari proses inti.
Awalnya AI hanya membantu membuat draft email. Setelah itu AI membantu membalas lead. Lalu AI membaca CRM. Lalu AI membuat rekomendasi follow-up. Lalu AI terhubung ke invoice, ticket support, database pelanggan, dan dokumen internal.
Pada titik itu, pertanyaannya bukan lagi “apakah AI ini membantu?”
Pertanyaannya menjadi:
- data apa yang dikirim ke sistem AI?
- keputusan apa yang mulai dipengaruhi AI?
- siapa yang bisa mengecek hasilnya?
- apa yang terjadi kalau layanan berhenti?
- apakah tim masih paham proses manualnya?
- apakah vendor bisa diganti tanpa membuat bisnis lumpuh?
Banyak bisnis belum sampai ke risiko geopolitik seperti Eropa yang bergantung pada Amerika atau China untuk infrastruktur AI. Tetapi versi kecilnya sudah terjadi di level operasional.
Tim memakai tool AI tanpa standar. Data pelanggan ditempel ke chat AI tanpa aturan. Proposal internal diringkas oleh layanan yang belum jelas kebijakan datanya. Automation dibuat cepat, tetapi tidak ada catatan siapa yang menyetujui hasilnya.
Di permukaan, bisnis terlihat lebih produktif. Di baliknya, kontrol mulai kabur.
Masalahnya bukan AI. Masalahnya adalah AI dipakai sebelum bisnis menyepakati batas, status, data, dan tanggung jawab.
The Havedev Way
Dari sudut pandang Havedev, pertanyaan paling sehat sebelum memakai AI bukan “AI apa yang paling canggih?”
Pertanyaan yang lebih berguna adalah: bagian mana dari proses bisnis yang aman untuk dibantu AI, dan bagian mana yang tetap harus dikendalikan manusia?
Bisnis tidak harus anti-AI. Justru sebaliknya, AI bisa sangat berguna jika ditempatkan pada alur yang jelas.
Misalnya:
- AI membantu merangkum inquiry dari website
- AI memberi draft balasan untuk tim sales
- AI mengelompokkan ticket support berdasarkan topik
- AI membuat ringkasan meeting internal
- AI membantu membaca pola pertanyaan pelanggan
- AI menyiapkan laporan awal untuk owner
Tetapi setiap penggunaan itu perlu pagar sederhana.
Pertama, tentukan data yang boleh dan tidak boleh masuk ke AI. Data publik, draft konten, dan pertanyaan umum mungkin aman untuk banyak kasus. Data pelanggan, kontrak, invoice, kredensial, dan informasi internal sensitif perlu aturan yang lebih ketat.
Kedua, pisahkan bantuan dari keputusan. AI boleh memberi saran, tetapi keputusan penting seperti harga khusus, komitmen legal, approval refund, perubahan kontrak, atau prioritas krisis tetap perlu pemilik manusia yang jelas.
Ketiga, pastikan ada fallback. Jika tool AI tidak tersedia, tim tetap harus bisa menjalankan proses dasar. Lead tetap bisa dibalas. Order tetap bisa diproses. Support tetap bisa ditangani. Laporan tetap bisa dibuat meski lebih manual.
Keempat, jangan otomatisasi alur yang belum jelas. Jika status lead, order, support, atau project masih kabur, AI hanya akan mempercepat kebingungan. Automation yang sehat membutuhkan bahasa kerja yang sehat.
Kelima, lihat vendor sebagai bagian dari arsitektur risiko. Memakai layanan AI eksternal bukan masalah, tetapi bisnis perlu tahu konsekuensinya. Data tinggal di mana, akses bergantung pada siapa, biaya bisa naik seberapa jauh, dan seberapa sulit pindah ke layanan lain.
Untuk banyak bisnis, langkah awal yang paling masuk akal bukan membangun AI sendiri. Langkah awalnya adalah audit kecil:
- proses mana yang paling sering makan waktu?
- data apa yang dipakai di proses itu?
- siapa pemilik keputusan akhirnya?
- risiko apa jika hasil AI salah?
- risiko apa jika layanan AI berhenti?
- apakah hasil AI bisa dicek manusia dengan cepat?
Jawaban dari pertanyaan ini membantu bisnis memakai AI dengan lebih tenang. Bukan karena semua risiko hilang, tetapi karena kendali tidak diserahkan tanpa sadar.
AI akan makin masuk ke website, CRM, dashboard, customer service, finance, HR, dan operasi harian. Bisnis yang lebih siap bukan selalu bisnis yang memakai AI paling banyak. Bisnis yang lebih siap adalah bisnis yang tahu bagian mana yang boleh dipercepat, bagian mana yang harus diawasi, dan bagian mana yang tidak boleh diserahkan begitu saja.
TechBBQ memberi pengingat penting: masa depan AI bukan hanya soal mesin yang makin pintar. Masa depan AI juga soal manusia, tim, bisnis, dan negara yang harus memilih kendali apa yang tetap dipegang.
Untuk owner dan manager, versi praktisnya sederhana.
Sebelum menambahkan AI ke proses bisnis, cek dulu satu hal: apakah Anda masih bisa menjelaskan siapa yang mengontrol data, keputusan, akses, dan tindak lanjutnya?
Kalau jawabannya belum jelas, mulai dari sana.
Dapatkan Audit Teknis Gratis untuk meninjau peluang penggunaan AI, automation, dan sistem internal tanpa membuat bisnis kehilangan kontrol atas data dan proses pentingnya.
Sumber referensi berita: TechCrunch