Havedev
AI Tidak Kekurangan Data, AI Kekurangan Kepercayaan
Amazon melalui Twitch akan memakai konten kreator untuk membantu melatih model generative AI, kecuali kreator memilih keluar secara manual.
Di atas kertas, ini terlihat seperti perubahan pengaturan biasa. Twitch menambahkan opsi agar kreator bisa menolak penggunaan konten channel mereka untuk training model AI di ekosistem Amazon.
Tetapi reaksi komunitas menunjukkan masalah yang lebih besar: banyak kreator tidak melihat ini sebagai fitur baru. Mereka melihatnya sebagai perubahan batas kepercayaan.
Untuk Amazon, rekaman livestream adalah aset yang sangat bernilai. Ada ribuan jam audio, video, ekspresi, percakapan, gaya bicara, interaksi komunitas, dan konteks real-time yang sulit didapat dari dataset biasa.
Untuk streamer, konten itu bukan sekadar data. Itu wajah mereka, suara mereka, kebiasaan mereka, komunitas mereka, dan pekerjaan mereka.
Masalahnya bukan hanya apakah AI boleh belajar dari konten publik. Masalahnya adalah siapa yang memutuskan, kapan keputusan itu dijelaskan, dan apakah pemilik konten benar-benar diberi pilihan yang jelas.
The Core Update
Twitch sekarang memberi pengaturan agar kreator bisa opt out dari penggunaan konten channel mereka untuk training generative AI model Amazon.
Namun posisi awalnya adalah opt in. Artinya, kreator dianggap setuju kecuali mereka masuk ke pengaturan channel, membuka bagian security and privacy, mencari opsi training for generative AI, lalu mematikannya.
Inilah sumber utama kemarahan komunitas.
Banyak streamer merasa bahwa consent tidak seharusnya bekerja dengan cara diam-diam. Terutama di platform seperti Twitch, tempat kreator merekam diri sendiri dan suara mereka selama berjam-jam setiap minggu.
Dalam livestream resmi Twitch, Chief Product Officer Mike Minton menjawab pertanyaan yang banyak diulang pengguna: mengapa bukan opt in?
Jawabannya cukup jujur: kalau dibuat opt in, hampir tidak ada yang akan memilih masuk.
Jawaban ini penting karena membuka inti masalahnya. Twitch tahu banyak kreator tidak ingin kontennya dipakai untuk training AI. Tetapi platform tetap memilih default yang menguntungkan kebutuhan data.
Twitch juga membingkai perubahan ini sebagai penambahan setting untuk opt out, bukan sebagai pengumuman bahwa konten kreator akan dipakai untuk training AI Amazon.
Secara komunikasi, ini membuat masalah menjadi lebih sensitif. Kreator tidak hanya bertanya bagaimana cara menolak. Mereka juga bertanya apakah konten mereka sudah pernah dipakai sebelumnya.
Ketika ditanya apakah video pengguna sudah digunakan untuk training, Minton mengatakan ia tidak tahu pasti apa yang sudah dilakukan Amazon terkait model training dan data yang digunakan.
Bagi komunitas, jawaban seperti ini tidak menenangkan. Jika pihak platform sendiri tidak bisa memberi kejelasan penuh, kreator wajar merasa posisi mereka lemah.
The Reality Check
Kita perlu jujur: AI membutuhkan data.
Model audio, video, speech, recommendation, moderation, content generation, dan multimodal AI tidak bisa berkembang tanpa contoh nyata dari dunia nyata. Dari sudut pandang perusahaan teknologi, platform seperti Twitch adalah sumber data yang sangat kuat.
Tetapi kebutuhan data tidak otomatis membuat semua pendekatan menjadi sehat.
Masalah utama dalam kasus ini bukan sekadar AI. Masalahnya adalah default.
Default adalah keputusan produk yang sering lebih kuat daripada pilihan tertulis. Banyak pengguna tidak membaca update kebijakan. Banyak kreator tidak mengecek semua pengaturan baru. Banyak orang baru sadar setelah komunitas membahasnya.
Karena itu, opt out sering bukan pilihan yang setara dengan opt in.
Opt in berarti pengguna memberi izin aktif.
Opt out berarti platform mengambil izin awal, lalu memberi jalan keluar bagi yang sadar, punya waktu, dan tahu letak pengaturannya.
Secara hukum, detailnya bisa berbeda antar wilayah dan syarat layanan. Tetapi secara kepercayaan, perbedaannya jelas.
Untuk kreator, konten bukan hanya file. Konten adalah modal kerja. Mereka membangun identitas, karakter, format, suara, dan hubungan dengan audiens. Jika semua itu masuk ke training AI, kekhawatirannya bukan hanya privasi. Ada juga kekhawatiran soal peniruan gaya, komoditisasi persona, dan hilangnya kontrol atas karya sendiri.
Platform sering melihat konten sebagai resource.
Kreator melihat konten sebagai hasil kerja.
Di sanalah benturannya.
Twitch benar ketika mengatakan bahwa platform lain juga memakai konten publik untuk training AI. Meta, misalnya, menggunakan konten publik dari platformnya untuk model AI. Banyak perusahaan besar bergerak ke arah yang sama.
Tetapi argumen “platform lain juga melakukan” tidak otomatis menyelesaikan masalah. Justru ini menunjukkan bahwa industri teknologi sedang menghadapi krisis bahasa consent.
Banyak perusahaan ingin mempercepat AI. Banyak pengguna merasa belum pernah diajak bicara dengan jelas.
Jika perusahaan menyebutnya inovasi, tetapi pengguna merasakannya sebagai pengambilan diam-diam, maka masalahnya bukan hanya fitur. Masalahnya adalah relasi.
The Havedev Way
Dari sudut pandang Havedev, pelajaran terbesar dari kasus Twitch bukan hanya tentang AI policy. Ini tentang desain kepercayaan dalam produk digital.
Setiap bisnis yang mengumpulkan data pelanggan, percakapan, rekaman, form, dokumen, transaksi, atau aktivitas pengguna perlu bertanya lebih awal: data ini dipakai untuk apa, siapa yang bisa mengakses, dan kapan pengguna perlu diberi pilihan aktif?
AI membuat pertanyaan itu makin penting.
Sebelum AI, banyak data hanya dipakai untuk operasional: membalas lead, memproses order, mengukur performa, atau memberi support. Setelah AI, data yang sama bisa dipakai untuk melatih model, membuat prediksi, menghasilkan konten, atau membangun automation.
Perubahan fungsi data harus dijelaskan dengan bahasa yang mudah dipahami.
Bukan disembunyikan di balik pengaturan.
Bukan dibungkus sebagai fitur kecil.
Bukan diasumsikan semua pengguna setuju karena mereka tidak sempat menolak.
Untuk bisnis, terutama yang mulai memakai AI dan automation, ada beberapa prinsip sederhana yang lebih sehat:
- jelaskan data apa yang dipakai
- jelaskan tujuan pemakaian data
- pisahkan data operasional dari data training
- beri pilihan sebelum data dipakai untuk tujuan baru
- buat pengaturan mudah ditemukan
- catat consent dengan jelas
- jangan memakai AI kalau sumber datanya belum jelas secara etis
Prinsip ini tidak hanya berlaku untuk perusahaan besar. Bisnis kecil dan menengah juga mulai memakai chatbot, CRM AI, call transcription, email automation, lead scoring, dan internal knowledge base.
Jika data pelanggan masuk ke tool AI pihak ketiga, owner perlu tahu apakah data itu dipakai untuk training. Jika chat support dianalisis otomatis, pelanggan perlu tahu batasnya. Jika rekaman meeting diolah AI, tim perlu paham siapa yang menyimpan dan memproses data itu.
AI yang baik bukan hanya AI yang pintar.
AI yang baik juga harus bisa dijelaskan.
Dalam banyak proyek digital, pertanyaan teknis sering datang terlalu cepat: pakai model apa, pakai API apa, pakai automation apa, pakai dashboard apa.
Pertanyaan yang lebih dasar seharusnya datang lebih dulu: data mana yang boleh dipakai, untuk tujuan apa, dengan izin siapa, dan bagaimana kalau pengguna ingin menolak?
Kalau jawaban ini belum jelas, automation hanya mempercepat risiko.
Kasus Twitch memberi pesan yang cukup tegas untuk semua bisnis digital: jangan perlakukan consent sebagai pengaturan kecil. Consent adalah bagian dari pengalaman produk.
Ketika pengguna merasa dihormati, mereka lebih mungkin percaya pada fitur baru. Ketika pengguna merasa dijebak oleh default, bahkan fitur yang secara teknis berguna bisa berubah menjadi krisis reputasi.
AI memang membutuhkan data. Tetapi bisnis juga membutuhkan kepercayaan.
Dan dalam jangka panjang, kepercayaan sering lebih sulit dikumpulkan daripada dataset.
Dapatkan Audit Teknis Gratis untuk meninjau penggunaan data, automation, dan AI dalam sistem bisnis Anda sebelum teknologi baru menambah risiko yang tidak terlihat.
Sumber referensi berita: TechCrunch