Kamera Semakin Pintar, Tetapi Hak untuk Tidak Dilacak Tetap Perlu Dibahas

Teknologi surveillance sering dibahas sebagai alat keamanan. Kamera dipasang di jalan, kendaraan, gedung, dan ruang publik dengan alasan membantu menemukan pelanggaran, mempercepat investigasi, atau membaca situasi yang terlalu besar untuk dipantau manusia.

Kadang memang begitu. Kamera yang tepat bisa membantu keamanan publik.

Tetapi ada masalah yang lebih dasar: banyak orang tidak pernah benar-benar memilih untuk ikut dilacak.

Berita tentang noRecognition, proyek dari Bill Swearingen, menarik karena ia tidak mencoba mematikan kamera. Ia membuat pola visual yang bisa mengacaukan kemampuan algoritma untuk mendeteksi orang, kendaraan, wajah, atau objek tertentu. Kamera tetap merekam video, tetapi sistem deteksi tidak selalu tahu apa yang sedang dilihat.

Di permukaan, ini terlihat seperti trik teknis. Di baliknya, ini adalah sinyal bahwa masyarakat mulai mencari tombol opt-out ketika sistem digital tidak menyediakan pilihan itu.

The Core Update

Bill Swearingen menghabiskan sekitar satu tahun menjalankan puluhan juta pengujian untuk membuat pola adversarial. Pola ini dibuat komputer, lalu bisa diterapkan ke pakaian, objek, atau kendaraan agar sebagian kamera surveillance dan license plate reader gagal mendeteksinya secara otomatis.

Proyek ini disebut noRecognition.

Menurut laporan TechCrunch, pola tersebut diuji terhadap beberapa algoritma deteksi open-source yang berhubungan dengan sistem seperti Flock license plate readers, Axon body-worn cameras, dan kamera yang menjalankan Clearview AI. Dalam demo publik di Def Con Las Vegas, pola itu dipasang pada Toyota Yaris 2009 untuk menguji apakah kendaraan bisa luput dari deteksi kamera Flock.

Hasil awalnya diklaim berhasil, walaupun masih ada tantangan teknis seperti bagian roda.

Yang penting dipahami: pola ini tidak membuat orang atau kendaraan benar-benar tidak terlihat. Rekaman video tetap ada. Yang terganggu adalah lapisan algoritma yang biasanya memberi label, mengenali, memicu alert, atau membuat objek tertentu mudah ditemukan dari tumpukan rekaman.

Dengan kata lain, noRecognition tidak menghapus haystack. Ia mencoba membuat seseorang kembali menjadi needle di dalam haystack.

The Reality Check

Reaksi pertama terhadap teknologi seperti ini biasanya terbagi dua.

Satu sisi melihatnya sebagai alat privasi. Orang yang ingin datang ke protest, berjalan di ruang publik, atau menjalani hidup tanpa pelacakan otomatis bisa punya cara untuk mengurangi paparan terhadap sistem yang tidak pernah mereka setujui.

Sisi lain melihatnya sebagai risiko. Jika pola ini bisa membuat sistem keamanan gagal mendeteksi kendaraan atau orang tertentu, maka teknologi yang sama juga bisa dipakai untuk menghindari penegakan hukum.

Kedua kekhawatiran itu masuk akal.

Tetapi diskusi yang lebih penting bukan hanya apakah pola adversarial ini boleh ada. Pertanyaan yang lebih besar adalah mengapa orang merasa perlu membuatnya.

Jika sistem surveillance dipasang luas tanpa batas yang jelas, tanpa transparansi, dan tanpa mekanisme keberatan yang mudah, resistensi teknis hampir pasti muncul. Bukan karena semua orang ingin berbuat salah, tetapi karena banyak orang tidak ingin seluruh aktivitas publiknya berubah menjadi data yang bisa dicari, disimpan, dan ditafsirkan mesin.

Masalahnya, AI detection sering diberi aura kepastian. Kamera terlihat objektif. Algoritma terlihat rapi. Dashboard terlihat meyakinkan.

Padahal sistem seperti ini tetap bisa salah.

License plate reader bisa salah membaca plat. Facial recognition bisa salah mengidentifikasi orang. Alert otomatis bisa membuat tindakan manusia menjadi terlalu cepat dan terlalu percaya pada sistem. Ketika kesalahan terjadi di konteks keamanan, dampaknya bukan sekadar angka error di dashboard. Orang bisa dihentikan, diperiksa, dicurigai, atau dirugikan.

Di titik ini, pola adversarial seperti noRecognition menjadi cermin. Ia menunjukkan bahwa sistem AI yang terlihat kuat tetap punya permukaan rapuh. Ia juga menunjukkan bahwa kepercayaan publik tidak bisa dibangun hanya dengan menambah kamera dan model yang lebih pintar.

Kepercayaan butuh aturan yang bisa dibaca.

The Havedev Way

Dari sudut pandang Havedev, pelajaran utamanya bukan bahwa semua bisnis atau institusi harus takut memakai computer vision. Teknologi deteksi visual tetap punya banyak manfaat: keamanan area terbatas, quality control, traffic analysis, inventory monitoring, dan otomasi operasional.

Tetapi penggunaan AI vision perlu dimulai dari pertanyaan tata kelola, bukan dari kemampuan model.

Sebelum memasang kamera pintar, organisasi perlu menjawab beberapa hal dasar:

• data apa yang benar-benar perlu dideteksi?
• siapa yang boleh melihat hasil deteksi?
• berapa lama rekaman dan metadata disimpan?
• kapan alert dianggap cukup kuat untuk ditindaklanjuti?
• bagaimana proses koreksi jika sistem salah?
• apakah orang yang terdampak punya cara untuk bertanya atau keberatan?

Tanpa jawaban ini, sistem AI mudah berubah menjadi mesin observasi yang sulit diaudit.

Banyak organisasi terlalu cepat masuk ke pertanyaan teknis: model apa yang dipakai, kamera mana yang paling akurat, vendor mana yang paling lengkap, dashboard seperti apa yang paling modern.

Pertanyaan itu penting, tetapi bukan titik awal yang sehat.

Titik awal yang lebih sehat adalah batas penggunaan.

AI vision untuk menghitung jumlah kendaraan di parkiran berbeda dengan AI vision untuk mengidentifikasi plat nomor. Deteksi kerumunan berbeda dengan pengenalan wajah. Monitoring area internal berbeda dengan pelacakan orang di ruang publik. Masing-masing punya risiko, izin, dan beban akuntabilitas yang berbeda.

Jika batas itu tidak dibedakan, organisasi bisa merasa hanya sedang menambah fitur, padahal sebenarnya sedang menambah kuasa atas data orang lain.

noRecognition juga memberi pelajaran teknis yang sederhana: sistem AI tidak boleh diasumsikan sempurna hanya karena sudah bekerja di demo atau dataset. Dunia nyata selalu punya variasi, noise, sudut pandang, cuaca, cahaya, dan sekarang, pola yang sengaja dibuat untuk mengacaukan model.

Untuk bisnis, ini berarti AI tidak boleh menjadi satu-satunya sumber keputusan penting tanpa kontrol manusia, audit, dan fallback yang jelas.

Untuk institusi publik, ini berarti transparansi dan batas penggunaan bukan tambahan dekoratif. Itu bagian dari keamanan sistem itu sendiri.

Teknologi yang tidak dipercaya akan dicari celahnya. Teknologi yang terlalu agresif akan memicu perlawanan. Teknologi yang tidak punya mekanisme opt-out akan mendorong orang membuat opt-out sendiri.

Penutup

Kamera pintar membuat ruang publik lebih mudah dibaca mesin. Tetapi tidak semua hal yang bisa dibaca mesin otomatis layak dilacak.

Pola adversarial seperti noRecognition mungkin belum sempurna. Mungkin juga akan terus dikejar oleh vendor kamera dengan model yang lebih kuat. Tetapi pesan sosialnya sudah jelas: privasi masih menjadi kebutuhan, bahkan ketika teknologi bergerak ke arah pengawasan yang semakin otomatis.

Bisnis dan institusi tidak perlu menolak AI vision secara total. Tetapi mereka perlu lebih jujur tentang batasnya.

Sebelum menambah kamera, model deteksi, atau dashboard keamanan baru, cek dulu satu hal sederhana: apakah sistem itu punya tujuan yang jelas, batas penggunaan yang jelas, dan proses koreksi ketika salah?

Kalau jawabannya belum jelas, masalahnya bukan kurang teknologi. Masalahnya adalah kuasa deteksi yang belum punya akuntabilitas.

Dapatkan Audit Teknis Gratis untuk meninjau penggunaan AI, automation, dan sistem digital agar lebih aman, jelas, dan bisa dipertanggungjawabkan sebelum diterapkan lebih luas.

---

Sumber referensi berita: TechCrunch