Mandiri Finansial – YouTube resmi memperluas alat deteksi deepfake berbasis AI ke kelompok baru yang paling rentan terhadap manipulasi konten sintetis, yaitu politisi dan jurnalis, melalui sebuah pilot program yang diumumkan pada Selasa (10/03).

Key Takeaways:

  • YouTube memperluas fitur deteksi likeness berbasis AI ke politisi, kandidat pemilu, dan jurnalis lewat pilot program baru.
  • Peserta program wajib mendaftar dengan video selfie dan identitas resmi untuk mengakses dashboard pemantauan deepfake.
  • Konten AI tidak otomatis diblokir, tetapi peserta dapat mengajukan permintaan penghapusan setelah terdeteksi.

Program ini memungkinkan pejabat pemerintah, kandidat pemilu, dan jurnalis untuk memantau dan melaporkan video yang menampilkan wajah mereka secara tidak sah menggunakan AI.

Menurut laporan dari The New York Times, peserta program perlu mengunggah video selfie dan dokumen identitas resmi untuk mendaftar.

Setelah terdaftar, mereka dapat memantau video yang terdeteksi melalui dashboard online dan mengajukan permintaan penghapusan.

Leslie Miller, Wakil Presiden Urusan Pemerintahan dan Kebijakan Publik YouTube, menyatakan bahwa platform merasa bertanggung jawab untuk berinvestasi dalam teknologi yang membantu menangani masalah likeness.

Cara Kerja Teknologi Deteksi Ini

Berdasarkan laporan dari TechBuzz AI, sistem ini bekerja serupa dengan Content ID milik YouTube, tetapi alih-alih memindai materi berhak cipta, sistem ini mencari wajah yang dihasilkan AI secara tidak sah.

Ketika sistem mendeteksi kecocokan, peserta program akan mendapat notifikasi dan dapat meninjau konten tersebut secara langsung.

YouTube menegaskan bahwa informasi identitas yang dikumpulkan hanya digunakan untuk verifikasi dan tidak akan dipakai untuk melatih model AI milik Google.

Konten AI tidak diblokir secara otomatis saat diunggah, namun pengecualian berlaku untuk video yang jelas bersifat parodi, satire, atau kepentingan publik.

Mengapa Langkah Ini Penting Sekarang

Kaylyn Jackson Schiff, profesor dari Purdue University yang meneliti deepfake AI, menyebut bahwa deepfake yang menampilkan tokoh publik seperti pejabat pemerintah dan jurnalis semakin marak.

Ia menambahkan bahwa kecepatan penanganan laporan sangat krusial karena konten terkait peristiwa politik dapat menyebar sangat cepat dan memengaruhi opini banyak orang.

YouTube tidak mengungkapkan siapa saja peserta pilot program ini dan menolak mengonfirmasi apakah tokoh-tokoh besar sudah terdaftar dalam program tersebut.

Langkah ini dinilai sebagai sinyal bahwa platform besar mulai mengambil peran lebih proaktif dalam menekan penyebaran misinformasi berbasis AI menjelang siklus pemilu mendatang.

Referensi:

Featured Image: OpenAI