Oleh Chris Burt
Meningkatnya aksesibilitas dan kekuatan deepfake dan AI generatif menyebabkan sakit kepala bagi para profesional pencegahan penipuan dan penyelidik forensik, dan masalahnya tampaknya semakin buruk. Tencent Cloud menawarkan Deepfakes-as-a-Service, mengenakan biaya $145 untuk menghasilkan salinan digital seseorang berdasarkan tiga menit video dan seratus kalimat yang diucapkan, Pendaftaran laporan.
Pemalsuan interaktif hanya membutuhkan waktu 24 jam untuk diproduksi, dan menghindari intonasi datar yang terkadang dapat mengingatkan pemirsa akan kehadiran manusia virtual dengan teknologi kustomisasi timbre.
Itu Administrasi Dunia Maya China telah menerapkan aturan untuk AI generatif yang tampaknya mengharuskan produk layanan ini ditandai dengan jelas.
Penjahat mendemonstrasikan penggunaan jahat dari teknologi semacam ini, dengan outlet Arizona Keluarga Arizona melaporkan insiden di mana penjahat memalsukan suara remaja dalam upaya memalsukan penculikan. Para penculik yang mengaku menelepon ibu remaja itu dan meminta tebusan satu juta dolar, mengancam akan menyakitinya jika korban tidak menurut.
Ibu remaja itu dengan waspada memastikan bahwa putrinya aman tanpa membayar, tetapi pakar AI memperingatkan orang-orang untuk waspada terhadap kemungkinan serangan penipuan serupa.
Jurnalis juga menemukan audiens yang siap untuk cerita mereka tentang tipu daya AI, dengan contoh terbaru datang dari a Jurnal Wall Street kolumnis yang berhasil mengelabui sistem biometrik suara banknya dan anggota keluarga, setidaknya untuk sementara. Kolumnis Teknologi Senior Joanna Stern mengkloning dirinya sendiri dengan bantuan layanan AI generatif profesional dan lapisan tambahan teknologi suara.
Penelitian dari Regula menunjukkan bahwa sekitar sepertiga bisnis telah mengalami serangan penipuan deepfake.
AI generatif mengancam forensik digital
Deepfake adalah salah satu dari empat topik yang menjadi fokus di EAB & CiTER baru-baru ini Lokakarya Biometrik
Anderson Rocha, profesor dan peneliti di State University of Campinas dan profesor tamu di Lembaga Penelitian Idiapmenyajikan keynote tentang “Deepfakes dan Realitas Sintetik: Bagaimana Melawan Balik?”
“Deepfakes hanyalah puncak gunung es,” kata Rocha. AI generatif menjungkirbalikkan asumsi lama dalam forensik.
Beberapa narasi lengkap namun palsu dimungkinkan, dengan kemampuan untuk membuat video sintetik, audio, teks, dan jenis data lainnya.
“Singularitas” masih jauh, kata Rocha, tetapi seperti yang dicatat Arthur C. Clarke, “teknologi apa pun yang cukup maju tidak dapat dibedakan dari sihir.”
AI digunakan dalam forensik digital untuk membantu mengidentifikasi, menganalisis, dan menginterpretasikan bukti digital, sebagian dengan mencari artefak yang, setidaknya secara teori, ditinggalkan oleh setiap perubahan yang dilakukan pada suatu bukti.
Masalah menentukan asal media diangkat ke tim Rocha pada tahun 2009, dengan penyelidikan dunia nyata tentang keabsahan foto Presiden Brasil saat itu yang dipublikasikan di media berita. Rocha menjelaskan teknik yang digunakan pada saat itu, dan evolusinya untuk memasukkan teknik visi komputer, hingga ledakan data dan kemajuan jaringan saraf mengubah kemungkinan untuk memanipulasi foto dan bukti lainnya, sekitar tahun 2018.
Sekarang, kombinasi detektor dengan pembelajaran mesin diperlukan untuk mendeteksi manipulasi yang lebih halus yang dimungkinkan dengan AI. Kecepatan kemajuan AI, bagaimanapun, menimbulkan tantangan konstan bagi penyelidik forensik.
Oleh karena itu, ancaman sebenarnya dari AI generatif, menurut pandangan Rocha, bukanlah dari deepfake melainkan dari manipulasi yang tidak meninggalkan artefak yang dapat dideteksi.
Topik ini dieksplorasi lebih lanjut dengan presentasi dari PindropNick Gaubitch tentang PAD di lingkungan bergema, Arun Ross dari Michigan State University tentang iris deepfake, dan kuartet presentasi dari peneliti akademik.
Sumber: Pembaruan Biometrik
Chris Burt adalah redaktur pelaksana dan analis industri di Biometric Update. Dia juga menulis nonfiksi tentang teknologi informasi, seni drama, budaya olahraga, dan bola basket fantasi, serta fiksi tentang astronot yang terkutuk. Dia tinggal di Toronto. Anda dapat mengikutinya di Twitter @AFakeChrisBurt.
Menjadi Pelindung!
Atau dukung kami di BerlanggananBintang
Donasikan mata uang kripto DI SINI
Berlangganan Posting Aktivis untuk berita kebenaran, perdamaian, dan kebebasan. Ikuti kami di SoMee, Telegram, SARANG LEBAH, Mengapung, Pikiran, aku, Twitter, Mengobrol, Apa yang sebenarnya terjadi Dan GETTR.
Sediakan, Lindungi, dan Untung dari apa yang akan datang! Dapatkan edisi gratis dari Counter Market Hari ini.
