Oleh Penunjuk Philipp
Meski baru beberapa bulan pascapeluncuran, fenomena AI chatbot ChatGPT telah sepenuhnya mengambil alih internet. Kemampuannya yang cepat untuk menanggapi pertanyaan, membantu tugas, dan menghasilkan konten menjadikannya sumber daya yang berguna bagi siswa, karyawan, dan pengguna lain yang tak terhitung jumlahnya. Belum lagi, kemampuan untuk membuka akun gratis dalam hitungan detik dan kemudahan penggunaannya menjadikannya alat yang lebih menarik.
Sayangnya, selain manfaat yang jelas, ChatGPT juga berfungsi sebagai senjata ampuh untuk membuat konten jahat dengan mudah dalam skala yang lebih besar, membawa kejahatan dunia maya ke tingkat yang sama sekali baru. Yang pasti, para peneliti memiliki ditemukan kasus penjahat dunia maya mengesampingkan pembatasan anti-penyalahgunaan ChatGPT untuk menghasilkan atau meninjau kode berbahaya. Ini juga memiliki kemampuan untuk menghasilkan dialog yang sangat meyakinkan video deepfake dalam hitungan detik, memungkinkan aktor jahat menyebarkan disinformasi lebih cepat dari sebelumnya.
Karena penjahat dunia maya terus menemukan cara baru untuk menggunakan ChatGPT dengan jahat, organisasi dan konsumen harus lebih siap untuk membela diri.
Bersiaplah untuk serangan siber chatbot
Mungkin salah satu ancaman terbesar AI generatif adalah kemampuan yang baru ditemukan untuk menyebarkan disinformasi dengan cepat dalam skala besar. Pada Januari 2023, para peneliti diprediksi AI generatif itu akan membuat disinformasi lebih mudah dan lebih murah untuk dihasilkan bahkan untuk lebih banyak propagandis dan ahli teori konspirasi. Tapi kenyataan ini jauh lebih dekat dengan kita daripada yang mungkin kita pikirkan — faktanya, itu sudah ada di sini. Di sana telah lusinan kasus aktor negara-bangsa membuat video tokoh politik yang dihasilkan AI untuk menyebarkan disinformasi, dan semakin sulit untuk membedakan mana yang nyata dan mana yang tidak. Dengan alat seperti ChatGPT dan generator media sintetik lain yang tersedia secara gratis dan mudah diakses, siapa pun yang memiliki akses internet kini dapat menghasilkan serangan dunia maya dan menyebarkan disinformasi.
Selain itu, teknologi generatif terus berkembang dan akan segera memiliki kemampuan untuk terhubung sepenuhnya ke internet. Ini akan memungkinkan chatbots untuk mendapatkan akses ke informasi langsung secara real-time, yang semakin meningkatkan akurasinya. Ketika ini terjadi, bot akan menjadi lebih canggih dari sebelumnya. Jika ditempatkan di tangan yang salah, tidak ada yang tahu jenis propaganda apa yang dapat disebarkan di saluran media, termasuk outlet berita dan platform media sosial.
Menjadi Antipeluru Online Hari Ini Dengan RISIKO NOL!
Banyak dari kita telah menerima pesan teks phishing tersebut, di mana bos atau teman kita meminta kita untuk mengirim uang atau mengirimi mereka kartu hadiah — kecuali itu sebenarnya bukan seseorang yang kita kenal di ujung sana. Sejauh yang kami tahu, pesan teks phishing ini dikirim oleh manusia sungguhan yang berpura-pura menjadi seseorang yang bukan dirinya. Tapi sekarang, dengan teknologi generatif, satu orang dapat mengirimkan teks-teks ini dalam skala besar dan merekrut bot untuk membuat percakapan tetap berjalan.
Tutup CAPTCHA. Diperlukan alat pendeteksi bot baru
Dengan riset menunjukkan bahwa ChatGPT dapat mengelabui manusia agar melewati CAPTCHA, alat yang dimaksudkan untuk mencegah bot, jelas bahwa organisasi online harus berkembang melampaui metode usang ini.
Perusahaan memiliki tanggung jawab untuk menjaga bisnis mereka dan pelanggan mereka aman dan terjamin, tetapi metode deteksi bot di masa lalu tidak cukup untuk gelombang baru bot dan penipuan. Yang diperlukan adalah alat verifikasi identitas canggih yang dapat mengonfirmasi bahwa setiap orang yang membuat akun — dan kemudian masuk ke akun tersebut — adalah orang sungguhan di balik layar.
Jenis solusi ini mungkin mencakup deteksi kehidupan, di mana algoritme aman menentukan apakah sampel autentikasi biometrik merupakan representasi palsu atau manusia hidup. Jenis alat identitas lain yang dapat digunakan organisasi adalah pemeriksaan identitas yang berpusat pada dokumen, di mana ID yang dikeluarkan pemerintah dibandingkan dengan selfie real-time untuk memverifikasi pengguna adalah siapa yang mereka katakan. Teknologi identitas digital modern ini dapat memberikan ketenangan pikiran kepada bisnis bahwa pengguna mereka adalah manusia nyata dan memang seperti yang mereka klaim, sambil membantu mencegah konsumen terpapar disinformasi dan penipuan.
Asumsikan bot sampai terbukti manusia
Sebagai konsumen, kami juga memiliki kewajiban untuk memastikan bahwa kami sangat berhati-hati saat menemukan segala bentuk konten online, meskipun tampaknya berasal dari sumber yang memiliki reputasi baik. Konsumen tidak boleh selalu mempercayai setiap konten yang mereka lihat dan didorong untuk melakukan penelitian lebih lanjut terhadap berita yang tampaknya mencurigakan. Di sisi media sosial, akan bijaksana bagi pengguna untuk terlebih dahulu menganggap akun adalah bot sampai terbukti dioperasikan oleh manusia, terutama jika menyangkut konten yang dipertanyakan.
Sementara AI generatif memiliki keuntungan yang jelas, itu juga menimbulkan risiko sosial yang signifikan. Namun, jika organisasi menerapkan alat modern dan konsumen tetap berhati-hati saat menemukan konten online, serangan siber yang didukung chatbot tidak akan memiliki peluang.
Bersumber dari Pembaruan Biometrik
Sebagai Kepala Identitas Digital, Philipp memimpin Jumiostrategi identitas digital dan inisiatif untuk mengaktifkan beberapa penyedia identitas digital dalam ekosistemnya. Sebelum Jumio, Philipp bertanggung jawab atas paysafecard, solusi prabayar paling populer di Eropa untuk pembelian online.
PENAFIAN: Wawasan Industri Pembaruan Biometrik adalah konten yang dikirimkan. Pandangan yang diungkapkan dalam posting ini adalah dari penulis, dan tidak mencerminkan pandangan Pembaruan Biometrik.
Menjadi Pelindung!
Atau dukung kami di BerlanggananBintang
Donasikan mata uang kripto DI SINI
Berlangganan Posting Aktivis untuk berita kebenaran, perdamaian, dan kebebasan. Ikuti kami di SoMee, Telegram, SARANG LEBAH, Mengapung, Pikiran, aku, Twitter, Mengobrol, Apa yang sebenarnya terjadi Dan GETTR.
Sediakan, Lindungi, dan Untung dari apa yang akan datang! Dapatkan edisi gratis dari Counter Market Hari ini.
