Oleh BN Frank
Teknologi kecerdasan buatan (AI) dapat menjadi bias, diretas, dan mengganggu privasi (lihat 1, 2, 3, 4, 5, 6, 7, 8). Itu bisa menggantikan pekerjaan manusia, membuat kesalahan (lihat 1, 2, 3, 4, 5, 6, 7), dan membuat hidup lebih sulit bagi mereka yang dipaksa untuk bekerja dengannya daripada bekerja dengan orang. Peringatan tentang gambar “Deepfake”. dibuat oleh AI bukanlah hal baru; Namun, mereka menjadi jauh lebih menakutkan.
Dari Teknik Ars:
Teknologi pembuatan gambar AI sekarang dapat membuat deepfake yang menghancurkan hidup dengan mudah
Teknologi AI memudahkan untuk menghasilkan foto palsu yang berbahaya dari beberapa gambar media sosial.
Jika Anda salah satunya miliaran orang-orang yang telah memposting foto diri mereka di media sosial selama dekade terakhir, mungkin sudah waktunya untuk memikirkan kembali perilaku tersebut. Teknologi pembuatan gambar AI baru memungkinkan siapa saja untuk menyimpan beberapa foto (atau bingkai video) Anda, lalu melatih AI untuk membuat foto palsu realistis yang menunjukkan Anda melakukan hal-hal yang memalukan atau ilegal. Tidak semua orang berisiko, tetapi semua orang harus mengetahuinya.
Foto selalu tunduk pada pemalsuan — pertama di kamar gelap dengan gunting dan tempel, lalu melalui Adobe Photoshop melalui piksel. Tapi butuh banyak keterampilan untuk melakukan dengan meyakinkan. Saat ini, membuat pemalsuan fotorealistik yang meyakinkan hampir menjadi hal yang sepele.
Setelah model AI mempelajari cara merender seseorang, gambar mereka menjadi mainan perangkat lunak. AI dapat membuat gambar mereka dalam jumlah tak terbatas. Dan model AI dapat dibagikan, memungkinkan orang lain untuk membuat gambar orang tersebut juga.
John: Sebuah studi kasus media sosial
Saat kami mulai menulis artikel ini, kami bertanya kepada seorang sukarelawan pemberani apakah kami dapat menggunakan gambar media sosial mereka untuk mencoba melatih model AI untuk membuat barang palsu. Mereka setuju, tetapi hasilnya terlalu meyakinkan, dan risiko reputasi terbukti terlalu besar. Jadi sebagai gantinya, kami menggunakan AI untuk membuat satu set tujuh foto media sosial yang disimulasikan dari orang fiktif yang kami sebut “John”. Dengan begitu, kami dapat menunjukkan hasilnya kepada Anda dengan aman. Untuk saat ini, anggap saja John adalah pria sejati. Hasilnya persis sama, seperti yang akan Anda lihat di bawah.
Dalam skenario pura-pura kami, “John” adalah seorang guru sekolah dasar. Seperti kebanyakan dari kita, selama 12 tahun terakhir, John telah memposting foto dirinya di Facebook saat sedang bekerja, bersantai di rumah, atau saat pergi ke berbagai tempat.
Dengan hanya menggunakan tujuh gambar itu, seseorang dapat melatih AI untuk menghasilkan gambar yang membuatnya tampak seperti John memiliki kehidupan rahasia. Misalnya, dia mungkin suka berfoto selfie telanjang di kelasnya. Di malam hari, John mungkin pergi ke bar dengan berpakaian seperti badut. Pada akhir pekan, dia bisa menjadi bagian dari kelompok paramiliter ekstremis. Dan mungkin dia menjalani hukuman penjara karena tuduhan narkoba tetapi menyembunyikannya dari majikannya.
Kami menggunakan generator gambar AI yang disebut Difusi Stabil (versi 1.5) dan teknik yang disebut Bilik mimpi untuk mengajari AI cara membuat gambar John dengan gaya apa pun. Meskipun John kami tidak nyata, seseorang dapat mereproduksi hasil yang serupa dengan lima gambar atau lebih dari siapa pun. Mereka dapat ditarik dari akun media sosial atau bahkan diambil sebagai bingkai diam dari video.
Proses pelatihan—mengajarkan AI cara membuat gambar John—memakan waktu sekitar satu jam dan gratis berkat layanan komputasi awan Google. Setelah pelatihan selesai, membuat gambar itu sendiri membutuhkan waktu beberapa jam—bukan karena pembuatannya lambat, tetapi karena kami perlu memilah-milah banyak gambar yang tidak sempurna (dan menggunakan coba-coba dalam mendorong) untuk menemukan yang terbaik. Tetap saja, ini jauh lebih mudah daripada mencoba membuat “John” palsu yang realistis di Photoshop dari awal.
Berkat AI, kita dapat membuat John tampak melakukan tindakan ilegal atau tidak bermoral, seperti membobol rumah, menggunakan obat-obatan terlarang, atau mandi telanjang dengan seorang siswa. Dengan model AI add-on yang dioptimalkan untuk pornografi, John bisa menjadi bintang porno, dan kemampuan itu bahkan bisa mengarah ke sana CSAM wilayah.
Kita juga dapat membuat gambar John melakukan hal-hal yang tampaknya tidak berbahaya yang mungkin masih menghancurkan dirinya secara pribadi — minum di bar saat dia berjanji untuk tidak mabuk atau menghabiskan waktu di tempat yang tidak seharusnya.
Dia juga bisa dimasukkan ke dalam situasi yang menyenangkan dan fantastis, seperti menjadi ksatria abad pertengahan atau astronot. Dia bisa terlihat muda atau tua, gemuk atau kurus, dengan atau tanpa kacamata, atau mengenakan pakaian yang berbeda.
Gambar yang disintesis tidak sempurna. Jika Anda perhatikan dengan cermat, orang yang berpengetahuan luas dapat melihatnya sebagai palsu. Tapi teknologi yang menciptakan gambar-gambar ini adalah berkembang pesat, dan mungkin segera tidak mungkin untuk membedakan antara foto yang disintesis dan yang asli. Namun bahkan dengan kekurangan mereka, salah satu dari gambar palsu ini dapat menimbulkan keraguan yang menghancurkan tentang John atau berpotensi merusak reputasinya.
Bacaan lebih lanjut: Generator AI terbaru Google membuat video HD dari perintah teks
Anda bisa melihat banyak contoh orang-orang yang menggunakan teknik yang sama (dengan orang sungguhan) untuk membuat foto profil diri mereka yang aneh dan artistik. Dan layanan komersial dan aplikasi seperti Lensa baru-baru ini muncul janji untuk menangani pelatihan untuk Anda. Apa yang tidak mereka tunjukkan adalah potensi efek negatif dari teknologi ini jika seseorang menggunakan wajah orang lain tanpa persetujuan mereka.
Bagaimana cara kerjanya?
Jika Anda belum memperhatikan kemajuan pesat dalam Generator gambar AI baru-baru ini, melihat apa yang telah kami lakukan di atas mungkin sangat mengkhawatirkan. Pada dasarnya, ilmuwan komputer telah menemukan cara menghasilkan gambar fotorealistik baru dari apa pun yang dapat Anda bayangkan dengan mengajarkan AI menggunakan foto asli, dan teknologinya telah berkembang pesat selama setahun terakhir.
Teknologi ini kontroversial karena, selain foto, juga memungkinkan orang untuk melakukannya menghasilkan karya seni baru yang meniru karya seniman yang ada tanpa izin mereka.
Salah satu generator gambar AI yang paling berpengaruh disebut Difusi Stabil. Ini adalah model sintesis gambar pembelajaran mendalam (istilah mewah untuk perangkat lunak AI) yang dapat menghasilkan gambar yang benar-benar baru dari deskripsi teks. Itu dapat berjalan secara lokal di a Komputer Windows atau Linux dengan GPU yang tangguh, di Macatau di cloud pada perangkat keras komputer sewaan.
Bacaan lebih lanjut: Artis menemukan foto rekam medis pribadi di kumpulan data pelatihan AI populer
Dengan dukungan dana dari Stabilitas AIsebuah organisasi akademik bernama CompVis melatih model AI Stable Diffusion menggunakan ratusan juta gambar yang dapat diakses publik diunduh dari internet. Stability AI merilis Stable Diffusion sebagai perangkat lunak sumber terbuka pada 22 Agustus 2022, artinya siapa pun dapat menggunakannya secara gratis, dan telah menjadi terintegrasi menjadi semakin banyak produk komersial.
Melalui pelatihan intensif, jaringan saraf Stable Diffusion telah belajar mengasosiasikan kata-kata dan asosiasi statistik umum antara posisi piksel dalam gambar. Hasilnya, Anda dapat memberikan Stable Diffusion prompt teks, seperti “Morgan Freeman di ruang kelas”, dan Anda akan mendapatkan kembali gambar Morgan Freeman yang benar-benar baru di ruang kelas.
Membuat gambar Morgan Freeman itu mudah karena mungkin ada ratusan foto dirinya di kumpulan data yang digunakan untuk melatih Difusi Stabil. Itu sudah tahu seperti apa rupa Morgan Freeman. Tetapi jika Anda ingin membuat gambar orang biasa seperti John, Anda perlu memberikan bantuan tambahan kepada Stable Diffusion.
Di situlah Dreambooth masuk. Diumumkan pada 30 Agustus 2022, oleh peneliti Google, Dreambooth menggunakan teknik khusus untuk mengajarkan subjek baru model AI Stable Diffusion melalui proses yang disebut “penyetelan halus”.
Hari ini, bersama dengan kolaborator saya di @GoogleAI, kami mengumumkan DreamBooth! Ini memungkinkan pengguna untuk menghasilkan subjek pilihan (hewan peliharaan, objek, dll.) dalam berbagai konteks dan dengan variasi semantik yang dipandu teks! Pilihannya tidak terbatas. (Utas 👇)
halaman web: https://t.co/EDpiyalqiK
1/N pic.twitter.com/FhHFAMtLwS— Nataniel Ruiz (@natanielruizg) 26 Agustus 2022
Posting Aktivis adalah Google-Gratis
Dukung kami untuk adil $1 per bulan di Patreon atau BerlanggananBintang
Activist Post melaporkan secara teratur tentang AI dan teknologi kontroversial lainnya. Untuk informasi lebih lanjut, kunjungi arsip kami.
Gambar atas: Pixabay
Menjadi Pelindung!
Atau dukung kami di BerlanggananBintang
Donasikan mata uang kripto DI SINI
Berlangganan Posting Aktivis untuk berita kebenaran, perdamaian, dan kebebasan. Ikuti kami di SoMee, Telegram, SARANG LEBAH, Mengapung, Pikiran, aku, Twitter, Mengobrol, Apa yang sebenarnya terjadi dan GETTR.
Sediakan, Lindungi, dan Untung dari apa yang akan datang! Dapatkan edisi gratis dari Counter Market hari ini.
