ChatGPT membuat percikan dengan antarmuka yang ramah pengguna dan tanggapan yang dihasilkan AI yang dapat dipercaya. Dengan satu prompt, ChatGPT memberikan jawaban mendetail yang belum dicapai oleh asisten AI lainnya. Didukung oleh kumpulan data besar yang telah dilatih oleh ChatGPT, luas dan beragam topik yang dapat ditanganinya dengan cepat membuat kagum industri teknologi dan publik.
Namun kecanggihan teknologi menimbulkan pertanyaan yang tak terelakkan: apa kekurangan dari ChatGPT dan teknologi serupa? Dengan kemampuan untuk menghasilkan banyak tanggapan yang realistis, ChatGPT dapat digunakan untuk membuat sejumlah tanggapan yang mampu mengelabui pembaca yang sederhana agar berpikir bahwa manusia sebenarnya ada di balik konten tersebut.
Memahami ChatGPT
Saat Anda memikirkan asisten AI, Google dan Alexa mungkin yang terlintas di benak Anda terlebih dahulu. Anda mengajukan pertanyaan seperti “Bagaimana cuaca hari ini?” dan mendapatkan jawaban singkat. Meskipun beberapa fitur percakapan telah tersedia, sebagian besar tidak menghasilkan teks buatan AI bentuk panjang yang dapat diperluas melalui interaksi lebih lanjut.
ChatGPT mengambil prompt yang kompleks dan menghasilkan respons penuh, berpotensi mencakup beberapa paragraf. Itu mengingat percakapan sebelumnya dan membangunnya ketika ditanya pertanyaan lebih lanjut, memberikan tanggapan yang lebih rinci.
Contohnya ditunjukkan di bawah ini: ChatGPT mencantumkan instruksi untuk membuat kue coklat.
Sumber: Specops
Percakapan ini dapat berkisar dari daftar bahan sederhana hingga cerita pendek lengkap. Namun, ChatGPT mungkin tidak menanggapi topik tertentu karena kumpulan datanya.
Selain itu, penting untuk dicatat bahwa hanya karena tanggapan dihasilkan tidak berarti itu akurat. ChatGPT tidak “berpikir” seperti kami; ia menggunakan data dari internet untuk menghasilkan respons. Akibatnya, data yang salah dan bias terkait dapat menyebabkan jawaban yang tidak terduga.
Risiko Asisten AI
Seperti disinggung di atas, tidak semua tanggapan sama. Tapi itu bukan satu-satunya risiko. Respons ChatGPT dapat meyakinkan, dan dengan demikian, potensi untuk menghasilkan konten yang dapat menipu seseorang agar percaya bahwa konten tersebut ditulis oleh seseorang memang ada.
Ini dapat mengarah pada persenjataan teknologi semacam itu di dunia teknologi.
Banyak email phishing mudah dikenali, terutama jika ditulis oleh penutur asing. Namun, ChatGPT dapat membuat tugas tersebut jauh lebih mudah dan meyakinkan seperti yang dicatat dalam artikel ini oleh CheckPoint.
Kecepatan pembuatan dan kualitas respons membuka pintu ke email phishing yang jauh lebih dapat dipercaya dan bahkan pembuatan kode eksploit yang sederhana.
Selain itu, karena model ChatGPT adalah open-source, individu yang giat dapat membuat kumpulan data email yang dihasilkan perusahaan untuk membuat alat yang menghasilkan email phishing dengan cepat dan mudah.
Sumber: Specops
Email phishing dapat memberi pelaku ancaman cara untuk mendapatkan akses ke sistem Anda dan menyebarkan malware atau ransomware, yang berpotensi menyebabkan kerusakan serius. Saat ChatGPT terus meningkat, itu akan menjadi alat yang semakin kuat untuk pelaku jahat.
Bagaimana dengan penutur non-asli yang mencoba meyakinkan seorang karyawan, melalui percakapan, untuk menyerahkan kredensial mereka?
Meskipun antarmuka ChatGPT yang ada memiliki perlindungan terhadap permintaan informasi sensitif, Anda dapat melihat bagaimana model AI membantu menginformasikan alur dan dialog yang dapat digunakan oleh teknisi meja bantuan Microsoft, memberikan keaslian permintaan.
Sumber: Specops
Melindungi Terhadap Penyalahgunaan ChatGPT
Pernahkah Anda menerima email yang mencurigakan dan bertanya-tanya apakah itu ditulis seluruhnya atau sebagian oleh ChatGPT? Untungnya, ada alat yang dapat membantu. Alat-alat ini bekerja berdasarkan persentase, sehingga tidak dapat memberikan kepastian yang mutlak. Namun, mereka dapat menimbulkan keraguan yang masuk akal dan membantu Anda mengajukan pertanyaan yang tepat untuk menentukan apakah email tersebut asli.
Misalnya, setelah menempelkan konten email pengaturan ulang kata sandi yang dibuat sebelumnya, alat GPT Zero menyorot bagian yang mungkin dibuat oleh AI. Ini bukan deteksi yang sangat mudah, tetapi mungkin membuat Anda berhenti sejenak dan mempertanyakan keaslian konten tertentu.
Sumber: Specops
Anda dapat menggunakan alat ini untuk membantu mengidentifikasi teks yang dihasilkan AI: https://gptzero.me/.
Rekayasa Sosial sedang naik daun dengan ChatGPT
Dari permintaan dukungan palsu, hingga spoofing ID penelepon, dan sekarang bahkan membuat skrip dengan ChatGTP. Internet penuh dengan sumber daya untuk membantu mempromosikan skema rekayasa sosial yang berhasil. Pelaku ancaman memajukan serangan rekayasa sosial dengan menggabungkan beberapa vektor serangan bersama-sama, menggunakan ChatGPT bersama metode rekayasa sosial lainnya.
ChatGPT dapat membantu penyerang membuat identitas palsu dengan lebih baik, membuat serangan mereka lebih mungkin berhasil.
Tetap Aman dengan Specops Secure Service Desk
Meja Layanan Specops Secure membantu mencegah serangan siber di meja bantuan Anda, termasuk upaya rekayasa sosial yang dihasilkan oleh ChatGPT. Dengan Specops Secure Service Desk, Anda dapat memastikan bahwa pengguna adalah yang mereka katakan dengan pendekatan verifikasi aman, yang melampaui pertanyaan keamanan, yang dapat dengan mudah bersumber dari penjahat dunia maya dalam serangan rekayasa sosial yang ditargetkan.
Misalnya, jika pengguna menghubungi meja layanan untuk mengatur ulang kata sandi, alat tersebut akan meminta agen meja layanan untuk memverifikasi identitas pengguna sebelum mengatur ulang kata sandinya.
Pengguna dapat diverifikasi dengan kode sekali pakai yang dikirimkan ke nomor ponsel yang terkait dengan akun Active Directory mereka, atau bahkan dengan layanan autentikasi yang ada, seperti Duo Security, Okta, PingID, dan Symantec VIP. Organisasi juga dapat menerapkan opsi ini untuk menerapkan MFA di meja layanan.
Dengan vishing scam yang tidak menunjukkan tanda-tanda melambat, dan ChatGTP akan berevolusi dengan teknologi AI, berinvestasi dalam solusi Specops Secure Service Desk bisa menjadi langkah penting bagi organisasi yang ingin melindungi diri mereka sendiri.
Masa Depan ChatGPT dan Mengamankan Pengguna Anda
ChatGPT adalah pengubah permainan, menyediakan alat yang mudah digunakan dan kuat untuk percakapan yang dihasilkan AI. Meskipun ada banyak aplikasi potensial, organisasi harus menyadari bagaimana penyerang dapat menggunakan alat ini untuk meningkatkan taktik mereka, dan risiko tambahan yang dapat ditimbulkannya bagi organisasi mereka.
Disponsori dan ditulis oleh Perangkat Lunak Specop
