Oleh Tyler Durden
Elon Musk, Steve Wozniak, pelopor AI Yoshua Bengio, dan lainnya telah menandatangani surat Terbuka menyerukan a jeda enam bulan dalam mengembangkan alat AI baru yang lebih kuat daripada GPT-4teknologi yang dirilis awal bulan ini oleh startup OpenAI yang didukung Microsoft, the Jurnal Wall Street laporan.
Sistem AI kontemporer sekarang menjadi kompetitif bagi manusia dalam tugas-tugas umumdan kita harus bertanya pada diri sendiri: Haruskah kita membiarkan mesin membanjiri saluran informasi kita dengan propaganda dan kebohongan? Haruskah kita mengotomatiskan semua pekerjaantermasuk yang memuaskan? Haruskah kita mengembangkan pikiran bukan manusia yang pada akhirnya mungkin melebihi jumlah, mengakali, usang, dan menggantikan kita? Haruskah kita mengambil risiko kehilangan kendali atas peradaban kita? Keputusan semacam itu tidak boleh didelegasikan kepada pemimpin teknologi yang tidak dipilih. Sistem AI yang kuat harus dikembangkan hanya setelah kami yakin bahwa efeknya akan positif dan risikonya dapat dikelola. –futureoflife.org
“Kami telah mencapai titik di mana sistem ini cukup pintar sehingga dapat digunakan dengan cara yang berbahaya bagi masyarakat,” kata Bengio, direktur Institut Algoritma Pembelajaran Universitas Montreal di Montreal, menambahkan “Dan kami belum mengerti.”
Kekhawatiran mereka tertuang dalam surat berjudul “Jeda Eksperimen AI Raksasa: Surat Terbuka”, yang dipelopori oleh Future of Life Institute – sebuah organisasi nirlaba yang disarankan oleh Musk.
Surat itu tidak meminta semua pengembangan AI untuk menghentikan, tetapi mendesak perusahaan untuk menghentikan sementara sistem pelatihan yang lebih kuat daripada GPT-4, teknologi yang dirilis bulan ini oleh Microsoft Startup OpenAI yang didukung perusahaan. Itu termasuk generasi berikutnya dari teknologi OpenAI, GPT-5.
Pejabat OpenAI mengatakan mereka belum mulai melatih GPT-5. Dalam sebuah wawancara, CEO OpenAI Sam Altman mengatakan perusahaan telah lama memprioritaskan keselamatan dalam pengembangan dan menghabiskan lebih dari enam bulan melakukan uji keamanan pada GPT-4 sebelum diluncurkan. -WSJ
“Dalam arti tertentu, ini adalah khotbah kepada paduan suara,” kata Altman. “Menurut saya, kami telah membicarakan masalah ini paling keras, dengan intensitas paling tinggi, untuk waktu yang paling lama.”
Goldman, sementara itu, mengatakan bahwa sampai 300 juta pekerjaan dapat diganti dengan AI, karena “dua pertiga pekerjaan dapat diotomatisasi sebagian oleh AI”.
Rencana Tindakan Privasi – Jalani Hidup Anda Online Lagi Tanpa Rasa Takut
(Daftar Bebas Risiko Hari Ini)
Apa yang disebut AI generatif membuat konten asli berdasarkan petunjuk manusia – sebuah teknologi yang telah diterapkan di mesin pencari Bing Microsoft dan alat lainnya. Segera setelah itu, Google mengerahkan saingan bernama Penyair. Perusahaan lain, termasuk Adobe, Salesforce, dan Zoom semuanya telah memperkenalkan alat AI canggih.
“Perlombaan dimulai hari ini,” kata CEO Microsoft Satya Nadella dalam komentarnya bulan lalu. “Kita akan bergerak, dan bergerak cepat.”
Salah satu penyelenggara surat ituMax Tegmark yang mengepalai Future of Life Institute dan profesor fisika di Massachusetts Institute of Technology, menyebutnya sebagai “ras bunuh diri”.
“Sangat disayangkan membingkai ini sebagai perlombaan senjata,” katanya. “Ini lebih seperti ras bunuh diri. Tidak masalah siapa yang akan sampai di sana lebih dulu. Itu hanya berarti bahwa umat manusia secara keseluruhan bisa kehilangan kendali atas takdirnya sendiri.”
Future of Life Institute mulai mengerjakan surat itu minggu lalu dan awalnya mengizinkan siapa pun untuk menandatangani tanpa verifikasi identitas. Pada satu titik, nama Pak Altman ditambahkan ke surat itu, tetapi kemudian dihapus. Pak Altman mengatakan dia tidak pernah menandatangani surat itu. Dia mengatakan perusahaan sering berkoordinasi dengan perusahaan AI lainnya mengenai standar keselamatan dan untuk membahas masalah yang lebih luas.
“Ada pekerjaan yang tidak kami lakukan karena kami rasa kami belum tahu cara membuatnya cukup aman,” dia berkata. “Jadi ya, saya pikir ada cara agar Anda bisa memperlambat kecepatan pada banyak sumbu dan itu penting. Dan itu adalah bagian dari strategi kami.” -WSJ
Musk – pendiri awal dan pendukung keuangan OpenAI, dan Wozniak, telah blak-blakan tentang bahaya AI untuk sementara waktu.
“Ada masalah risiko AI yang serius”tweetnya.
Kepala ilmuwan AI Meta, Yann LeCun, tidak menandatangani surat terbuka tersebut karena dia bilang dia tidak setuju dengan premisnya (tanpa menjelaskan).
Tentu saja, beberapa sudah berspekulasi bahwa para penandatangan mungkin memiliki motif tersembunyi.
Bacalah ini sebagai “moratorium enam bulan atau lebih akan memberi saya waktu untuk menyalin dan/atau membuat sesuatu yang serupa dan tidak dikesampingkan” https://t.co/MsO0PwkJON
— rakun alfa (@thealpharaccoon) 29 Maret 2023
Sumber: ZeroHedge
Gambar: Pixabay
Menjadi Pelindung!
Atau dukung kami di BerlanggananBintang
Donasikan mata uang kripto DI SINI
Berlangganan Posting Aktivis untuk berita kebenaran, perdamaian, dan kebebasan. Ikuti kami di SoMee, Telegram, SARANG LEBAH, Mengapung, Pikiran, aku, Twitter, Mengobrol, Apa yang sebenarnya terjadi Dan GETTR.
Sediakan, Lindungi, dan Untung dari apa yang akan datang! Dapatkan edisi gratis dari Counter Market Hari ini.
