CAMBRIDGE, Mass.-
Ilmuwan komputer yang membantu membangun fondasi teknologi kecerdasan buatan saat ini memperingatkan bahayanya, tetapi itu tidak berarti mereka setuju tentang apa bahaya itu atau bagaimana cara mencegahnya.
Kelangsungan hidup umat manusia terancam ketika “hal-hal pintar dapat mengakali kita,” kata Geoffrey Hinton, yang disebut ayah baptis AI, pada konferensi Rabu di Massachusetts Institute of Technology.
“Itu mungkin membuat kita tetap ada untuk sementara agar pembangkit listrik tetap berjalan,” kata Hinton. “Tapi setelah itu, mungkin tidak.”
Setelah pensiun dari Google agar dia dapat berbicara lebih bebas, Hinton yang berusia 75 tahun mengatakan bahwa dia baru saja mengubah pandangannya tentang kemampuan penalaran sistem komputer yang telah dia habiskan seumur hidupnya untuk diteliti.
“Hal-hal ini akan dipelajari dari kami, dengan membaca semua novel yang pernah ada dan semua yang pernah ditulis Machiavelli, bagaimana memanipulasi orang,” kata Hinton, berbicara kepada orang banyak yang menghadiri konferensi EmTech Digital MIT Technology Review dari rumahnya melalui video. “Bahkan jika mereka tidak bisa langsung menarik tuas, mereka pasti bisa membuat kita menarik tuas.”
“Saya berharap saya memiliki solusi sederhana yang bagus yang bisa saya dorong, tetapi saya tidak melakukannya,” tambahnya. “Aku tidak yakin ada solusinya.”
Rekan perintis AI Yoshua Bengio, pemenang bersama Hinton dari hadiah ilmu komputer teratas, mengatakan kepada The Associated Press pada hari Rabu bahwa dia “cukup selaras” dengan kekhawatiran Hinton yang dibawa oleh chatbots seperti ChatGPT dan teknologi terkait, tetapi khawatir itu hanya mengatakan “Kami ditakdirkan” tidak akan membantu.
“Perbedaan utamanya, menurut saya, adalah dia orang yang pesimistis, dan saya lebih optimistis,” kata Bengio, seorang profesor di Universitas Montreal. “Saya pikir bahayanya — jangka pendek, jangka panjang — sangat serius dan perlu ditanggapi serius tidak hanya oleh beberapa peneliti tetapi juga oleh pemerintah dan penduduk.”
Ada banyak tanda bahwa pemerintah mendengarkan. Gedung Putih telah memanggil CEO Google, Microsoft dan pembuat ChatGPT OpenAI untuk bertemu Kamis dengan Wakil Presiden Kamala Harris dalam apa yang dijelaskan oleh para pejabat sebagai diskusi terbuka tentang bagaimana mengurangi risiko jangka pendek dan jangka panjang dari teknologi mereka. Anggota parlemen Eropa juga mempercepat negosiasi untuk meloloskan aturan AI baru.
Tetapi semua pembicaraan tentang bahaya masa depan yang paling mengerikan membuat beberapa orang khawatir bahwa hype di sekitar mesin manusia super – yang sebenarnya tidak ada – mengganggu upaya untuk menetapkan perlindungan praktis pada produk AI saat ini yang sebagian besar tidak diatur dan telah terbukti menyebabkan kerusakan nyata. -kerugian dunia.
Margaret Mitchell, mantan pemimpin tim etika AI Google, mengatakan bahwa dia kesal karena Hinton tidak berbicara selama satu dekade dalam posisi berkuasa di Google, terutama setelah penggulingan ilmuwan kulit hitam terkemuka Timnit Gebru pada tahun 2020, yang telah mempelajari bahayanya. model bahasa besar sebelum dikomersialkan secara luas menjadi produk seperti ChatGPT dan Google’s Bard.
“Merupakan hak istimewa bahwa dia dapat melompat dari realitas penyebaran diskriminasi sekarang, penyebaran bahasa kebencian, toksisitas dan pornografi perempuan tanpa persetujuan, semua masalah ini yang secara aktif merugikan orang-orang yang terpinggirkan dalam teknologi,” kata Mitchell, yang juga dipaksa keluar dari Google setelah kepergian Gebru. “Dia melewatkan semua hal itu untuk mengkhawatirkan sesuatu yang lebih jauh.”
Bengio, Hinton, dan peneliti ketiga, Yann LeCun, yang bekerja di induk Facebook Meta, semuanya dianugerahi Penghargaan Turing pada tahun 2019 atas terobosan mereka di bidang jaringan saraf tiruan, yang berperan penting dalam pengembangan aplikasi AI saat ini seperti ChatGPT.
Bengio, satu-satunya dari tiga orang yang tidak bekerja dengan raksasa teknologi, telah menyuarakan keprihatinan selama bertahun-tahun tentang risiko AI jangka pendek, termasuk destabilisasi pasar kerja, persenjataan otomatis, dan bahaya kumpulan data yang bias.
Tetapi kekhawatiran tersebut telah berkembang baru-baru ini, membuat Bengio bergabung dengan ilmuwan komputer dan pemimpin bisnis teknologi lainnya seperti Elon Musk dan salah satu pendiri Apple Steve Wozniak dalam menyerukan jeda enam bulan untuk mengembangkan sistem AI yang lebih kuat daripada model terbaru OpenAI, GPT-4 .
Bengio mengatakan pada hari Rabu bahwa dia yakin model bahasa AI terbaru telah lulus “uji Turing” yang dinamai menurut pemecah kode Inggris dan metode perintis AI Alan Turing yang diperkenalkan pada tahun 1950 untuk mengukur ketika AI menjadi tidak dapat dibedakan dari manusia – setidaknya di permukaan.
“Itu adalah tonggak sejarah yang bisa menimbulkan konsekuensi drastis jika kita tidak hati-hati,” kata Bengio. “Perhatian utama saya adalah bagaimana mereka dapat dieksploitasi untuk tujuan jahat untuk mengacaukan demokrasi, untuk serangan dunia maya, disinformasi. Anda dapat berbicara dengan sistem ini dan berpikir bahwa Anda berinteraksi dengan manusia. Mereka sulit dikenali.”
Di mana para peneliti cenderung tidak setuju adalah tentang bagaimana sistem bahasa AI saat ini – yang memiliki banyak keterbatasan, termasuk kecenderungan untuk mengarang informasi – mungkin benar-benar menjadi lebih pintar daripada manusia tidak hanya dalam menghafal banyak informasi, tetapi dalam menunjukkan penalaran kritis dan keterampilan manusia lainnya.
Aidan Gomez adalah salah satu rekan penulis makalah perintis tahun 2017 yang memperkenalkan apa yang disebut teknik transformator — “T” di akhir ChatGPT — untuk meningkatkan kinerja sistem pembelajaran mesin, terutama dalam cara mereka belajar dari potongan-potongan teks. Saat masih magang berusia 20 tahun di Google, Gomez ingat sedang berbaring di sofa di kantor pusat perusahaan di California ketika timnya mengirimkan koran sekitar pukul 3 pagi saat waktunya tiba.
“Aidan, ini akan menjadi sangat besar,” kenangnya ketika seorang kolega memberitahunya, tentang pekerjaan yang sejak saat itu membantu menghasilkan sistem baru yang dapat menghasilkan prosa dan citra yang mirip manusia.
Enam tahun kemudian dan sekarang menjadi CEO dari perusahaan AI-nya sendiri bernama Cohere, yang telah diinvestasikan oleh Hinton, Gomez sangat tertarik dengan aplikasi potensial dari sistem ini, tetapi terganggu oleh rasa takut yang menurutnya “terlepas dari kenyataan” dari kemampuan mereka yang sebenarnya dan “mengandalkan pada lompatan imajinasi dan penalaran yang luar biasa.”
“Gagasan bahwa model-model ini entah bagaimana akan mendapatkan akses ke senjata nuklir kita dan meluncurkan semacam peristiwa tingkat kepunahan bukanlah wacana yang produktif untuk dimiliki,” kata Gomez. “Ini berbahaya bagi upaya kebijakan pragmatis yang mencoba melakukan sesuatu yang baik.”
Ditanya tentang investasinya di Cohere pada hari Rabu sehubungan dengan kekhawatirannya yang lebih luas tentang AI, Hinton mengatakan dia tidak memiliki rencana untuk menarik investasinya karena masih banyak aplikasi model bahasa yang bermanfaat dalam kedokteran dan di tempat lain. Dia juga mengatakan dia tidak membuat keputusan yang buruk dalam mengejar penelitian yang dia mulai pada tahun 1970-an.
“Sampai baru-baru ini, saya pikir krisis eksistensial ini masih jauh,” kata Hinton. “Jadi saya tidak benar-benar menyesali apa yang saya lakukan.”
pengeluaran sgp hari ini dan sebelumnya yang udah kami catat terhadap tabel information sgp prize paling lengkap ini pasti punya banyak manfaat bagi pemain. Dimana lewat data sgp harian ini pemain dapat memandang kembali semua hasil pengeluaran sgp tercepat dan teranyar hari ini. Bahkan togelmania mampu melihat ulang seluruh no pengeluaran togel singapore yang telah pernah terjadi sebelumnya. Data sgp paling lengkap sajian kita ini tentu selamanya mencatat semua nomor pengeluaran singapore yang sah bagi pemain.
Dengan memanfaatkan informasi data pengeluaran sgp prize paling lengkap ini, Tentu para pemain meraih kemudahan mencari sebuah no hoki. Pasalnya pengeluaran sgp hari ini pada tabel knowledge data keluaran sgp terlengkap paling lengkap ini sering digunakan pemain untuk memenangkan togel singapore hari ini. Namun tetap saja para togelers harus lebih berhati-hati dalam mencari Info knowledge togel singapore pools ini. Pasalnya tidak seluruh web site pengeluaran sgp terbaru menyajikan data singapore yang sebenarnya. Kesalahan Info togel singapore ini tentu bisa memicu prediksi sgp jitu jadi tidak akurat bagi para pemain.
sgp hari ini 2022 sebetulnya punya guna penting agar senantiasa dicari oleh para pemain togel singapore. Dimana para master prediksi togel jitu sama sekali termasuk selamanya membutuhkan knowledge sgp prize 2022 paling lengkap. Pasalnya untuk memicu sebuah angka main togel singapore yang jitu, Dibutuhkan sumber informasi hasil keluaran sgp sah hari ini. Itulah mengapa seluruh website keluaran sgp tercepat maupun bandar togel singapore online perlu laksanakan pengkinian nomor singapore berdasarkan singaporepools. Seperti yang kita ketahui, Satu-satunya pihak yang mengendalikan togel sgp di dunia adalah website resmi singapore pools itu sendiri.