AI tingkat lanjut membuat Sundar Pichai terjaga di malam hari dan membuat Sam Altman sedikit ketakutan. Inilah mengapa beberapa eksekutif teknologi mewaspadai potensi bahayanya.

• Kecerdasan buatan generatif telah mengalami kemajuan pesat dalam beberapa bulan terakhir.
• Peluncuran ChatGPT OpenAI telah mendorong beberapa perusahaan teknologi untuk meningkatkan fokus mereka pada AI.
• Namun, tidak semua orang merasa optimis dengan teknologi baru tersebut.

Obsesi dunia teknologi terhadap kecerdasan buatan generatif tidak menunjukkan tanda-tanda akan mereda.

Gelombang antusiasme konsumen setelah peluncuran ChatGPT viral OpenAI telah mendorong beberapa perusahaan teknologi besar untuk menuangkan sumber daya ke dalam pengembangan AI dan meluncurkan produk bertenaga AI baru.

Namun tidak semua orang merasa optimis dengan teknologi yang sangat cerdas ini.

Bulan lalu, beberapa tokoh teknologi terkenal, termasuk Elon Musk dan Steve Wozniak, mendukung surat terbuka yang menyerukan penghentian pengembangan AI tingkat lanjut. Surat tersebut mengutip berbagai kekhawatiran tentang konsekuensi pengembangan teknologi yang lebih kuat daripada GPT-4 OpenAI, termasuk risiko terhadap demokrasi.

Tokoh senior di beberapa perusahaan teknologi seperti Google dan bahkan OpenAI sendiri telah menolak aspek surat itu, menyoroti masalah dengan beberapa poin teknis dan kepraktisannya.

Inilah yang dikatakan eksekutif teknologi tentang potensi bahaya teknologi AI tingkat lanjut.

Elon Musk

Elon Musk telah berhati-hati tentang AI selama beberapa waktu.

Kembali pada tahun 2018, miliarder itu mengatakan AI lebih berbahaya daripada hulu ledak nuklir. “Itu membuatku takut,” katanya saat konferensi.

Sejak itu, Musk menggandakan beberapa prediksi kiamatnya. Dalam wawancara baru-baru ini dengan Tucker Carlson, Musk mengatakan AI berpotensi menghancurkan peradaban.

“AI lebih berbahaya daripada, katakanlah, desain pesawat yang salah urus atau pemeliharaan produksi atau produksi mobil yang buruk. Dalam arti bahwa AI memiliki potensi – betapapun kecil kemungkinannya – tetapi tidak sepele dan memiliki potensi kehancuran peradaban. ,” dia berkata.

Terlepas dari retorika Musk, Kali Hays dari Insider sebelumnya melaporkan bahwa Musk sedang membangun proyek AI generatifnya sendiri. Miliarder itu telah mendirikan perusahaan baru bernama X.AI, menurut Financial Times.

Sundar Pichai

CEO Alphabet Sundar Pichai mengatakan kepada CBS dalam sebuah wawancara untuk “60 Menit” bahwa suatu hari AI akan “jauh lebih mampu daripada apa pun yang pernah kita lihat sebelumnya.”

Pichai mengatakan kecepatan pengembangan AI dan kekhawatiran tentang penerapannya dengan cara yang salah membuatnya tetap terjaga.

“Kami belum memiliki semua jawaban di sana, dan teknologinya bergerak cepat,” katanya. “Jadi, apakah itu membuatku terjaga di malam hari? Tentu saja.”

Pichai juga menyampaikan surat terbuka bulan lalu. Dia memberi tahu The New York Times Hard Fork podcast: “Saya pikir ada baiknya untuk mengkhawatirkannya.”

“Jadi saya pikir sementara saya mungkin tidak setuju dengan semua yang ada dalam detail tentang bagaimana Anda akan melakukannya, saya pikir semangat itu layak untuk ada di luar sana,” tambahnya.

Sam Altman

CEO OpenAI Sam Altman mengatakan dia “sedikit takut” pada AI.

“Saya pikir itu aneh ketika orang berpikir itu seperti dunk besar yang saya katakan saya sedikit takut,” kata Altman kepada pembawa acara podcast Lex Fridman selama episode Maret. “Dan saya pikir itu gila untuk tidak sedikit takut, dan saya berempati dengan orang-orang yang sangat takut.”

Dalam wawancara sebelumnya dengan ABC News, Altman mengatakan bahwa “orang seharusnya senang” karena perusahaannya “sedikit takut” dengan potensi kecerdasan buatan.

Demi Hassabis

DeepMind, anak perusahaan dari perusahaan induk Google, Alphabet, adalah salah satu laboratorium AI terkemuka di dunia. CEO perusahaan, Demis Hassabis, juga mendesak kehati-hatian dalam pengembangan AI.

“Saya akan menganjurkan untuk tidak bergerak cepat dan merusak barang-barang,” kata Hassabis kepada Time pada bulan Januari, mengacu pada moto lama Facebook yang diciptakan oleh Mark Zuckerberg, yang mendorong para insinyur untuk mendekati pekerjaan dengan kecepatan dan eksperimen.

“Ketika datang ke teknologi yang sangat kuat – dan jelas AI akan menjadi salah satu yang paling kuat – kita harus berhati-hati,” katanya. “Ini seperti pencoba, banyak dari mereka tidak menyadari bahwa mereka memegang bahan berbahaya.”

Dalam sebuah wawancara baru-baru ini dengan “60 Menit,” Hassabis mengatakan ada kemungkinan AI akan menjadi sadar diri suatu hari nanti.

“Para filsuf belum benar-benar menetapkan definisi kesadaran tetapi jika yang kita maksud adalah kesadaran diri, dan hal-hal semacam ini … saya pikir ada kemungkinan AI suatu hari nanti,” katanya.