Mengapa Anda harus peduli dengan perkembangan kecerdasan buatan?

Pikirkan seperti apa alternatifnya. Jika Anda dan masyarakat luas tidak mendapatkan informasi dan keterlibatan, maka kita menyerahkan kepada beberapa pengusaha dan insinyur untuk memutuskan bagaimana teknologi ini akan mengubah dunia kita. Itulah status quo. Sejumlah kecil orang di beberapa perusahaan teknologi yang bekerja langsung di bidang kecerdasan buatan (AI) memahami betapa luar biasa hebatnya teknologi ini . Jika masyarakat tidak ikut terlibat, maka elit kecil inilah yang akan menentukan bagaimana teknologi ini akan mengubah hidup kita. Untuk mengubah status quo ini, saya ingin menjawab tiga pertanyaan dalam artikel ini: Mengapa sulit untuk menganggap serius prospek dunia yang diubah oleh AI? Bagaimana kita bisa membayangkan dunia seperti itu? Dan apa yang dipertaruhkan ketika teknologi ini menjadi lebih canggih?

Mengapa sulit untuk menganggap serius prospek dunia yang ditransformasikan oleh kecerdasan buatan?

Dalam beberapa hal, sudah jelas bagaimana teknologi dapat mengubah dunia secara mendasar. Kita hanya perlu melihat seberapa banyak dunia telah berubah. Jika Anda dapat mengundang keluarga pemburu-pengumpul dari 20.000 tahun yang lalu pada penerbangan Anda berikutnya, mereka akan sangat terkejut. Teknologi telah mengubah dunia kita, jadi kita berharap hal ini bisa terjadi lagi.

Meskipun kita telah melihat dunia bertransformasi sebelumnya, kita telah melihat transformasi ini berlangsung dari generasi ke generasi. Yang berbeda sekarang adalah betapa cepatnya perubahan teknologi tersebut. Dahulu, teknologi yang digunakan nenek moyang kita di masa kecil masih menjadi sentral kehidupan mereka di masa tua. Hal ini tidak lagi terjadi pada generasi sekarang. Sebaliknya, sudah menjadi hal biasa bahwa teknologi yang tidak terbayangkan di masa muda seseorang akan menjadi hal biasa di kemudian hari.

Inilah alasan pertama mengapa kita tidak menganggap serius prospek ini: kita sering meremehkan kecepatan teknologi dalam mengubah dunia.

Alasan kedua mengapa sulit untuk menganggap serius kemungkinan AI transformatif – yang bahkan mungkin AI sama cerdasnya dengan manusia – adalah karena ini adalah gagasan yang pertama kali kita dengar di bioskop. Tidak mengherankan bahwa bagi banyak dari kita, reaksi pertama terhadap skenario di mana mesin memiliki kemampuan mirip manusia adalah sama seperti jika Anda meminta kita untuk menganggap serius masa depan di mana vampir, manusia serigala, atau zombie berkeliaran di planet ini. 1

Namun, masuk akal bahwa ini adalah fantasi fiksi ilmiah dan penemuan utama yang mungkin terjadi pada masa hidup kita, atau masa kanak-kanak kita. 

Alasan ketiga mengapa sulit untuk menganggap serius prospek ini adalah karena kegagalan untuk melihat bahwa AI yang kuat dapat membawa perubahan yang sangat besar. Hal ini juga dapat dimengerti. Sulit untuk membentuk gagasan tentang masa depan yang sangat berbeda dari zaman kita sekarang. Ada dua konsep yang menurut saya berguna dalam membayangkan masa depan yang sangat berbeda dengan kecerdasan buatan. Mari kita lihat keduanya.

Bagaimana cara mengembangkan gagasan tentang seperti apa masa depan kecerdasan buatan?

Saat memikirkan masa depan kecerdasan buatan, saya merasa terbantu jika mempertimbangkan dua konsep berbeda: AI tingkat manusia, dan AI transformatif. 2 Konsep pertama menyoroti kemampuan AI dan mengaitkannya dengan tolok ukur yang lazim, sedangkan AI transformatif menekankan dampak teknologi ini terhadap dunia.

Dari sudut pandang kita saat ini, sebagian besar hal ini mungkin terdengar seperti fiksi ilmiah. Oleh karena itu, perlu diingat bahwa sebagian besar pakar AI yang disurvei percaya bahwa ada peluang nyata bahwa kecerdasan buatan tingkat manusia akan dikembangkan dalam beberapa dekade mendatang, dan beberapa percaya bahwa kecerdasan buatan akan ada jauh lebih cepat.

Keuntungan dan kerugian membandingkan kecerdasan mesin dan manusia

Salah satu cara untuk memikirkan kecerdasan buatan pada tingkat manusia adalah dengan membandingkannya dengan kondisi teknologi AI saat ini. Meskipun sistem AI saat ini sering kali memiliki kemampuan yang serupa dengan bagian tertentu dari pikiran manusia yang terbatas, AI pada tingkat manusia adalah mesin yang mampu melakukan berbagai tugas intelektual yang sama dengan kemampuan kita sebagai manusia. 3 Ini adalah mesin yang “mampu belajar melakukan apa pun yang bisa dilakukan manusia,” seperti yang diungkapkan Norvig dan Russell dalam buku teks mereka tentang AI. 4

Secara keseluruhan, berbagai kemampuan yang menjadi ciri kecerdasan memberi manusia kemampuan untuk memecahkan masalah dan mencapai berbagai macam tujuan. Oleh karena itu, AI pada tingkat manusia akan menjadi sistem yang dapat menyelesaikan semua masalah yang dapat diselesaikan oleh kita sebagai manusia, dan melakukan tugas-tugas yang dilakukan manusia saat ini. Mesin seperti itu, atau kumpulan mesin, akan mampu melakukan pekerjaan sebagai penerjemah, akuntan, ilustrator, guru, terapis, sopir truk, atau pekerjaan pedagang di pasar keuangan dunia. Seperti kita, negara ini juga bisa melakukan penelitian dan sains, serta mengembangkan teknologi baru berdasarkan hal tersebut.

Konsep AI tingkat manusia memiliki beberapa keunggulan yang jelas. Menggunakan kecerdasan kita sendiri sebagai referensi memberi kita beberapa panduan jelas tentang bagaimana membayangkan kemampuan teknologi ini. 

Namun, hal ini juga memiliki kelemahan yang jelas. Mengaitkan imajinasi sistem AI di masa depan dengan realitas kecerdasan manusia yang sudah dikenal membawa risiko mengaburkan perbedaan nyata di antara keduanya. 

Beberapa perbedaan ini terlihat jelas. Misalnya, sistem AI akan memiliki memori yang sangat besar dibandingkan sistem komputer, sehingga kapasitas kita untuk menyimpan informasi tidak ada artinya. Perbedaan nyata lainnya adalah kecepatan mesin menyerap dan memproses informasi. Namun penyimpanan informasi dan kecepatan pemrosesan bukanlah satu-satunya perbedaan. Domain di mana mesin sudah mengungguli manusia terus meningkat: dalam catur, setelah menyamai level pemain manusia terbaik di akhir tahun 90an, sistem AI mencapai level manusia super lebih dari satu dekade lalu. Di game lain seperti Go atau game strategi kompleks, hal ini baru saja terjadi. 5

Perbedaan-perbedaan ini berarti bahwa AI yang setidaknya sama baiknya dengan manusia di semua bidang secara keseluruhan akan jauh lebih kuat daripada pikiran manusia. Bahkan “AI tingkat manusia” yang pertama pun akan menjadi manusia super dalam banyak hal. 6

Kecerdasan manusia juga merupakan metafora buruk bagi kecerdasan mesin dalam hal lain. Cara kita berpikir seringkali sangat berbeda dengan mesin, dan sebagai konsekuensinya, keluaran dari mesin yang berpikir bisa sangat asing bagi kita.

Yang paling membingungkan dan memprihatinkan adalah cara-cara aneh dan tak terduga yang menyebabkan kegagalan kecerdasan mesin. Gambar kuda yang dihasilkan AI di bawah ini memberikan contoh: di satu sisi, AI dapat melakukan apa yang tidak dapat dilakukan manusia – menghasilkan gambar apa pun, dalam gaya apa pun (di sini fotorealistik), hanya dalam hitungan detik – namun di sisi lain. ia bisa gagal dengan cara yang tidak akan dilakukan manusia mana pun. 7 Tidak ada manusia yang membuat kesalahan dengan menggambar seekor kuda berkaki lima. 8

Oleh karena itu, membayangkan AI masa depan yang kuat hanya sebagai manusia biasa mungkin merupakan suatu kesalahan. Perbedaannya mungkin begitu besar sehingga tidak tepat jika menyebut sistem seperti itu sebagai “tingkat manusia”.

Gambar kuda yang dihasilkan AI 9

Seekor kuda coklat berlari di lapangan berumput.  Kuda itu tampaknya memiliki lima kaki.

Kecerdasan buatan transformatif ditentukan oleh dampak teknologi ini terhadap dunia

Sebaliknya, konsep AI transformatif tidak didasarkan pada perbandingan dengan kecerdasan manusia. Keuntungannya adalah menghindari masalah yang ditimbulkan oleh perbandingan dengan pikiran kita sendiri. Namun kelemahannya adalah sulit membayangkan seperti apa bentuk dan kemampuan sistem tersebut. Hal ini membutuhkan lebih banyak dari kita. Hal ini mengharuskan kita membayangkan sebuah dunia dengan aktor-aktor cerdas yang berpotensi sangat berbeda dari kita.

AI transformatif tidak ditentukan oleh kemampuan spesifik apa pun, tetapi oleh dampak AI di dunia nyata. Untuk memenuhi syarat sebagai transformatif, para peneliti menganggapnya sebagai AI yang “cukup kuat untuk membawa kita ke masa depan yang baru dan berbeda secara kualitatif.” 10 

Dalam sejarah umat manusia, ada dua kasus transformasi besar, yaitu revolusi pertanian dan revolusi industri.

Menjadi kenyataan bahwa AI transformatif akan menjadi peristiwa sebesar itu. Seperti hadirnya pertanian 10.000 tahun yang lalu, atau transisi dari manufaktur manual ke manufaktur mesin, hal ini akan menjadi peristiwa yang akan mengubah dunia bagi miliaran orang di seluruh dunia dan seluruh lintasan masa depan umat manusia .

Teknologi yang secara mendasar mengubah cara memproduksi berbagai macam barang atau jasa disebut 'teknologi tujuan umum'. Dua peristiwa transformatif sebelumnya disebabkan oleh penemuan dua teknologi serba guna yang sangat penting: perubahan produksi pangan seiring transisi umat manusia dari berburu dan meramu ke bertani, dan bangkitnya manufaktur mesin pada revolusi industri. Berdasarkan bukti dan argumen yang disajikan dalam seri pengembangan AI ini, saya yakin masuk akal bahwa AI yang kuat dapat mewakili pengenalan teknologi tujuan umum yang sama pentingnya.

Garis waktu tiga peristiwa transformatif dalam sejarah dunia

Garis waktu peristiwa transformatif

Masa depan AI tingkat manusia atau AI transformatif?

Kedua konsep tersebut berkaitan erat, namun tidak sama. Penciptaan AI pada tingkat manusia tentu akan memberikan dampak transformatif pada dunia kita. Jika pekerjaan sebagian besar manusia dapat dilakukan oleh AI, maka kehidupan jutaan orang akan berubah. 11

Namun hal sebaliknya tidak benar: kita mungkin melihat AI transformatif tanpa mengembangkan AI pada tingkat manusia. Karena pikiran manusia dalam banyak hal merupakan metafora yang buruk untuk kecerdasan mesin, masuk akal bagi kita untuk mengembangkan AI transformatif sebelum kita mengembangkan AI pada tingkat manusia. Bergantung pada bagaimana kelanjutannya, ini mungkin berarti bahwa kita tidak akan pernah melihat kecerdasan mesin apa pun yang bisa dibandingkan dengan kecerdasan manusia.

Tentu saja sulit untuk memprediksi kapan dan apakah sistem AI akan mencapai salah satu dari level tersebut. Dalam artikel pendamping saya tentang pertanyaan ini, saya memberikan gambaran umum tentang apa yang diyakini para peneliti di bidang ini saat ini. Banyak pakar AI percaya bahwa ada kemungkinan nyata bahwa sistem seperti itu akan dikembangkan dalam beberapa dekade mendatang, dan beberapa percaya bahwa sistem tersebut akan ada lebih cepat.

Apa yang dipertaruhkan ketika kecerdasan buatan menjadi lebih kuat?

Semua inovasi teknologi besar menimbulkan berbagai konsekuensi positif dan negatif. Bagi AI, spektrum hasil yang mungkin terjadi – dari yang paling negatif hingga yang paling positif – sangatlah luas. 

Jelas bahwa penggunaan teknologi AI dapat menimbulkan kerugian, karena hal ini sudah terjadi. 

Sistem AI dapat menimbulkan bahaya jika orang menggunakannya secara jahat. Misalnya, ketika mereka digunakan dalam kampanye disinformasi bermotif politik atau untuk memungkinkan pengawasan massal. 12

Namun sistem AI juga dapat menyebabkan kerusakan yang tidak disengaja, jika tindakannya berbeda dari yang diharapkan atau gagal. Misalnya, di Belanda, pihak berwenang menggunakan sistem AI yang secara keliru mengklaim bahwa sekitar 26.000 orang tua melakukan klaim palsu atas tunjangan penitipan anak. Tuduhan palsu tersebut menyebabkan kesulitan bagi banyak keluarga miskin, dan juga mengakibatkan pengunduran diri pemerintah Belanda pada tahun 2021.13

Ketika AI menjadi lebih kuat, kemungkinan dampak negatifnya bisa menjadi lebih besar. Banyak dari risiko-risiko ini yang sudah sepantasnya mendapat perhatian publik: AI yang lebih kuat dapat menyebabkan perpindahan tenaga kerja secara massal, atau konsentrasi kekuasaan dan kekayaan yang ekstrem. Di tangan para otokrat, hal ini dapat memberdayakan totalitarianisme melalui kesesuaiannya untuk pengawasan dan kontrol massa. 

Masalah penyelarasan AI juga merupakan risiko ekstrem lainnya. Ini adalah kekhawatiran bahwa tidak ada seorang pun yang mampu mengendalikan sistem AI yang kuat, bahkan jika AI tersebut mengambil tindakan yang merugikan kita sebagai manusia, atau umat manusia secara keseluruhan. Sayangnya, risiko ini kurang mendapat perhatian dari masyarakat luas, namun dipandang sebagai risiko yang sangat besar oleh banyak peneliti AI terkemuka. 14

Bagaimana mungkin AI bisa lepas dari kendali manusia dan akhirnya merugikan manusia?

Risikonya bukanlah AI menjadi sadar diri, mengembangkan niat buruk, dan “memilih” untuk melakukan hal tersebut. Risikonya adalah kita mencoba menginstruksikan AI untuk mengejar tujuan tertentu – bahkan tujuan yang sangat bermanfaat – dan dalam mencapai tujuan tersebut, hal tersebut malah merugikan manusia. Ini tentang konsekuensi yang tidak diinginkan. AI melakukan apa yang kami perintahkan, namun tidak melakukan apa yang kami inginkan.

Tidak bisakah kita menyuruh AI untuk tidak melakukan hal itu? Memang mungkin untuk membangun AI yang menghindari masalah tertentu yang kita perkirakan, namun sulit untuk meramalkan semua kemungkinan konsekuensi berbahaya yang tidak diinginkan. Masalah keselarasan muncul karena “ketidakmungkinan mendefinisikan tujuan manusia yang sebenarnya dengan benar dan lengkap,” seperti yang diungkapkan oleh peneliti AI, Stuart Russell. 15

Tidak bisakah kita mematikan AI saja? Ini mungkin juga tidak bisa dilakukan. Hal ini karena AI yang kuat akan mengetahui dua hal: ia menghadapi risiko bahwa manusia dapat mematikannya, dan ia tidak dapat mencapai tujuannya setelah dimatikan. Sebagai konsekuensinya, AI akan mengejar tujuan yang sangat mendasar untuk memastikan bahwa AI tidak akan dimatikan. Inilah sebabnya, ketika kita menyadari bahwa AI yang sangat cerdas menyebabkan kerugian yang tidak disengaja dalam mencapai tujuan tertentu, kita mungkin tidak dapat mematikannya atau mengubah apa yang dilakukan sistem. 16

Risiko ini – bahwa umat manusia mungkin tidak dapat mengendalikan diri begitu AI menjadi sangat kuat, dan bahwa hal ini dapat menyebabkan bencana yang ekstrem – telah diketahui sejak awal penelitian AI lebih dari 70 tahun yang lalu. 17 Perkembangan AI yang sangat pesat dalam beberapa tahun terakhir membuat solusi terhadap masalah ini menjadi semakin mendesak.

Saya telah mencoba merangkum beberapa risiko AI, namun artikel pendek tidak cukup untuk menjawab semua pertanyaan yang mungkin ada. Terutama mengenai risiko terburuk dari sistem AI, dan apa yang dapat kita lakukan sekarang untuk menguranginya, saya sarankan membaca buku The Alignment Problem oleh Brian Christian dan artikel Benjamin Hilton 'Mencegah bencana terkait AI' .

Jika kita berhasil menghindari risiko-risiko ini, AI transformatif juga dapat menimbulkan konsekuensi yang sangat positif. Kemajuan ilmu pengetahuan dan teknologi sangat penting bagi banyak perkembangan positif dalam sejarah umat manusia. Jika kecerdikan buatan dapat menambah kecerdikan kita, hal ini dapat membantu kita mencapai kemajuan dalam berbagai permasalahan besar yang kita hadapi: mulai dari energi yang lebih bersih, hingga penggantian pekerjaan yang tidak menyenangkan, hingga layanan kesehatan yang jauh lebih baik.

Kontras yang sangat besar antara kemungkinan positif dan negatif ini memperjelas bahwa taruhannya sangat tinggi pada teknologi ini. Mengurangi risiko-risiko negatif dan menyelesaikan masalah keselarasan dapat berarti perbedaan antara masa depan umat manusia yang sehat, berkembang, dan sejahtera – dan kehancuran masa depan umat manusia. 

Bagaimana kita bisa memastikan perkembangan AI berjalan dengan baik?

Memastikan perkembangan kecerdasan buatan berjalan dengan baik bukan hanya salah satu pertanyaan paling krusial di zaman kita, namun mungkin salah satu pertanyaan paling krusial dalam sejarah umat manusia. Hal ini memerlukan sumber daya publik – pendanaan publik, perhatian publik, dan keterlibatan publik.

Saat ini, hampir semua sumber daya yang didedikasikan untuk AI bertujuan untuk mempercepat perkembangan teknologi tersebut. Sebaliknya, upaya yang bertujuan untuk meningkatkan keamanan sistem AI tidak mendapatkan sumber daya yang dibutuhkan. Peneliti Toby Ord memperkirakan bahwa pada tahun 2020 antara $10 hingga $50 juta dihabiskan untuk pekerjaan mengatasi masalah keselarasan. 18 Investasi AI korporasi pada tahun yang sama 2000 kali lebih besar, yaitu mencapai $153 miliar. 

Hal ini tidak hanya terjadi pada masalah penyelarasan AI. Upaya mengatasi berbagai dampak sosial negatif dari AI tidak mempunyai sumber daya yang memadai dibandingkan dengan investasi besar untuk meningkatkan kekuatan dan penggunaan sistem AI.

Hal ini membuat frustrasi dan memprihatinkan masyarakat secara keseluruhan karena pekerjaan keselamatan AI sangat diabaikan dan sedikitnya dana publik yang didedikasikan untuk bidang penelitian penting ini. Di sisi lain, bagi masing-masing individu , pengabaian ini berarti bahwa mereka memiliki peluang bagus untuk benar-benar membuat perbedaan positif, jika mereka mendedikasikan diri mereka pada masalah ini sekarang. Meskipun bidang keamanan AI masih kecil, bidang ini menyediakan sumber daya yang baik mengenai apa yang dapat Anda lakukan secara nyata jika Anda ingin mengatasi masalah ini. Saya berharap semakin banyak orang yang mendedikasikan karir pribadinya untuk tujuan ini, namun hal ini membutuhkan lebih dari sekedar upaya individu. Teknologi yang mengubah masyarakat kita harus menjadi perhatian utama kita semua. Sebagai masyarakat, kita harus lebih memikirkan dampak sosial dari AI, memiliki pengetahuan tentang teknologi tersebut, dan memahami apa yang dipertaruhkan.  Ketika anak-anak kita melihat kembali masa kini, saya membayangkan mereka akan kesulitan memahami betapa sedikitnya perhatian dan sumber daya yang kita dedikasikan untuk pengembangan AI yang aman. Saya berharap hal ini akan berubah di tahun-tahun mendatang, dan kita mulai mendedikasikan lebih banyak sumber daya untuk memastikan AI yang kuat dapat dikembangkan dengan cara yang bermanfaat bagi kita dan generasi berikutnya.

Jika kita gagal mengembangkan pemahaman yang luas ini, maka hanya segelintir elit yang mendanai dan membangun teknologi ini yang akan menentukan bagaimana salah satu – atau mungkin teknologi paling kuat dalam sejarah umat manusia akan mengubah dunia kita.

sumber:

https://ourworldindata.org/ai-impact