|
Terombolan karyawan Google menatap layar komputer mereka dengan bingung. Mereka telah menghabiskan waktu berbulan-bulan untuk mengasah algoritme yang dirancang untuk mengarahkan balon helium tak berawak dari Puerto Rico ke Peru. Tapi ada yang salah. Balon itu, yang dikendalikan oleh pikiran mesinnya, terus membelok keluar jalur. Salvatore Candido dari proyek Project Loon Google yang sekarang sudah tidak berfungsi , yang bertujuan untuk membawa akses internet ke daerah terpencil melalui balon, tidak dapat menjelaskan lintasan pesawat tersebut. Rekan-rekannya secara manual mengambil kendali sistem dan mengembalikannya ke jalur semula. Baru kemudian mereka menyadari apa yang sedang terjadi. Tanpa diduga, kecerdasan buatan (AI) di atas balon telah belajar untuk menciptakan kembali teknik berlayar kuno yang pertama kali dikembangkan oleh manusia berabad-abad, bahkan ribuan tahun yang lalu. "Tacking" melibatkan mengarahkan kapal ke arah angin dan kemudian miring ke luar lagi sehingga kemajuan dalam zig-zag, kira-kira ke arah yang diinginkan, masih bisa dilakukan. Di bawah kondisi cuaca yang tidak menguntungkan, balon-balon yang terbang sendiri telah belajar untuk menempel dengan sendirinya. Fakta bahwa mereka telah melakukan ini, tanpa diminta, mengejutkan semua orang, tidak terkecuali para peneliti yang mengerjakan proyek tersebut. "Kami segera menyadari bahwa kami telah diakali ketika balon pertama yang diizinkan untuk sepenuhnya melaksanakan teknik ini mencetak rekor waktu penerbangan dari Puerto Rico ke Peru," tulis Candido dalam posting blog tentang proyek tersebut . "Saya tidak pernah secara bersamaan merasa lebih pintar dan lebih bodoh pada saat yang sama." Ini hanya hal yang bisa terjadi ketika AI dibiarkan menggunakan perangkatnya sendiri. Tidak seperti program komputer tradisional, AI dirancang untuk mengeksplorasi dan mengembangkan pendekatan baru untuk tugas-tugas yang belum secara eksplisit diberitahukan oleh insinyur manusia mereka. Namun saat mempelajari cara melakukan tugas ini, terkadang AI muncul dengan pendekatan yang sangat inventif sehingga dapat mengejutkan bahkan orang yang bekerja dengan sistem seperti itu sepanjang waktu. Itu bisa menjadi hal yang baik, tetapi itu juga bisa membuat hal-hal yang dikendalikan oleh AI menjadi tidak dapat diprediksi secara berbahaya – robot dan mobil yang dapat mengemudi sendiri pada akhirnya dapat membuat keputusan yang membahayakan manusia. 
Kecerdasan buatan yang mengendalikan balon berisi gas di Project Loon mempelajari teknik berlayar untuk menembus angin (Kredit: Loon) Bagaimana mungkin sistem AI "mengakali" tuan manusianya? Dan bisakah kita menahan pikiran mesin dengan cara tertentu, untuk memastikan bahwa bencana yang tidak terduga tidak terjadi? Dalam komunitas AI, ada satu contoh kreativitas AI yang tampaknya lebih banyak dikutip daripada yang lain. Momen yang benar-benar membuat orang bersemangat tentang apa yang dapat dilakukan AI, kata Mark Riedl di Georgia Institute of Technology, adalah ketika DeepMind menunjukkan bagaimana sistem pembelajaran mesin telah menguasai permainan kuno Go – dan kemudian mengalahkan salah satu pemain manusia terbaik dunia di dia. "Itu akhirnya menunjukkan bahwa ada strategi atau taktik baru untuk melawan pemain yang belum pernah digunakan sebelumnya - atau setidaknya banyak orang tidak mengetahuinya," jelas Riedl. Namun demikian, permainan Go yang polos ini, menimbulkan perasaan yang berbeda di antara orang-orang. Di satu sisi, DeepMind dengan bangga menjelaskan cara sistemnya, AlphaGo, mampu "berinovasi" dan mengungkapkan pendekatan baru untuk permainan yang telah dimainkan manusia selama ribuan tahun. Di sisi lain, beberapa orang mempertanyakan apakah AI yang begitu inventif suatu hari nanti dapat menimbulkan risiko serius bagi manusia. "Sangat menggelikan untuk berpikir bahwa kita akan dapat memprediksi atau mengelola perilaku kasus terburuk AI ketika kita tidak dapat benar-benar membayangkan kemungkinan perilaku mereka," tulis Jonathan Tapson di Western Sydney University setelah kemenangan bersejarah AlphaGo. Hal penting yang harus diingat, kata Riedl, adalah AI tidak benar-benar berpikir seperti manusia. Jaringan saraf mereka memang terinspirasi secara longgar oleh otak hewan tetapi mungkin lebih baik digambarkan sebagai "perangkat eksplorasi". Ketika mereka mencoba untuk memecahkan tugas atau masalah, mereka tidak membawa banyak, jika ada, prasangka tentang dunia yang lebih luas dengan mereka. Mereka hanya mencoba – terkadang jutaan kali – untuk menemukan solusi. "Kami manusia membawa banyak beban mental, kami memikirkan aturannya," kata Riedl. "Sistem AI bahkan tidak memahami aturannya sehingga mereka mengotak-atik sesuatu dengan sangat acak." Dengan cara ini, AI dapat digambarkan sebagai silikon yang setara dengan orang dengan sindrom savant , tambah Riedl, mengutip suatu kondisi di mana seseorang memiliki cacat mental yang serius tetapi juga memiliki keterampilan yang luar biasa, biasanya terkait dengan ingatan. Salah satu cara AI mengejutkan kita melibatkan kemampuan mereka untuk mengatasi masalah yang sangat berbeda tetapi menggunakan sistem dasar yang sama. Baru-baru ini, alat pembelajaran mesin yang dirancang untuk menghasilkan paragraf teks satu kata pada satu waktu diminta untuk melakukan fungsi yang sangat berbeda: bermain catur. Sistem yang dimaksud disebut GPT-2 dan dibuat oleh OpenAI. Dilatih pada jutaan artikel berita online dan halaman web, GPT-2 dapat memprediksi kata berikutnya dalam sebuah kalimat berdasarkan kata sebelumnya. Karena gerakan catur dapat direpresentasikan dalam karakter alfanumerik, "Be5" untuk memindahkan uskup misalnya, pengembang Shawn Presser berpikir bahwa jika dia melatih algoritme pada catatan pertandingan catur , alat tersebut dapat mempelajari cara memainkan permainan dengan mencari tahu yang diinginkan urutan gerakan. Presser melatih sistem pada 2,4 juta permainan catur. "Sangat keren melihat mesin catur menjadi hidup," katanya. "Aku tidak yakin itu akan berhasil sama sekali." Tapi itu terjadi. Ini tidak sebagus komputer catur yang dirancang khusus – tetapi mampu memainkan pertandingan yang sulit dengan sukses. Presser mengatakan eksperimennya menunjukkan bahwa sistem GPT-2 memiliki banyak kemampuan yang belum dijelajahi. Seorang sarjana dengan hadiah untuk catur. Versi selanjutnya dari perangkat lunak yang sama mengejutkan perancang web ketika pengembang melatihnya secara singkat untuk mengeluarkan kode untuk menampilkan item di halaman web, seperti teks dan tombol. AI menghasilkan kode yang sesuai meskipun yang harus dilakukan hanyalah deskripsi sederhana seperti "teks merah yang bertuliskan 'Aku mencintaimu' dan tombol dengan 'ok' di atasnya". Jelas, itu telah mendapatkan inti dasar dari desain web tetapi hanya setelah sedikit pelatihan. 
Hak atas foto Nicholas Kamm/Getty Images Dengan kecerdasan buatan yang mulai digunakan di dunia nyata, penting untuk mengetahui apakah kecerdasan buatan akan melakukan sesuatu yang tidak terduga. Satu arena di mana AI telah lama terkesan adalah video game. Ada banyak anekdot dalam komunitas AI tentang hal-hal mengejutkan yang telah dilakukan algoritme di lingkungan virtual. Ruang seperti video game sering kali merupakan tempat algoritme diuji dan diasah, untuk melihat seberapa mampu algoritme tersebut sebenarnya. Pada tahun 2019, OpenAI menjadi berita utama dengan video tentang permainan petak umpet yang dimainkan oleh karakter yang dikendalikan pembelajaran mesin. Yang mengejutkan para peneliti, para pencari dalam game akhirnya mengetahui bahwa mereka dapat melompat ke atas item dan "menjelajahi" mereka untuk mendapatkan akses ke kandang tempat para penyembunyi meringkuk. Dengan kata lain, para pencari belajar membengkokkan aturan permainan demi keuntungan mereka. Strategi coba-coba dapat menghasilkan semua jenis perilaku yang menarik. Tetapi mereka tidak selalu mengarah pada kesuksesan. Dua tahun lalu, peneliti DeepMind Victoria Krakovna meminta pembaca blognya untuk berbagi cerita tentang saat-saat ketika AI telah memecahkan masalah rumit – tetapi dengan cara yang tidak dapat diprediksi dan tidak dapat diterima. Daftar panjang contoh yang dia susun sangat menarik. Diantaranya adalah algoritma permainan yang belajar bunuh diri di akhir level satu – untuk menghindari kematian di level dua. Tujuan untuk tidak mati di level dua tercapai, hanya saja tidak dengan cara yang sangat mengesankan. Algoritme lain menemukan bahwa ia dapat melompat dari tebing dalam permainan dan membawa lawan ke kehancurannya. Itu memberi AI poin yang cukup untuk mendapatkan nyawa ekstra sehingga bisa terus mengulangi taktik bunuh diri ini dalam putaran tak terbatas. Peneliti AI video game Julian Togelius di New York University Tandon School of Engineering dapat menjelaskan apa yang terjadi di sini. Dia mengatakan ini adalah contoh klasik dari kesalahan "alokasi hadiah". Ketika AI diminta untuk mencapai sesuatu, ia mungkin mengungkap metode yang aneh dan tak terduga untuk mencapai tujuannya, di mana tujuan selalu menghalalkan cara. Kita manusia jarang mengambil sikap seperti itu. Sarana, dan aturan yang mengatur bagaimana kita seharusnya bermain, penting. Togelius dan rekan-rekannya telah menemukan bahwa bias yang berorientasi pada tujuan ini dapat diekspos dalam sistem AI saat mereka diuji dalam kondisi khusus. Dalam percobaan baru-baru ini , timnya menemukan bahwa AI yang bermain game diminta untuk menginvestasikan uang di bank akan berlari ke sudut terdekat dari lobi bank virtual dan menunggu untuk menerima pengembalian investasi. Togelius mengatakan algoritme telah belajar mengasosiasikan berlari ke sudut dengan mendapatkan imbalan finansial, meskipun tidak ada hubungan nyata antara pergerakannya dan berapa banyak yang dibayarkan. Ini, kata Togelius, seperti AI yang mengembangkan takhayul: "Anda mendapat hadiah atau hukuman untuk sesuatu – tetapi mengapa Anda mendapatkannya?" Ini adalah salah satu jebakan dari "pembelajaran penguatan", di mana AI akhirnya menyusun strategi yang salah arah berdasarkan apa yang ditemuinya di lingkungannya. AI tidak tahu mengapa berhasil, ia hanya dapat mendasarkan tindakannya pada asosiasi yang dipelajari. Sedikit seperti budaya manusia purba yang mulai mengasosiasikan ritual dengan perubahan cuaca, misalnya. Atau, merpati. Pada tahun 1948, seorang psikolog Amerika menerbitkan sebuah makalah yang menggambarkan eksperimen yang tidak biasa di mana dia menempatkan merpati di kandang dan memberikan hadiah makanan kepada mereka sesekali. Merpati mulai mengasosiasikan makanan dengan apa pun yang kebetulan mereka lakukan saat itu – baik itu mengepakkan sayap atau melakukan gerakan seperti menari. Mereka kemudian mengulangi perilaku ini, tampaknya mengharapkan hadiah akan menyusul. Ada perbedaan besar antara AI dalam game yang diuji oleh Togelius dan hewan hidup yang digunakan oleh psikolog, tetapi Togelius mengisyaratkan bahwa fenomena dasar yang sama tampaknya sedang bekerja: hadiah secara keliru dikaitkan dengan perilaku tertentu. Meskipun peneliti AI mungkin terkejut dengan jalur yang diambil oleh sistem pembelajaran mesin, itu tidak berarti mereka kagum padanya. "Saya tidak pernah merasa bahwa agen-agen ini memiliki pikirannya sendiri," kata Raia Hadsell dari DeepMind. 
Merpati dapat belajar mengasosiasikan makanan dengan perilaku tertentu dan AI dapat menampilkan jenis entrainment yang serupa (Kredit: Binnur Ege Gurun Kocak/Getty Images) Hadsell telah bereksperimen dengan banyak AI yang telah menemukan solusi menarik dan baru untuk masalah yang tidak diprediksi oleh rekannya. Dia menunjukkan bahwa inilah mengapa para peneliti berusaha untuk mempertajam AI sejak awal – sehingga mereka dapat mencapai hal-hal yang tidak dapat dilakukan manusia sendiri. Dan dia berpendapat bahwa produk yang menggunakan AI, seperti mobil self-driving, dapat diuji secara ketat untuk memastikan bahwa setiap ketidakpastian berada dalam batas tertentu yang dapat diterima. "Anda dapat memberikan jaminan yang wajar atas perilaku yang didasarkan pada bukti empiris," katanya. Waktu akan memberi tahu apakah semua perusahaan yang menjual produk yang dibangun dengan kecerdasan buatan sangat teliti dalam hal ini. Namun sementara itu, perlu dicatat bahwa AI yang menunjukkan perilaku tak terduga sama sekali tidak terbatas pada lingkungan penelitian. Mereka sudah berusaha menjadi produk komersial. Tahun lalu, sebuah lengan robot yang bekerja di sebuah pabrik di Berlin yang dikembangkan oleh perusahaan AS Covariant menemukan cara tak terduga untuk menyortir barang saat melewati ban berjalan. Meskipun tidak diprogram secara khusus untuk melakukannya, AI yang mengendalikan lengannya belajar untuk membidik bagian tengah barang dalam kemasan transparan untuk membantu menjamin bahwa ia akan berhasil mengambilnya setiap saat. Karena benda-benda seperti itu dapat bercampur aduk saat tumpang tindih, karena bahan tembus pandang itu, membidik dengan kurang tepat berarti robot mungkin gagal mengambil item tersebut. "Ini menghindari sudut objek yang tumpang tindih, dan sebagai gantinya bertujuan untuk permukaan yang paling mudah diambil," kata co-founder dan chief executive Covariant Peter Chen. "Itu benar-benar mengejutkan kami." Secara terpisah, Hadsell mengatakan timnya baru-baru ini bereksperimen dengan lengan robot yang melewati balok berbeda melalui lubang pemilah bentuk. Tangan yang mencengkeram robot agak kikuk sehingga AI yang mengendalikannya mengetahui bahwa, dengan berulang kali mengangkat dan menjatuhkan balok, robot dapat menempatkannya ke posisi yang tepat untuk kemudian merebutnya dan mengopernya dengan mudah melalui lubang yang sesuai – alih-alih mencoba untuk mengutak-atiknya menggunakan gripper. Semua ini mengilustrasikan poin yang dibuat oleh Jeff Clune di OpenAI, yang baru-baru ini berkolaborasi dengan kolega di seluruh dunia untuk mengumpulkan contoh AI yang telah mengembangkan solusi cerdas untuk masalah. Clune mengatakan bahwa sifat eksplorasi AI sangat penting untuk kesuksesannya di masa depan. "Saat kami meningkatkan sistem AI ini, yang kami lihat adalah bahwa hal-hal yang mereka lakukan yang kreatif dan mengesankan bukan lagi keingintahuan akademis," katanya. Saat AI menemukan cara yang lebih baik untuk mendiagnosis penyakit atau mengirimkan persediaan darurat kepada orang-orang, mereka bahkan akan menyelamatkan nyawa berkat kemampuan mereka menemukan cara baru untuk memecahkan masalah lama, tambah Clune. Namun menurutnya mereka yang mengembangkan sistem seperti itu harus terbuka dan jujur ??tentang sifatnya yang tidak dapat diprediksi, untuk membantu masyarakat memahami cara kerja AI. sumber: https://www.bbc.com/future/article/20210222-how-googles-hot-air-balloon-surprised-its-creators
|
