Ujung tombak ilmu pengetahuan dan teknologi modern telah bergerak, dalam tujuannya, melampaui bantuan harta milik manusia menuju pemusnahan manusia. Fantasi meninggalkan kesengsaraan hidup manusia seperti itu tentu saja bukan hal baru; mereka telah mengambil banyak bentuk berbeda di zaman kuno dan modern. Peluang keberhasilan mereka, di tangan para ilmuwan baru, tidak dapat ditebak oleh siapa pun. Bentuk paling umum dari visi ini di zaman kita adalah rekayasa genetika: khususnya, prospek merancang manusia yang lebih baik dengan memperbaiki sistem biologis mereka. Tetapi yang lebih dramatis adalah proposal dari sekelompok pekerja kecil, serius, dan berprestasi di bidang kecerdasan buatan dan robotika. Sederhananya, tujuan mereka adalah era baru kehidupan pasca-biologis, dunia kecerdasan tanpa tubuh, identitas abadi tanpa batasan penyakit, kematian, dan keinginan yang tidak terpenuhi. Yang paling luar biasa bukanlah prediksi mereka bahwa akhir umat manusia akan datang, tetapi pembelaan mereka yang sepenuh hati akan hasil itu. Jika kita bisa mengerti mengapa takdir ini dihadirkan sebagai keduanyadiperlukan dan diinginkan , kita mungkin memahami sesuatu tentang keadaan bingung berpikir tentang kehidupan manusia pada awal abad baru ini - dan mungkin terutama cara-cara di mana ilmu pengetahuan modern telah menutup diri dari refleksi serius tentang kehidupan yang baik dan masyarakat yang baik.

TKisah tentang bagaimana manusia akan digantikan oleh mesin cerdas kira-kira seperti ini: Sebagai tren jangka panjang yang dimulai dengan Big Bang, evolusi sistem yang terorganisir, di mana kehidupan hewan dan kecerdasan manusia adalah contoh yang relatif baru, meningkat dalam kecepatan. lembur. Demikian pula, sebagai tren jangka panjang yang dimulai dengan kalkulator mekanis pertama, evolusi kapasitas komputasi meningkat dalam kecepatan dari waktu ke waktu dan penurunan biaya. Dari evolusi biologis telah muncul otak manusia, sebuah mesin elektro-kimia dengan koneksi neuron kompleks yang sangat banyak namun terbatas, produk yang kita sebut pikiran atau kesadaran. Sebagai mesin elektrokimia, otak mematuhi hukum fisika; semua fungsinya dapat dipahami dan diduplikasi. Dan karena komputer sudah beroperasi dengan kecepatan yang jauh lebih cepat daripada otak, mereka akan segera menyaingi atau mengungguli otak dalam kapasitasnya untuk menyimpan dan memproses informasi. Ketika itu terjadi, komputer paling tidak akan mampu menanggapi rangsangan dengan cara yang tidak dapat dibedakan dari tanggapan manusia. Pada titik itu, kita dibenarkan menyebut mesin itu cerdas; kita akan memiliki bukti yang sama untuk menyebutnya sadar yang kita miliki sekarang ketika memberi label seperti itu pada kesadaran apa pun selain kesadaran kita.

Pada saat yang sama, mempelajari otak manusia akan memungkinkan kita untuk menduplikasi fungsinya dalam sirkuit mesin. Kemajuan dalam pencitraan otak akan memungkinkan kita untuk "memetakan" fungsi otak sinaps demi sinaps, memungkinkan pikiran individu digandakan dalam beberapa kombinasi perangkat keras dan perangkat lunak. Hasilnya, sekali lagi, adalah mesin yang cerdas.

Jika cerita ini benar, maka kepunahan manusia akan dihasilkan dari kombinasi antara mengubah diri kita secara sukarela menjadi mesin dan kalah dalam kompetisi evolusioner dengan mesin. Beberapa manusia dapat bertahan hidup di pengaturan seperti kebun binatang atau reservasi. Kita akan diperlakukan sebagai orang tua oleh anak-anak mesin kita: tua di mana mereka baru, tidak sempurna di mana mereka menyempurnakan diri, makhluk kontingen di mana mereka adalah produk dari rancangan yang cerdas. Hasilnya adalah dunia yang dibuat ulang dan dibangun kembali pada tingkat atom melalui nanoteknologi, sebuah dunia yang organisasinya akan dibentuk oleh kecerdasan yang melampaui semua pemahaman manusia.

Hampir semua elemen cerita ini bermasalah. Mereka sering melibatkan spekulasi metafisik dekat tentang sifat alam semesta, atau spekulasi teknis tentang hal-hal yang saat ini tidak mungkin, atau filosofisspekulasi tentang hal-hal, seperti sifat kesadaran, yang merupakan topik perselisihan abadi. Seseorang dapat mengajukan pertanyaan khusus tentang masa depan Hukum Moore, atau masalah pikiran-tubuh, atau masalah evolusi dan kompleksitas yang terorganisir. Namun meskipun mungkin menyenangkan untuk berpegang pada alasan ilmiah atau teknis tertentu untuk berpikir bahwa apa yang diusulkan tidak mungkin, melakukannya adalah bertaruh bahwa kita memahami batas pengetahuan dan kecerdikan manusia, yang sebenarnya tidak dapat kita ketahui sebelumnya. . Ketika sampai pada kelayakan dari apa yang mungkin akan terjadi, para "kepunahan" dan pengkritik mereka sama-sama berspekulasi.

Dapatkan buletin kami

Untuk update tentang karya terbaru kami

Namun demikian, para ahli kepunahan melakukan yang terbaik untuk mengklaim bahwa "akhir umat manusia ... sebagai bentuk kehidupan biologis" tidak hanya mungkin tetapi juga perlu . Entah itu keharusan evolusioner atau akibat tak terhindarkan dari asumsi teknologi bahwa jika "kita" tidak terlibat dalam upaya ini, "mereka" akan melakukannya. Argumen semacam itu jelas tipis, dan kasus bahwa manusia harus membantu dengan antusias dalam kepunahan mereka sendiri tidak masuk akal dari segi evolusi, apalagi yang bermoral. Novelis Inggris Samuel Butler, yang mempertimbangkan kemungkinan bahwa mesin benar-benar merupakan tahap evolusi selanjutnya dalam novel abad ke-19 Erewhon (“Nowhere”), melihat tanggapan yang jelas: orang Erewhonian-nya menghancurkan sebagian besar mesin mereka untuk menjaga kemanusiaan mereka.

“Hanya mengatakan tidak” mungkin tidak mudah, terutama jika mayoritas manusia menginginkan keselamatan yang diklaim ditawarkan oleh para nabi kepunahan. Tapi selama mengatakan tidak (atau menetapkan batasan) bukan tidak mungkin, masuk akal untuk menyelidiki barang-barang yang seharusnya dicapai oleh kepunahan manusia daripada hanya mekanisme yang mungkin atau mungkin tidak memungkinkan. Mengesampingkan proposal yang paling aneh ini - atau setidaknya menangguhkan ketidakpercayaan tentang kelayakan sains - sangat penting apakah kita menolak, pada prinsipnya, barang yang dijanjikan dari kehidupan pasca-manusia. Dengan memeriksa kasus moral untuk meninggalkan kehidupan biologis — kasus untuk bergabung dengan dan kemudian menjadi mesin kita — kita mungkin akan memahami mengapa seseorang menganggap prospek ini menarik,

Dalam karya mereka Beyond Humanity: Cyberevolution and Future Minds, ahli biologi evolusi Gregory Paul dan ahli kecerdasan buatan Earl D. Cox menyatakan kasus kepunahan manusia dengan agak ringkas: “Pertama kita menderita, lalu kita mati. Ini adalah dilema besar manusia.” Seperti yang dilihat oleh para ahli kepunahan, masalah dengan kehidupan manusia bukan hanya penderitaan dan kematian, tetapi tirani keinginan: “Saya membenci fakta,” kata ahli robot Universitas Carnegie Mellon, Hans Moravec, “bahwa saya memiliki dorongan yang sangat kuat ini yang memakan waktu sangat lama. upaya untuk memuaskan dan tidak pernah sepenuhnya ditenangkan. Penemu Ray Kurzweil mengantisipasi bahwa pada tahun 2019 seks virtual, yang dilakukan dengan bantuan berbagai mekanisme yang memberikan umpan balik sensoris lengkap, akan lebih disukai karena kemampuannya "untuk meningkatkan pengalaman dan keamanan". Tapi ini jelas hanya awal cerita:

Seks berkelompok akan memiliki arti baru karena lebih dari satu orang dapat secara bersamaan berbagi pengalaman dari satu pasangan … (mungkin satu tubuh virtual akan mencerminkan konsensus dari gerakan yang dicoba dari banyak pasangan). Seluruh penonton - yang mungkin tersebar secara geografis - dapat berbagi satu tubuh virtual saat terlibat dalam pengalaman seksual dengan satu pemain.

Baik Moravec maupun Kurzweil tidak dapat dianggap sebagai engkol belaka, bahkan jika penilaian mereka berhak dipertanyakan. Moravec telah menjadi pionir dalam pengembangan robot seluler jarak bebas, terutama perangkat lunak yang memungkinkan robot semacam itu menafsirkan dan menavigasi lingkungannya. Karyanya di bidang ini secara konsisten didukung oleh sektor swasta dan lembaga pemerintah seperti NASA, Office of Naval Research, dan Defense Advanced Research Projects Agency. Bukunya tahun 1988, Mind Children: Masa Depan Robot dan Kecerdasan Manusia, mungkin adalah ur-teks dari "transhumanisme," gerakan mereka yang secara aktif mencari evolusi kita yang didorong oleh teknologi di luar kemanusiaan. Kurzweil adalah pemenang National Medal of Technology 1999, yang terkenal karena karyanya mengembangkan sistem pengenalan karakter optik. Dia menemukan sistem text-to-speech pertama untuk membaca untuk orang buta dan menciptakan synthesizer musik berbasis komputer pertama yang secara realistis dapat membuat ulang instrumen orkestra.

Moravec dan Kurzweil sama-sama membenci tubuh manusia: penyakit daging yang rapuh dan lemah, dan keterbatasan yang melekat pada kehidupan tubuh, termasuk ketidakmampuan untuk memenuhi keinginan tubuh kita sendiri. Bahkan jika kita bekerja dengan sempurna, dengan kata lain, ada banyak cara di mana "bekerja" itu dapat dilihat sebagai cacat karena kita mungkin telah dirancang dengan lebih baik sejak awal.

Ambil, misalnya, mata manusia. Mengapa itu terbuat dari bahan yang tidak penting seperti itu? Mengapa kabel keluarannya sedemikian rupa sehingga mengganggu penglihatan kita? Mengapa terbatas untuk melihat bagian sempit dari spektrum elektro-magnetik? Tentu saja, kami pikir kami tahu jawaban atas semua pertanyaan seperti itu: begitulah cara mata berevolusi. Berkali-kali, keadaan kebetulan lebih menyukai beberapa mutasi daripada yang lain sampai kita memiliki konfigurasi khusus ini (dan tidak diragukan lagi bersifat sementara). Tidak heran jika semuanya tampak agak berbatu. Namun, klaim para ahli kepunahan, kita juga telah mengembangkan kemampuan cerdas untuk memandu evolusi. Mengesampingkan semua spekulasi metafisik bahwa hasil seperti itu adalah tujuan dari proses tersebut, setidaknya kita dapat melihat apakah kemampuan untuk memandu evolusi akan memberikan keuntungan bertahan hidup atau tidak. Memiliki mata, kita tidak berjalan berkeliling dengan mata tertutup. Memiliki kemampuan untuk memandu evolusi, sebaiknya kita menggunakannya.

Singkatnya, jika manusia hanyalah mekanisme yang dapat ditingkatkan, jika bagian kita dapat digantikan oleh orang lain, maka tidak masalah apakah mereka dibangun secara biologis atau sebaliknya. Itu banyak berlaku untuk kehidupan tubuh . Tapi bagaimana dengan kehidupan pikiran? Kehidupan itu tidak hanya muncul dari mekanisme biologis otak, tetapi apa yang kita alami melalui mekanisme itu, kata para ahli kepunahan, sudah menjadi realitas virtual. Kami tidak memiliki pengetahuan tentang dunia nyata; kita hanya memiliki pemrosesan input sensorik tubuh kita oleh otak kita. Kesadaran secara radikal subyektif dan pada dasarnya tunggal. Kami menyimpulkannya pada orang lain (misalnya, tetangga, hewan peliharaan, hewan kebun binatang) dari tanda-tanda lahiriah yang tampaknya sesuai dengan keadaan batin yang kami alami secara langsung. Membuat komputer menunjukkan tanda-tanda luar seperti itu telah menjadi cawan suci kecerdasan buatan sejak Alan Turing menemukan tes kecerdasan mesinnya yang terkenal, yang mendefinisikan mesin cerdas sebagai mesin yang dapat membodohi hakim dengan berpikir bahwa dia sedang berbicara dengan manusia.

Meskipun pemikir selanjutnya mungkin telah mengembangkan gambaran yang lebih canggih tentang kapan kehidupan artifisial harus dianggap sadar , prinsip panduannya tetap sama: tidak ada penghalang untuk mendefinisikan kehidupan pikiran dengan cara yang membuatnya hampir tidak dapat dibedakan dari cara kerja komputer. . Ketika semua dikatakan dan dilakukan, kekhasan manusia dipahami tidak lain dari konfigurasi biologis tertentu; itu, seperti semua konfigurasi semacam itu, merupakan peristiwa sementara dalam skala evolusi. Dari sudut pandang ini, menjadi sulit untuk membenarkan kekhawatiran serius apa pun jika cara kerja evolusi berdampak pada kita seperti yang telah terjadi pada begitu banyak spesies lain; menjadi "spesiesisme" peringkat untuk berpikir bahwa kita pantas mendapatkan sesuatu yang berbeda.

Namun para ahli kepunahan tidak puas menunjukkan mengapa, seperti yang lainnya, manusia akan digantikan atau mengapa dunia mungkin lebih baik tanpa kita. Mereka bertujuan untuk menunjukkan mengapa manusia harus diganti. Jika kita terganggu oleh keterbatasan dan ketidaksempurnaan, pembusukan dan kematian, kita dapat membayangkan sebuah dunia di mana kecerdasan memiliki kekuatan yang cukup untuk menciptakan sesuatu yang lebih baik.

Inti dari proyek kepunahan untuk menyempurnakan — dan dengan demikian menggantikan — kehidupan manusia seperti yang kita ketahui, bukan hanya keyakinan bahwa tubuh kita tidak lebih dari mesin yang dirancang dengan buruk, tetapi identitas kita adalah sesuatu yang dapat eksis secara independen dari tubuh kita. Seperti yang dijelaskan Moravec, esensi seseorang adalah “pola dan proses yang terjadi di kepala dan tubuh saya, bukan mesin yang mendukung proses itu. Jika polanya dipertahankan, saya dipertahankan. Sisanya agar-agar.” Dengan nada yang sama, Kurzweil melukiskan gambaran tentang bagaimana kita akan semakin hidup dalam persekutuan yang lebih dekat dengan kecerdasan mesin; bagaimana kita akan membuat "avatar virtual" yang memungkinkan kita melakukan "multitask"; bagaimana "zaman mesin spiritual" yang akan datang akan memungkinkan kita, antara lain, untuk menghadiri pertemuan dan menikmati pertemuan seksual pada saat yang bersamaan.

Dalam pandangan ini, tidak ada alasan mengapa robot pasca-manusia ini harus berbentuk manusia; sebenarnya, banyak alasan mengapa mereka tidak boleh melakukannya. Moravec membayangkan sesuatu yang dia sebut "robot semak", kumpulan jutaan lengan manipulatif sensorik mulai dari ukuran besar hingga skala nano. Bayangkan sebuah tangan di mana masing-masing jari memiliki jari, dan jari-jari itu memiliki jari, diskalakan dengan banyak urutan besarnya dari satu mikron hingga satu meter:

Robot semak akan menjadi keajaiban surealisme untuk dilihat. Terlepas dari kemiripan strukturalnya dengan banyak makhluk hidup, itu tidak seperti apa pun yang pernah terlihat di bumi. Kecerdasannya yang luar biasa, koordinasi yang luar biasa, kecepatan astronomis, dan kepekaan yang luar biasa terhadap lingkungannya akan memungkinkannya untuk terus-menerus melakukan sesuatu yang mengejutkan, pada saat yang sama mempertahankan keanggunan abadi… Perangkat berkaki triliun, dengan otak yang cocok, adalah tatanan yang sama sekali berbeda menjadi. Selain itu, kemampuan untuk memecah menjadi awan penerbang kecil yang terkoordinasi, dan hukum fisika tampaknya akan meleleh di hadapan niat dan kemauan. Seperti tidak ada pesulap yang pernah ada, hal-hal yang mustahil akan terjadi begitu saja di sekitar semak robot.

Zaman baru (im)kemungkinan ini dimulai dengan penghapusan tubuh. Sebagai perangkat lunak, keturunan kita dapat digabungkan dengan otak lain yang diunduh, manusia dan non-manusia. Mereka dapat menyinari diri mereka sendiri dengan kecepatan cahaya di sekitar alam semesta, yang pada akhirnya menciptakan jaringan kecerdasan terpadu yang luas. Seperti yang dibayangkan Moravec:

Spekulasi kita berakhir dengan supercivilization, sintesis dari semua kehidupan tata surya, terus-menerus berkembang dan meluas, menyebar keluar dari matahari, mengubah non-kehidupan menjadi pikiran. Mungkin saja ada gelembung lain yang mengembang dari tempat lain. Apa yang terjadi jika kita bertemu satu? Penggabungan yang dinegosiasikan adalah suatu kemungkinan, hanya membutuhkan skema terjemahan antara representasi memori. Proses ini, mungkin terjadi sekarang di tempat lain, mungkin mengubah seluruh alam semesta menjadi entitas pemikiran yang diperluas, pendahuluan dari hal-hal yang lebih besar.

Berpikir dengan kecepatan cahaya, memanipulasi materi pada skala atom, membebaskan diri kita dari batasan tubuh, penerus jaringan umat manusia akan menjadi penguasa alam semesta. Ini akan menemukan cara baru untuk mencegah kepunahan akhirnya sendiri. Itu akan menciptakan kembali dunia yang hilang dan membangkitkan orang mati. Ini akan menutup kesenjangan antara imajinasi dan kenyataan. Dan di sini kita melihat godaan besar dari kehidupan artifisial: Ia menawarkan baik kritik terhadap keterbatasan manusia maupun janji akan kekuatan masa depan . Batasan menciptakan keinginan akan kekuasaan; janji kekuasaan membuat batasan tampak kurang dapat diterima.

Para ahli kepunahan jelas merupakan keturunan dari pemikir pendiri sains modern, Francis Bacon dan René Descartes, yang melihat kondisi manusia sebagai sesuatu yang harus diperbaiki dan alam hanya sebagai alat untuk memperbaikinya. Pasti ada hubungan antara dualisme Cartesian - keyakinan bahwa pikiran dan tubuh adalah fenomena yang berbeda - dan gagasan kepunahan bahwa kita harus memutuskan pikiran dan identitas individu kita sepenuhnya dari tubuh kita. Ilmu pengetahuan modern, bisa dikatakan, akhirnya menunjukkan warna aslinya: kekuasaan atas alam mencakup kekuatan baru atas kehidupan manusia, dan kekuasaan atas kehidupan manusia mencakup kekuatan untuk mengubah, mengubah, dan menghapuskan semua yang manusiawi.

Namun, setidaknya ada jarak yang harus ditempuh dari advokasi Bacon untuk "pembebasan harta manusia" ke penghapusan manusia. Kemiringan konseptual ini - dari "meningkatkan kehidupan manusia" menjadi "mendesain ulang manusia" menjadi "penghapusan manusia" - diolesi oleh keyakinan evolusioner yang mengilhami kesetiaan yang lebih besar pada masa depan yang dibayangkan daripada saat ini yang tidak sempurna. Sementara melihat manusia hanya sebagai produk kebetulan, para ahli kepunahan percaya bahwa, di tangan mereka, evolusi mungkin memiliki tujuan; bahwa kita sedang mendekati puncak pendakian dari kehidupan pra-cerdas ke kehidupan super-cerdas; bahwa kita memperoleh, untuk pertama kalinya, kemampuan untuk mengendalikan proses evolusi secara sadar.

Dengan keyakinan yang begitu besar pada kemajuan evolusioner, batasan apa pun pada elemen utopis yang sudah ada di Bacon dan Descartes menghilang. Manusia dibayangkan hanya sebagai mata rantai yang membentang dari kebetulan kita yang dimulai dengan Big Bang hingga zaman baru kehidupan berakal. Jika Moravec benar, pada akhirnya masa depan robot hampir secara harfiah dapat menebus masa lalu. Selama kecerdasan tetap manusiawi, rekonsiliasi semacam itu tidak dapat terjadi, karena manusia adalah hasil kebetulan. Tetapi ketika "pikiran, semua pikiran penakluk" muncul dengan sendirinya - diwujudkan dengan cara yang ia ciptakan untuk dirinya sendiri - alam semesta pada akhirnya akan memiliki tujuan.

Pada pemeriksaan lebih dekat, drama penebusan teknologi ini — dari evolusi yang tidak berarti menjadi kecerdasan yang menyelamatkan dari evolusi — berantakan. Saat Kurzweil mengatakan “ kami akan menjadi perangkat lunak [penekanan ditambahkan],” dia membuat pernyataan yang tidak dapat didukung tentang kesinambungan antara manusia dan robot. Memang, kebenarannya bukanlah kesinambungan tetapi pemisahan radikal jika seseorang menganggap serius gambaran dunia robot yang ditawarkan oleh para pembelanya. Mengingat disjungsi ini, ada dua hal yang mengikuti: Pertama, semua yang tampak baik pada manusiaistilah tentang dominasi robot mungkin tidak ada hubungannya dengan kebaikan seperti yang dipahami oleh robot pemenang, menjadikan keunggulan dunia mereka atas dunia kita sebagai pertanyaan terbuka. Kedua, sulit untuk melihat pembenaran evolusioner bagi manusia yang rela menerima dan mendukung kepunahan mereka sendiri; mesin setidaknya harus diharapkan untuk membuktikan keunggulan evolusioner mereka. Meneliti masalah ini lebih dekat adalah kunci untuk memahami mengapa kepunahan, pada akhirnya, tidak diinginkan atau tidak dapat dihindari.

Seseorang harus mulai dengan masalah yang muncul jika manusia meninggalkan tubuh mereka untuk mengejar keabadian elektronik. Karena keyakinannya pada “identitas pola”, Moravec berspekulasi tentang transisi yang pada dasarnya mulus antara “aku” sebagai entitas biologis dan “aku” sebagai mesin. Tubuh diperlakukan sebagai komponen kepribadian yang sepele; bagaimanapun, mereka berubah secara dramatis dari waktu ke waktu dan sebagai akibatnya kita tidak kehilangan rasa identitas kita. Tetapi argumen ini jelas merupakan pernyataan yang terlalu dibesar-besarkan. Sebagian besar (mungkin semua) identitas orang cukup terikat dengan tubuh mereka sehingga perubahan semacam itu signifikan secara manusiawi dan moral. Dan siapa pun harus mengakui bahwa "aku" yang dia miliki pada usia 16 tahun tidak sama dengan "aku" yang ada pada usia 45 tahun, betapapun seseorang mungkin "masih merasa 16 tahun di dalam" (yang mungkin dimiliki oleh seorang anak berusia 16 tahun yang sebenarnya. meragukan). Perubahan ini jelas mencerminkan hilangnya kekuatan fisik dan beban baru berupa usia dan penyakit; tetapi juga melibatkan transformasi yang lebih dalam dari kerinduan kita, pemahaman kita tentang dunia, dan tugas kita yang tidak dapat dipisahkan dari keberadaan kita sebagai makhluk yang bertubuh. Mengingat realitas psiko-fisik ini, tampak luar biasa bahwa para ahli kepunahan begitu rela menghapus komponen tubuh kita.

Jadi, tampaknya sangat mungkin bahwa kedatangan kehidupan pasca-biologis akan berarti kematian diri, bukan keabadian diri. "Aku" robotik akan berpikir jauh lebih cepat, secara dramatis memengaruhi perasaan subjektif "ku" tentang waktu. Memori akan diperluas secara signifikan dan karakternya berubah. Robot "Saya" akan memiliki akses ke lebih banyak informasi dan pengalaman, dan (menerima kesombongan penulis ini bahwa perangkat keras dan perangkat lunak saya akan berfungsi dengan sempurna) tidak akan pernah melupakan apa pun. Input sensoriknya akan berbeda, begitu pula mekanisme pemrosesannya. Tetapi "aku" yang dapat melakukan semua hal yang dimungkinkan oleh dunia virtual semakin sulit untuk dipahami dari sudut pandang "aku" yang dimulai sebagai makhluk yang berwujud dan biologis. Itu akan memiliki kemampuan, bakat, dan minat yang sangat berbeda. Jika ada kemiripan sama sekali antara mesin dan pendahulu yang diwujudkannya, analogi terdekat dengan hubungan itu mungkin antara orang dewasa dan bayi dulu. Sepertinya kita tidak memiliki ingatan yang dapat dipulihkan dengan mudah tentang masa bayi kita; Saya hanya memiliki pendapat dari orang lain bahwa foto bayi kecil itu benar-benar foto saya. Dari sudut pandang subyektif, hubungan tersebut sangat renggang.

Jika sangat sulit untuk membangun kesinambungan antara saya dan kreasi ulang saya sebagai mesin, maka penilaian apa pun tentang keunggulan dunia robot dengan dunia kita akan menyesatkan secara inheren. Agar masa depan ini menarik, para ahli kepunahan harus menulis tentangnya dengan cara yang terlihat menarik bagi kita, sebagai manusia - dengan cara yang tampaknya memuaskan kebaikan yang kita pahami. Tapi dunia baru tidak akan menjadi dunia manusia. Sulit dipercaya untuk berpikir bahwa lemur bermata besar yang merupakan leluhur manusia yang jauh dapat benar-benar membayangkan bentuk kehidupan manusia yang baik, dan ini ketika kita mungkin berbagi lebih banyak dengan leluhur itu daripada yang seharusnya dibagikan oleh keturunan mesin kita dengan kita. Letakkan lemur itu atau nenek moyang manusia yang jauh di dunia kita, dan dia akan bereaksi dengan ketakutan dan kebingungan seperti binatang buas.

Singkatnya, betapapun menariknya dunia kehidupan buatan (setidaknya bagi para ilmuwan yang membayangkannya), kita tidak memiliki alasan untuk percaya bahwa kita benar-benar dapat memahami makhluk yang akan tinggal di sana. Mengapa mengharapkan mereka, misalnya, untuk "membangkitkan" manusia mati bahkan jika mereka bisa? Seseorang hampir tidak dapat mengandalkan cinta atau keingintahuan yang sama yang akan menggoda sebagian dari kita untuk "mengkloning" leluhur yang telah meninggal jika kita bisa; cinta dan rasa ingin tahu, bagaimanapun, adalah karakteristik manusia. Hal yang sama berlaku untuk welas asih, kebajikan, hiburan, atau motif lain yang bisa kita bayangkan. Begitu umat manusia dikalahkan, semua taruhan dibatalkan dan apa pun yang kita katakan tentang masa depan pasca-biologis hanyalah proyeksi dari sifat biologis kita sendiri. Akibat wajar dari Arthur C. Hukum Clarke bahwa "teknologi apa pun yang cukup maju tidak dapat dibedakan dari sihir" tampaknya cocok: kebajikan apa pun yang cukup maju mungkin tidak dapat dibedakan dari kedengkian. Jika masa depan yang dibayangkan para kepunahan untuk "kita" akan muncul besok di tata surya, sangat sulit untuk membayangkan bagaimana itu akan menjadi kabar baik.

Moravec menawarkan pengakuan sebagian dari masalah ini ketika dia mengakui bahwa keabadian yang dia tawarkan hanyalah "pertahanan sementara" terhadap "aspek terburuk dari kematian pribadi". Saat dia menjelaskan:

Dalam jangka panjang, kelangsungan hidup kita membutuhkan perubahan yang tidak kita pilih. Sebagian dari kita harus dibuang dan diganti dengan suku cadang baru untuk mengikuti kondisi yang berubah dan pesaing yang berkembang… Meskipun kita abadi, kita harus mati sedikit demi sedikit jika ingin berhasil dalam acara kualifikasi — kelangsungan hidup yang berkelanjutan. Pada waktunya, kita masing-masing akan menjadi makhluk yang benar-benar berubah, lebih dibentuk oleh tantangan eksternal daripada keinginan kita sendiri. Kenangan dan minat kita saat ini, setelah kehilangan relevansinya, paling-paling akan berakhir di arsip berdebu … Dilihat dengan cara ini, keabadian pribadi melalui transplantasi pikiran adalah teknik yang manfaat utamanya adalah untuk sementara waktu memanjakan kepekaan dan sentimentalitas individu manusia.

Tapi orang bertanya-tanya: Kepada siapa kata ganti "kita" dan "kami" sebenarnya merujuk? Moravec tampaknya tidak berharap bahwa kepekaan "mereka" akan menjadi "milik kita". Apa yang mungkin tampak seperti keabadian bagi manusia — dan karenanya sesuatu yang sangat diinginkan oleh banyak orang — tampak seperti ketidaknyamanan bagi makhluk pasca-manusia (atau anti-manusia) yang berpihak pada kepunahan. Untuk merangkul visi kepunahan membutuhkan membutakan diri kita sendiri mengapa manusia mungkin tidak ingin hidup di dunia robot; mengapa robot kemungkinan besar tidak terlalu peduli pada "kita"; dan mengapa benar-benar tidak ada "kita" yang akan ada setelah kehidupan kita yang berwujud menjadi usang.

Mungkin argumen ini melebih-lebihkan kesenjangan antara mereka dan kita . Mengingat warisan manusia yang dibayangkan ada dalam "perangkat lunak" makhluk-makhluk baru ini, mungkin sesuatu yang kita kenal akan hadir di dalamnya (dengan cara yang sama seperti yang diyakini sebagian orang bahwa "otak reptil" tetap ada dalam umat manusia). Mungkin struktur mendalam kecerdasan manusia akan terus memengaruhi keberadaan mereka.

Tetapi argumen seperti itu tampaknya mengabaikan perubahan yang diduga dari evolusi berbasis kebetulan menjadi evolusi yang diarahkan secara sadar . Jika kita memiliki otak reptil itu, itu karena cara serampangan di mana evolusi biologis membangun yang baru di atas yang lama. Sebaliknya, makhluk rekayasa diri di masa depan akan membuat keputusan sendiri tentang apa yang ingin mereka pertahankan dari yang lama, dan argumen kepunahan tentang kekurangan kehidupan manusia tidak memberikan banyak alasan untuk berpikir bahwa banyak dari favorit kita kualitas akan menggoda mereka yang menggantikan kita. Bahkan hasrat manusia (keabadian, kesehatan sempurna, kepuasan tanpa batas) yang membuat kehidupan robot tampak menarik adalah produk dari keterbatasan biologis yang tidak lagi dimiliki robot.

Mungkin keharmonisan antara kita dan mesin-mesin masa depan akan bergantung pada fakta bahwa robot-robot itu akan menjadi atasan moral kita, dan bahwa pengembangan diri mereka yang sadar diri akan lebih unggul secara moral daripada kelangsungan hidup alam yang terkuat. Dengan kata lain, mungkin robot akan baik pada kita. Proposisi ini menggoda, terutama mengingat kemudahan yang memungkinkan (terutama bagi para ilmuwan) untuk mengaitkan begitu banyak sifat buruk manusia dengan keberadaan tubuh kita. Tapi Kurzweil lebih tahu, memperkirakan bahwa kira-kira setengah dari daya komputasi dunia robot akan dikhususkan untuk keamanan — menangkis virus, melawan nanoteknologi yang bermusuhan, dan sebagainya. Keabadian yang dijanjikan kepada "makhluk perangkat lunak" didasarkan pada premis salinan cadangan yang memadai, bukan pada ketiadaan konflik yang mematikan. Jika masa depan kepunahan membayangkan orang baik dan orang jahat, betapapun tidak dapat kita kenali, maka gambaran kecerdasan universal mulai lebih terlihat seperti dewa-dewa yang berperang. Paradoksnya, pencarian penciptaan tatanan kosmik yang cerdas, yang gagal diberikan oleh alam kepada kita, tampaknya berakhir dengan semacam kekacauan dunia maya, perang baru semua melawan semua.

Argumen ini semua mengasumsikan beberapa ukuran pilihan dalam membentuk masa depan. Tetapi bagian dari argumen kepunahan adalah bahwa kemenangan robot adalah masalah kebutuhan evolusioner. Spesies kita telah mengembangkan karakteristik — kemampuan untuk memandu evolusi secara cerdas — yang tidak memiliki nilai kelangsungan hidup tertinggi untuk dirinya sendiri, tetapi membuka jalan bagi makhluk yang akan menggantikan kita. Apakah manusia saat ini mau atau tidak mampu "mengunduh" otak mereka ke dalam mesin, akan tiba saatnya semua manusia akan dikalahkan oleh mesin cerdas dalam perjuangan evolusi. Lalu apa yang terjadi?

Moravec berharap bahwa "anak-anak pikiran" kita akan memperlakukan kita seperti orang tua, sebuah gambaran yang mungkin sudah memberi jeda bagi beberapa orang tua yang malang. Tapi dari sudut pandang evolusioner, sepertinya tidak banyak alasan untuk mengharapkan rasa hormat yang sebesar ini. Mengapa "mangsa" bukan label yang lebih mungkin daripada "induk" untuk prekursor dan pesaing evolusi yang gagal? Kendala moral yang dikembangkan manusia untuk memoderasi hukum rimba relevan dengan sifat biologis khusus kita; makhluk yang tidak berbagi sifat itu tidak mungkin menemukan batasan seperti itu sebagai hal yang menarik. Seperti yang dicatat oleh penulis fiksi Butler dari Book of the Machines , "Saya tidak berpikir akan pernah aman untuk menaruh banyak kepercayaan pada pengertian moral dari mesin apa pun."

Terputus dari harapan bahwa dunia robot akan menjadi dunia yang menarik bagi manusia, kita memiliki masa depan perjuangan evolusioner. Mengapa mengembangkan kapasitas, dalam hal ini kapasitas untuk memandu evolusi, jika tidak bermanfaat bagi kita? Kita mungkin atau mungkin tidak dapat memenangkan perjuangan ini, tetapi tidak ada alasan untuk menyerah sebelum perjuangan ini benar-benar berlangsung. Memang, seperti yang disarankan Butler, waktu untuk bertindak mungkin sebelum mesin mengungkapkan kapasitas penuhnya.

To menyebut proyek kepunahan spekulatif adalah pernyataan yang meremehkan; sebagian besar saat ini adalah fiksi ilmiah - bahkan di luar pertahanan konvensional bahwa kita hidup di dunia yang tampak seperti "fiksi ilmiah" bagi mereka yang mendahului kita. Karena kita hidup di dunia yang setidaknya masih bisa dikenali sebagai manusia. Kehidupan moral nenek moyang kita masih masuk akal bagi kita. Semua penemuan dan penemuan luar biasa yang membentuk zaman sekarang tidak mengubah dasar-dasar kehidupan manusia (tubuh biologis, kegembiraan dan penderitaan, kelahiran dan kematian) yang ingin diatasi oleh visi kepunahan. Menyimpulkan dengan bertanya "apa yang harus dilakukan" dalam menghadapi tantangan kepunahan dapat membuat beberapa pembaca berpikir bahwa penulis telah kehilangan semua rasa proporsional. Apakah kita benar-benar mengkhawatirkan gagasan sekelompok kecil pemikir, yang visi masa depan yang sangat spekulatif tampaknya saat ini sama sekali tidak mungkin? Tentunya ada tantangan yang jauh lebih mendesak bagi masa depan manusia.

Tentu saja ada. Tapi orang juga sama bodohnya dengan mengabaikan potensi signifikansi ilmu baru. Perangkat keras komputer akan terus menjadi lebih cepat, lebih murah, dan lebih kuat. Perangkat lunak komputer akan semakin canggih. Penelitian otak akan terus mengeksplorasi “mekanisme” kesadaran. Nanoteknologi akan terus berkembang. Tonggak sejarah menuju era mesin sadar kemungkinan besar tidak akan diwujudkan dengan cara yang diklaim oleh para penggemar terbesar mereka. Tetapi adalah masalah keyakinan untuk mengatakan bahwa tidak satu pun dari pencapaian teknologi ini yang dapat dicapai.

Kedua, ada insentif yang kuat — komersial, militer, medis, dan intelektual — yang akan mendorong banyak kemajuan yang diinginkan oleh para kepunahan, jika untuk alasan yang sangat berbeda. Sebagian besar pekerjaan dalam kecerdasan buatan dan robotika terbuka untuk pertahanan yang sama yang dibuat atas nama bioteknologi: “jika kita tidak melakukannya, mereka akan melakukannya” dan “mengapa menderita atau tidak bahagia ketika beberapa agen atau penemuan baru tersedia yang akan meringankan atau menyembuhkan masalah?”

Akhirnya, kami telah menerima augmentasi buatan yang signifikan dan penggantian bagian tubuh alami ketika bagian tersebut hilang atau rusak. Seiring waktu, penggantian semacam itu hanya akan menjadi lebih berguna - dan mungkin pada akhirnya tidak dapat dibedakan dari atau "lebih unggul" dari rekan biologis mereka - karena mereka menggunakan kekuatan pemrosesan komputer yang meningkat. Juga tidak ada perbedaan yang jelas antara menggunakan bahan kimia yang diproduksi untuk melawan penyakit dan menggunakan nanoteknologi "pintar". Proyek kepunahan dimulai dengan menawarkan rute baru untuk memenuhi janji lama tentang berbuat baik untuk manusia. Tapi itu tidak harus berakhir di sana.

Dalam keadaan seperti ini, tidak masuk akal untuk berpikir tentang bagaimana kita dapat menanggapi kemungkinan yang diajukan oleh para ahli kepunahan. Dan dalam praktiknya, mengingat posisi tersebut sudah memiliki pendukungnya, akan menjadi picik untuk tidak memberikan setidaknya beberapa sanggahan di luar kritik teknis yang jelas.

Sehubungan dengan kecerdasan mesin, tampaknya tidak terlalu menjanjikan untuk mencoba membatasi kekuatan atau kemampuan komputer. Bahaya (atau janji) bahwa komputer dapat mengembangkan karakteristik yang membuat beberapa orang menyebutnya sadar - dan bahwa usia mesin cerdas ini akan berarti kepunahan kita - tampaknya jauh jika dibandingkan dengan manfaat praktisnya. Kami sudah sangat bergantung pada komputer sehingga insentif untuk membuatnya lebih mudah digunakan dan lebih kuat sangat besar. Komputer sudah melakukan banyak hal lebih baik daripada yang kita bisa, dan tampaknya tidak ada tempat alami untuk menghentikan kemampuan lebih lanjut.

Namun, seseorang dapat mencoba memperkaya pemahaman orang tentang ciri khas kehidupan manusia, agar kita tidak mudah tergoda oleh anggapan bahwa mesin kita "sama seperti kita" atau "lebih baik". Tentu saja asumsi mekanistik dan reduksionis tentang masyarakat, etika, dan psikologi—gagasan bahwa kita hanyalah atom atau hewan, didorong oleh kebetulan atau insting—berada jauh di dunia saat ini. Tetapi ada arus yang lebih dalam yang bertahan lebih lama yang menantang asumsi ini, dan tidak hanya atas nama pengabdian atau tradisi keagamaan. Masih mungkin untuk mempertahankan cinta dan keunggulan, keberanian dan kasih amal, dari mereka yang membayangkan pengalaman manusia yang nyata seperti itu sebagai ilusi, dan menerima bahwa kebajikan dan pengalaman ini tidak dapat dipisahkan dari keterbatasan manusia. Bagian dari setiap pertempuran melawan kepunahan, seperti melawan ahli bioteknologi, adalah memulihkan dan menyempurnakan pemahaman manusia tentang hal-hal manusia. Apa yang akan terjadi di masa depan untuk pemahaman seperti itu mungkin belum ditentukan, tetapi kita tidak perlu menyerahkan lapangan sebelum pertempuran benar-benar terjadi. Jika, seperti yang disarankan Kurzweil, kita akan mengetahui mesin sadar ketika kita melihatnya, setidaknya kita dapat memastikan bahwa untuk semua kecuali yang paling dogmatis atau percaya diri, standar dinaikkan ke ketinggian yang sesuai.

Di luar "kata sains"

Atlantis Baru  sedang membangun budaya di mana sains dan teknologi bekerja untuk, bukan untuk manusia.

Berlangganan sekarang

Kita juga harus menyempurnakan dan memperluas pemahaman kita tentang apa yang merupakan kemajuan manusia. Ketika para ahli kepunahan berbicara tentang akan menjadi apa "kita", misalnya, apakah mereka benar-benar memikirkan petani Cina atau anggota suku Afrika - atau apakah orang-orang seperti itu tidak relevan dengan masa depan? Akankah dunia komputer dan teknologi informasi menghasilkan begitu banyak kekayaan dan otomatisasi sehingga tak seorang pun harus bekerja? Dan jika demikian, apakah itu benar-benar masa depan yang diinginkan? Dalam kisah klasik Yahudi, seorang carter yang saleh meninggal dan Tuhan mengabulkan keinginannya yang tulus untuk terus menjadi carter di Dunia yang Akan Datang. Para ahli kepunahan salah jika berpikir bahwa tubuh yang rusak adalah satu-satunya masalah kita dan pikiran yang lebih baik adalah satu-satunya aspirasi kita - sama seperti mereka salah jika mengabaikan kesulitan manusia yang sebenarnya yang dapat diperbaiki oleh kemajuan yang benar-benar manusiawi, bukan pasca-manusia. Paling-paling, mereka meramalkan dunia yang disukai orang- orangingin. Ini adalah visi sempit tentang kebaikan manusia.

Akhirnya, kita harus menghadapi evolusi. Sebagaimana manusia individu pada akhirnya harus mati, demikian pula umat manusia tidak dapat mengandalkan keberadaan selamanya. Perubahan biologis (atau astronomi) akan memastikan hal itu cepat atau lambat. Tapi tidak ada dalam teori evolusi yang menunjukkan bahwa kita memiliki kewajiban untuk bunuh diri. Tidak ada yang mengatakan bahwa kita tidak dapat terus memodifikasi lingkungan kita selama kita bisa membuatnya lebih kondusif bagi keberadaan kita. Kemanusiaan bukan hanya masalah satu kualitas abstrak yang kita sebut "kecerdasan", jadi tidak ada alasan untuk mengejar, atas nama evolusi, jalan yang mengklaim memaksimalkan satu kualitas ini ("pikiran penakluk") dengan mengorbankan semua yang lain. Dan sementara kemungkinan jauh dari kepunahan kita sendiri memang mengerikan, tidak ada alasan untuk meninggalkan jabatan kita saat ini atau mengabaikan pentingnya menjalani kehidupan manusia kita dengan buruk atau baik.

Pada akhirnya, visi kepunahan masa depan adalah khayalan yang berbahaya — menjanjikan hal-hal yang tidak akan tersedia bagi makhluk yang tidak akan ada di sana untuk menikmatinya. Jika dunia manusia murni atau bahkan kejahatan yang seimbang, mungkin ada beberapa alasan untuk mencari akhirnya. Tetapi meskipun demikian tidak ada alasan untuk berasumsi bahwa dunia pasca-manusia akan lebih unggul secara moral daripada dunia kita.

Mungkin mudah untuk memahami godaan kehidupan artifisial dan narasi utopis yang menyertainya. Perpaduan antara keterbatasan manusia dan kecerdasan manusia telah melahirkan kekuatan manusia baru (teknologi); dan kehidupan baru kita sebagai mesin sadar diri akan memungkinkan kita untuk mencapai apa yang pernah disediakan hanya untuk para dewa (kehidupan abadi). Mimpi ini dijanjikan bukan di dunia berikutnya tetapi di dunia ini, dan itu tidak tergantung pada dipilih tetapi pada memilih kepunahan dan kelahiran kembali kita sendiri. Makhluk yang terbatas dapat, dengan sendirinya, mengatasi keterbatasan mereka. Makhluk yang tidak sempurna bisa membuat dirinya sempurna.

Maka, tidak mengherankan jika proyek ini didasarkan pada pemahaman yang terkikis tentang kehidupan manusia, dan bahwa sains yang mengklaim memungkinkan hanya mempercepat erosi itu. Tentu saja, bagian dari menjadi manusia mencakup kesulitan untuk mendamaikan diri kita dengan keterbatasan kita. Pasti ada banyak keputusasaan di dunia ini, dan mudah untuk membayangkan dan mengharapkan sesuatu yang lebih baik. Tetapi para ahli kepunahan mengilustrasikan kehampaan klaim besar untuk tatanan baru, dan betapa mudahnya, dalam pengejaran mereka, berakhir lebih buruk daripada kita sekarang.