Singularity New

Versi singkat:

Jika kecepatan komputasi berlipat ganda setiap dua tahun, apa yang terjadi ketika kecerdasan buatan berbasis komputer melakukan penelitian?

Kecepatan komputasi berlipat ganda setiap dua tahun. Kecepatan komputasi berlipat ganda setiap dua tahun kerja. Kecepatan komputasi berlipat ganda setiap dua tahun subjektif kerja.

Dua tahun setelah Kecerdasan Buatan mencapai kesetaraan dengan manusia, kecepatan mereka berlipat ganda. Satu tahun kemudian, kecepatan mereka berlipat ganda lagi.

Enam bulan - tiga bulan - 1,5 bulan ... Singularitas.

Masukkan angka-angka untuk kecepatan komputasi saat ini, waktu penggandaan saat ini, dan perkiraan daya pemrosesan mentah otak manusia, dan angka-angka tersebut cocok pada tahun: 2021.

Tapi secara pribadi, saya ingin melakukannya lebih cepat.

1: Akhir Sejarah

Semuanya dimulai tiga setengah miliar tahun yang lalu di kolam lumpur, ketika sebuah molekul membuat salinan dirinya sendiri dan menjadi leluhur terakhir dari semua kehidupan di Bumi.

Semuanya dimulai empat juta tahun yang lalu, ketika volume otak mulai meningkat dengan cepat pada garis hominid.

Lima puluh ribu tahun yang lalu dengan munculnya Homo sapiens sapiens. Sepuluh ribu tahun yang lalu dengan penemuan peradaban. Lima ratus tahun yang lalu dengan penemuan mesin cetak. Lima puluh tahun yang lalu dengan penemuan komputer.

Dalam waktu kurang dari tiga puluh tahun, semuanya akan berakhir.

Pada suatu saat di masa depan yang dekat, seseorang akan menemukan metode untuk meningkatkan kecerdasan maksimum di planet ini - entah dengan membuat Kecerdasan Buatan yang sejati atau meningkatkan kecerdasan manusia. Seorang manusia yang ditingkatkan akan lebih baik dalam menciptakan cara-cara untuk meningkatkan manusia; mereka akan memiliki "kapasitas penemuan yang meningkat". Kemampuan yang ditingkatkan ini akan diarahkan pada apa? Menciptakan generasi berikutnya dari manusia yang ditingkatkan.

Dan apa yang akan dilakukan oleh pikiran yang ditingkatkan tersebut? Meneliti metode pada manusia yang ditingkatkan tiga kali lipat, atau membangun pikiran Kecerdasan Buatan yang beroperasi dengan kecepatan komputer. Dan sebuah Kecerdasan Buatan akan mampu memprogram dirinya sendiri, secara langsung, untuk berjalan lebih cepat - atau lebih cerdas. Dan kemudian bola kristal kita meledak, "kehidupan seperti yang kita kenal" berakhir, dan segala sesuatu yang kita ketahui menjadi tidak relevan.

"Di sini saya telah mencoba ekstrapolasi teknologi secara langsung, dan mendapati diri saya terjatuh ke jurang. Ini adalah masalah yang kita hadapi setiap kali kita mempertimbangkan penciptaan kecerdasan yang lebih besar dari kita sendiri. Ketika hal ini terjadi, sejarah manusia akan mencapai jenis singularitas - tempat di mana ekstrapolasi gagal dan model-model baru harus diterapkan - dan dunia akan melampaui pemahaman kita." -- Vernor Vinge, True Names and Other Dangers, hlm. 47.

Ada beberapa jalur menuju Singularitas. Nanoteknologi - kemampuan untuk membangun komputer atom demi atom dan menghubungkan ulang otak neuron demi neuron. Kecerdasan Buatan, pemahaman diri dan peningkatan diri seed AI. Kita bisa menuju Singularitas melalui manusia yang ditingkatkan secara relatif melalui neurohacking. Antarmuka langsung dari neuron ke silikon dapat meningkatkan kecerdasan manusia atau kecerdasan komputer atau keduanya. Atau terobosan yang sama sekali tak terduga bisa terjadi.

Sebuah peradaban dengan teknologi tinggi tidak stabil; ia berakhir ketika spesies menghancurkan dirinya sendiri atau meningkatkan dirinya. Jika tren saat ini berlanjut - jika kita tidak menemui batasan teoretis yang tak terduga pada kecerdasan, atau menjadikan Bumi menjadi tanah tandus radioaktif, atau mengubur planet ini di bawah gelombang pasang nanodevice yang rakus dan dapat bereproduksi sendiri - Singularitas adalah tak terhindarkan. Perkiraan yang paling sering dikutip untuk Singularitas adalah tahun 2035 - dalam masa hidup Anda! - meskipun banyak orang, termasuk saya, berpikir bahwa Singularitas mungkin terjadi jauh lebih cepat.

---

Beberapa terminologi, berdasarkan A Fire Upon The Deep karya Vernor Vinge yang memenangkan penghargaan Hugo:

Power - Entitas dari luar Singularitas. Transcend, Transcended, Transcendence - Tindakan memprogram diri sendiri untuk menjadi lebih cerdas, memprogram (dengan kecerdasan baru) untuk menjadi lebih cerdas lagi, dan seterusnya ad Singularitum. "Transcend" adalah area metaforis di mana Powers tinggal. Beyond - Area abu-abu antara menjadi manusia dan menjadi Power; domain yang dihuni oleh entitas yang lebih cerdas dari manusia, tetapi tidak memiliki teknologi untuk memprogram diri mereka sendiri secara langsung dan Transcend.

2: Kelebihan Singularitas

"Saya membayangkan serangga dan gadis-gadis memiliki persepsi samar bahwa Alam memainkan lelucon kejam pada mereka, tetapi mereka tidak memiliki kecerdasan yang cukup untuk benar-benar memahami besarnya." -- Calvin and Hobbes

Tapi mengapa Kekuatan harus jauh lebih dari kita sekarang? Mengapa tidak berasumsi bahwa kita akan menjadi sedikit lebih cerdas, dan itu saja?

Perhatikan urutan 1, 2, 4, 8, 16, 32. Perhatikan iterasi F(x) = (x + x). Setiap beberapa tahun, kinerja komputer melipatgandakan. (1) Itulah tingkat perbaikan yang terbukti diawasi oleh pikiran yang tidak ditingkatkan - kemajuan menurut manusia biasa.

Saat ini, jumlah kekuatan komputasi silikon yang terhubung dalam jaringan di planet ini sedikit di atas kekuatan otak manusia. Kekuatan otak manusia adalah 10^17 operasi/detik, atau seratus juta miliar operasi per detik (2), dibandingkan dengan sekitar satu miliar komputer di Internet dengan kecepatan antara 100 juta operasi/detik dan 1 miliar operasi/detik masing-masing. Jumlah total kekuatan komputasi di planet ini adalah jumlah kekuatan dalam otak manusia, 10^17 operasi/detik, dikalikan dengan jumlah manusia, saat ini enam miliar atau 6x10^9. Jumlah kekuatan komputasi buatan sangat kecil dan tidak relevan, bukan karena ada begitu banyak manusia, tetapi karena kekuatan mentah yang dimiliki oleh satu otak manusia.

Dengan tingkat kemajuan lama, ketika perhitungan Singularitas asli dilakukan pada tahun 1988 (3), diperkirakan komputer akan mencapai tingkat yang setara dengan manusia - 10^17 operasi titik mengambang per detik, atau seratus petaflops - sekitar tahun 2035. Tetapi dengan tingkat kemajuan tersebut, mesin teraflops satu diperkirakan akan ada pada tahun 2000; ternyata, mesin teraflops satu sudah ada pada tahun 1996, ketika dokumen ini pertama kali ditulis. Pada tahun 1998, kecepatan tertinggi adalah 3,2 teraflops, dan pada tahun 1999, IBM mengumumkan proyek Blue Gene untuk membangun mesin petaflops pada tahun 2005. Jadi, perkiraan lama mungkin sedikit konservatif.

Setelah kita memiliki komputer setara manusia, jumlah kekuatan komputasi di planet ini sama dengan jumlah manusia ditambah jumlah komputer. Jumlah kecerdasan yang tersedia melonjak secara signifikan. Sepuluh tahun kemudian, manusia menjadi jumlah yang hampir tidak ada dalam persamaan.

Urutan penggandaan itu sebenarnya adalah proyeksi pesimis, karena mengasumsikan bahwa kecepatan komputer terus melipatgandakan pada tingkat yang sama. Tapi mengapa? Kecepatan komputer tidak melipatgandakan karena suatu hukum fisik yang tak terelakkan, tetapi karena para peneliti dan insinyur menemukan cara membuat chip yang lebih cepat. Jika beberapa peneliti dan insinyur sendiri adalah komputer...

Sebuah kelompok komputer setara manusia menghabiskan 2 tahun untuk melipatgandakan kecepatan komputer. Kemudian mereka menghabiskan 2 tahun subyektif, atau 1 tahun dalam istilah manusia, untuk melipatgandakannya lagi. Kemudian mereka menghabiskan 2 tahun subyektif, atau enam bulan, untuk melipatgandakannya lagi. Setelah empat tahun total, kekuatan komputasi mencapai tak terhingga.

Itulah versi "Terlampaui" dari urutan penggandaan. Mari kita sebut "Terlampaui" dari sebuah urutan {a0, a1, a2...} sebagai fungsi di mana interval antara an dan an+1 berbanding terbalik dengan an. (4). Jadi, fungsi penggandaan yang Terlampaui dimulai dengan 1, di mana dibutuhkan 1 satuan waktu untuk mencapai 2. Kemudian dibutuhkan 1/2 satuan waktu untuk mencapai 4. Kemudian dibutuhkan 1/4 satuan waktu untuk mencapai 8. Fungsi ini, jika kontinu, akan menjadi fungsi hiperbolik y = 2/(2 - x). Ketika x = 2, maka (2 - x) = 0 dan y = tak terhingga. Perilaku pada titik itu dikenal secara matematis sebagai singularitas.

Dan urutan penggandaan yang Terlampaui juga merupakan proyeksi pesimis, bukan Singularitas sama sekali, karena mengasumsikan bahwa hanya kecepatan yang ditingkatkan. Bagaimana jika kualitas pemikiran ditingkatkan? Saat ini, dua tahun kerja - dengan perkembangan saat ini, delapan belas bulan kerja. Delapan belas bulan kerja cukup untuk melipatgandakan kecepatan komputer. Bukankah ini akan membaik sedikit dengan berbagi pemikiran dan memori eidetik? Bukankah ini akan membaik jika, katakanlah, jumlah total pengetahuan ilmiah manusia disimpan dalam format yang siap untuk dipikirkan dengan siap di dalam pikiran? Bukankah ini akan membaik dengan kemampuan ingatan jangka pendek yang mampu menampung seluruh pengetahuan manusia? Sebuah Kecerdasan Buatan setara manusia tidak "setara" - jika Kasparov memiliki bahkan program catur otomatis yang paling kecil dan terburuk yang terintegrasi dengan intuisinya, dia akan mengalahkan Deep Blue dengan mudah. Itulah Keunggulan AI: Tugas-tugas sederhana dilakukan dengan kecepatan yang luar biasa dan tanpa kesalahan, tugas-tugas sadar dilakukan dengan memori yang sempurna dan kesadaran diri yang total.

Saya bahkan belum mulai membahas tentang AI yang merancang arsitektur kognitif mereka sendiri, meskipun mereka akan jauh lebih mudah daripada kita - terutama jika mereka dapat membuat cadangan. Penggandaan yang Terlampaui mungkin akan bertabrakan dengan hukum fisika sebelum mencapai tak terhingga... tetapi bahkan hukum fisika seperti yang sekarang dipahami akan memungkinkan satu gram (lebih kurang) untuk menyimpan dan menjalankan seluruh umat manusia dengan kecepatan seratus ribu tahun subyektif per detik. (5).

Mari kita tarik napas dalam-dalam dan berpikir sejenak. Satu gram. Seluruh umat manusia. Satu juta tahun per detik. Itu berarti, hanya dengan menggunakan massa planet ini untuk kekuatan komputasi, akan mungkin untuk mendukung lebih banyak orang daripada Seluruh Alam Semesta bisa mendukung jika manusia biologis mengkolonisasi setiap planet secara biologis. Itu berarti bahwa, dalam satu hari, sebuah peradaban bisa hidup lebih dari 80 miliar tahun, beberapa kali lebih tua dari usia Alam Semesta saat ini.

Hal anehnya adalah bahwa sebagian besar orang yang berbicara tentang "hukum fisika" yang menetapkan batasan yang ketat pada Kekuatan bahkan tidak pernah bermimpi menetapkan batasan yang sama pada peradaban (hanya) melintasi galaksi dari manusia (biasa) yang berusia satu miliar tahun. Sebagian adalah konvensi budaya dalam fiksi ilmiah; peradaban antarbintang dapat melanggar hukum fisik apa pun yang mereka inginkan, karena pembaca sudah terbiasa. Tetapi sebagian lagi karena para ilmuwan dan penulis fiksi ilmiah telah diajari, begitu banyak kali, bahwa Batasan Akhir yang Tidak Dapat Ditembus biasanya jatuh pada kecerdasan manusia dan beberapa generasi waktu. Tidak ada yang berani mengatakan apa yang mungkin terjadi dalam waktu satu miliar tahun ke depan karena itu adalah jumlah waktu yang sangat tidak terbayangkan.

Kita tahu bahwa perubahan bergerak dengan kecepatan yang sangat lambat hanya seribu tahun yang lalu, dan bahwa bahkan seratus tahun yang lalu akan tidak mungkin menetapkan batasan yang benar terhadap kekuatan teknologi. Kita tahu bahwa masa lalu tidak pernah bisa menetapkan batasan pada masa sekarang, dan oleh karena itu kita tidak mencoba menetapkan batasan pada masa depan. Tetapi dengan manusia yang telah berubah, analoginya bukan kepada Lord Kelvin, bukan kepada Aristoteles, bukan kepada pemburu-pengumpul - yang semuanya memiliki kecerdasan manusia - tetapi kepada Neanderthal. Dengan Kekuatan, kepada seekor ikan. Dan namun, karena kekuatan kecerdasan yang lebih tinggi tidak diakui secara publik seperti kekuatan beberapa juta tahun - karena kita tidak memiliki sejarah penentang yang malu oleh manusia yang telah berubah daripada sekadar waktu - sebagian dari kita masih duduk, menggerutu di sekitar api, menetapkan batasan akhir pada ketajaman tombak; sebagian dari kita masih berenang, tanpa berkedip, tidak mampu terlibat dalam pemikiran abstrak, tetapi tahu bahwa seluruh Alam Semesta ini, harus basah.

Untuk menyampaikan laju kemajuan yang didorong oleh peneliti yang lebih cerdas, saya perlu menciptakan sebuah fungsi yang lebih kompleks daripada fungsi penggandaan yang digunakan sebelumnya. Kita akan menyebut fungsi baru ini T(**n**). Anda dapat menganggap T(**n**) sebagai representasi angka terbesar yang dapat dibayangkan oleh seseorang dengan otak berjumlah n neuron. Secara lebih formal, T(**n**) didefinisikan sebagai blok terpanjang dari 1 yang dihasilkan oleh Mesin Turing dengan n keadaan yang berhenti, beroperasi pada pita awal yang kosong. Jika Anda familiar dengan komputer tetapi tidak dengan Mesin Turing, anggaplah T(**n**) sebagai angka terbesar yang dapat dihasilkan oleh program komputer dengan n instruksi. Atau, jika Anda seorang ahli teori informasi, pikirkan T(**n**) sebagai fungsi invers dari kompleksitas; ia menghasilkan angka terbesar dengan kompleksitas n atau kurang.

Urutan yang dihasilkan dengan mengiterasi T(**n**), S{**n**} = T(S{**n** - 1}), konstan untuk nilai n yang sangat kecil. S{0} didefinisikan sebagai 0; program dengan panjang nol tidak menghasilkan output. Ini sesuai dengan sebuah Alam Semesta yang kosong dari kecerdasan. T(1) = 1. Ini sesuai dengan kecerdasan yang tidak mampu meningkatkan dirinya sendiri; ini sesuai dengan kondisi kita saat ini. T(2) = 3. Di sinilah melompat ke Jurang dimulai. Begitu fungsi ini meningkat sedikit saja, ia segera melompati batas pengetahuan. T(3) = 6? T(6) = 64?

T(64) = jauh lebih besar dari 10^80, jumlah atom di Alam Semesta. T(1080) adalah sesuatu yang hanya entitas Transenden akan mampu menghitung, dan itu pun hanya jika entitas Transenden dapat menciptakan Alam Semesta baru, mungkin bahkan hukum fisika baru, untuk menyediakan kekuatan komputasi yang diperlukan. Bahkan T(64) kemungkinan tidak akan diketahui oleh manusia secara ketat.

Sekarang, ambil versi Terlampaui dari S{**n**}, dimulai dari 2. Setengah satuan waktu kemudian, kita memiliki 3. Sepertiga satuan waktu setelah itu, 6. Setelah seperenam satuan waktu - satu satuan waktu setelah fungsi ini dimulai - kita memiliki 64. Setelah seperempat enam puluh empat, 10^80. Sebuah pecahan waktu yang tak terbayangkan kecil setelah itu... Singularitas.

Apakah S{**n**} benar-benar merupakan model yang baik dari Singularitas? Tentu saja tidak. "Model yang baik dari Singularitas" adalah sebuah oksimoron; itulah intinya; Singularitas akan melampaui setiap model yang manusia bisa rumuskan seratus tahun yang lalu, dan Singularitas akan melampaui setiap model yang kita rumuskan hari ini. (6)

Namun, keberatan utamanya adalah bahwa S{**n**} adalah sebuah metafora yang tidak berlandaskan. Urutan penggandaan yang Terlampaui menggambarkan peneliti yang lebih cepat. Mudah untuk mengatakan bahwa S{**n**} menggambarkan peneliti yang lebih cerdas, tetapi apa sebenarnya yang dimaksud dengan lebih cerdas dalam konteks ini?

2.1: Definisi Kecerdasan

Kecerdasan adalah ukuran dari apa yang Anda anggap jelas, apa yang bisa Anda lihat sebagai jelas dalam retrospeksi, apa yang bisa Anda ciptakan, dan apa yang bisa Anda pahami. Untuk lebih tepatnya, kecerdasan adalah ukuran dari primitif semantis Anda (apa yang sederhana dalam retrospeksi), cara Anda memanipulasi primitif semantis tersebut (apa yang jelas), struktur yang dapat dibentuk oleh primitif semantis Anda (apa yang bisa Anda pahami), dan cara Anda memanipulasi struktur-struktur tersebut (apa yang bisa Anda ciptakan). Jika berbicara tentang teori kompleksitas, perbedaan antara jelas dan jelas dalam retrospeksi, atau dapat diciptakan dan dapat dipahami, seperti perbedaan antara NP dan P.

Semua manusia yang tidak mengalami cedera saraf memiliki primitif semantis yang sama. Apa yang jelas dalam retrospeksi bagi satu orang juga jelas dalam retrospeksi bagi semua orang. (Empat catatan: Pertama, dengan "cedera saraf" saya tidak bermaksud merendahkan - hanya saja seseorang yang kehilangan korteks visual tidak akan memiliki primitif semantis visual. Jika jalur saraf tertentu terputus, orang tidak hanya kehilangan kemampuan untuk melihat warna; mereka juga kehilangan kemampuan untuk mengingat atau membayangkan warna. Kedua, teorema dalam matematika mungkin hanya jelas dalam retrospeksi bagi para ahli matematika - tetapi siapa pun yang memperoleh keterampilan tersebut akan memiliki kemampuan untuk melihatnya. Ketiga, sejauh ini apa yang kita sebut sebagai jelas melibatkan tidak hanya primitif simbolis tetapi juga tautan sangat pendek antara mereka. Saya menganggap jenis tautan primitif termasuk dalam "primitif semantis". Ketika kita melihat urutan pikiran dan melihatnya sebagai jelas dalam retrospeksi, itu tidak selalu hanya satu primitif semantis, tetapi terdiri dari rangkaian primitif semantis dan jenis tautan yang sangat pendek. Keempat, saya minta maaf atas kecenderungan saya untuk membedah metafora saya sendiri; saya benar-benar tidak bisa mengendalikannya.)

Demikian pula, arsitektur kognitif manusia bersifat universal. Kita semua memiliki jenis pikiran yang sama di bawahnya. Meskipun sifat pikiran ini mungkin tidak diketahui, kemampuan kita untuk berkomunikasi satu sama lain menunjukkan bahwa apa pun yang kita komunikasikan, itu sama di kedua belah pihak. Jika dua manusia membagikan seperangkat konsep, struktur apa pun yang terdiri dari konsep-konsep tersebut dan dipahami oleh satu orang akan dipahami oleh orang lain.

Manusia yang berbeda-beda dapat memiliki kemampuan yang berbeda dalam memanipulasi dan mengorganisir konsep; manusia yang berbeda-beda mungkin melihat dan menciptakan hal yang berbeda. Terobosan besar dalam fisika dan rekayasa tidak terjadi karena sekelompok orang bekerja keras selama beberapa generasi hingga mereka menemukan penjelasan yang begitu kompleks, rangkaian ide yang begitu panjang, sehingga hanya waktu yang bisa menciptakannya. Relativitas dan fisika kuantum dan buckyballs dan pemrograman berorientasi objek terjadi karena seseorang menyusun struktur semantis yang pendek, sederhana, dan elegan dengan cara yang belum pernah terpikirkan sebelumnya. "Sedikit lebih cerdas" adalah sumber revolusi. Bukan waktu. Bukan kerja keras. Meskipun kerja keras dan waktu biasanya diperlukan, orang lain telah bekerja lebih keras dan lebih lama tanpa hasil. Inti dari revolusi adalah kecerdasan murni.

Sekarang bayangkan Singularitas. Bayangkan seekor simpanse mencoba memahami kalkulus integral. Bayangkan orang-orang dengan neurologi visual yang rusak yang tidak dapat mengingat seperti apa rasanya melihat, yang tidak dapat membayangkan warna merah atau memvisualisasikan struktur dua dimensi. Bayangkan korteks visual dengan triliunan neuron yang setara. Bayangkan dua puluh ribu warna berbeda dalam pelangi, tidak ada yang menjadi variasi dari yang lain. Bayangkan memutar objek berdimensi lima puluh. Bayangkan melekatkan primitif semantis ke piksel-piksel, sehingga seseorang dapat melihat pelangi gagasan dengan cara yang sama seperti kita melihat pelangi warna.

Primitif semantis kita bahkan menentukan apa yang bisa kita ketahui. Mengapa ada sesuatu yang ada? Tidak ada yang tahu. Namun jawabannya jelas. Penyebab Pertama harus jelas. Itu harus jelas bagi Kosong, hadir dalam ketiadaan apa pun, substansi yang terbentuk dari -kosong-, kesimpulan yang diperoleh tanpa data atau asumsi awal. Apa yang membangkitkan pengalaman sadar, bahan yang terbuat dari pikiran? Kita terbuat dari pengalaman sadar. Tidak ada yang lebih kita alami secara langsung. Bagaimana cara kerjanya? Kita tidak punya petunjuk. Dua setengah milenium mencoba memecahkannya dan tidak ada yang berhasil kecuali "Saya berpikir, maka saya ada." Solusinya tampaknya harus sederhana, tetapi secara nyata tidak dapat dipersepsikan. Mungkin solusi tersebut beroperasi di luar representasi yang dapat dibentuk dengan otak manusia.

Jika demikian, maka keturunan kita, penerus kita, diri masa depan kita akan menemukan primitif semantis yang diperlukan dan mengubah diri mereka untuk mempersepsinya. Kekuatan-kekuatan itu akan membedah Alam Semesta dan Realitas sampai mereka memahami mengapa ada sesuatu yang ada, menganalisis neuron sampai mereka memahami kualia. Dan itu hanya akan menjadi awalannya. Itu tidak akan berakhir di sana. Mengapa hanya ada dua masalah sulit? Sejatinya, jika bukan karena manusia, Alam Semesta tampaknya hanya akan mengandung satu masalah sulit, karena bagaimana mungkin pemikir yang tidak sadar merumuskan masalah sulit tentang kesadaran? Mungkin ada keadaan eksistensi di luar kesadaran belaka - transkesadaran? Mungkin memecahkan sifat realitas menciptakan kemampuan untuk menciptakan Alam Semesta baru, memanipulasi hukum fisika, bahkan mengubah jenis hal-hal yang bisa nyata - "ontoteknologi"? Itulah yang dimaksud dengan Singularitas.

Jadi sebelum Anda berbicara tentang kehidupan sebagai Kekuatan atau Utopia yang akan datang - kegemaran favorit transhumanis dan Extropian adalah membahas masalah uploading, kehidupan setelah diunggah, dan sebagainya - ingatlah bahwa Anda mungkin memiliki peluang yang lebih baik untuk memecahkan kedua masalah sulit daripada membuat pernyataan yang valid tentang masa depan. Ini juga berlaku untuk saya. Saya akan mempertahankan semua yang saya katakan tentang manusia, termasuk ketidakmampuan kita memahami hal-hal tertentu, tetapi hampir pasti semua yang saya katakan tentang Kekuatan adalah salah. "Mereka akan menemukan primitif semantis yang diperlukan dan mengubah diri mereka untuk mempersepsinya." Salah. "Menemukan." "Primitif semantis." "Mengubah." "Mempersepsi." Saya akan bertaruh bahwa semua istilah ini akan menjadi usang setelah Singularitas. Ada cara yang lebih baik dan saya yakin Mereka - atau Itu, atau [suara otak meledak] akan "menemukannya".

2.2: Transendensi Perseptual

Saya ingin memperkenalkan satuan kemajuan pasca-Singularitas, yaitu Transendensi Perseptual atau PT.

[Sejenak terdiam sambil penonton tertawa tak terkendali.]

Transendensi Perseptual terjadi ketika semua hal yang dapat dipahami menjadi jelas dalam retrospeksi, dan semua hal yang dapat diciptakan menjadi jelas. Transendensi Perseptual terjadi ketika struktur semantis satu generasi menjadi primitif semantis generasi berikutnya. Dengan kata lain, satu PT dari sekarang, seluruh pengetahuan manusia menjadi dapat dipersepsi dalam satu kilatan pengalaman, dengan cara yang sama seperti kita sekarang mempersepsi gambar secara keseluruhan dalam sekali pandang.

Komputer berada satu PT di atas manusia dalam hal aritmetika - agak begitu. Sementara kita perlu memanipulasi piramida angka yang rapuh, baris dan kolom untuk mengalikan 62305 dengan 10358, komputer dapat menghasilkan jawabannya - 645355190 - dalam satu langkah jelas saja. Komputer ini sebenarnya tidak berada satu PT di atas kita sama sekali, dengan dua alasan. Pertama, mereka hanya dapat mengolah angka hingga dua miliar bukan sembilan; setelah itu mereka juga perlu memanipulasi piramida. Lebih penting lagi, mereka tidak memperhatikan apa pun tentang angka yang mereka manipulasi, seperti halnya manusia. Jika Anda mengalikan 23704 dengan 14223, menggunakan metode perkalian bertingkat, Anda tidak akan mengalikan 23704 dengan 2 dua kali berturut-turut; Anda hanya akan mengambil hasil dari kali sebelumnya. Jika salah satu hasil interim adalah 12345 atau 99999 atau 314159, Anda juga akan memperhatikannya. Cara komputer memanipulasi angka sebenarnya kurang kuat daripada cara kita memanipulasi angka.

Apakah Kekuatan akan puas dengan hal yang kurang? Satu PT di atas kita, perkalian dilakukan secara otomatis namun dengan perhatian penuh terhadap hasil interim, angka yang kebetulan adalah bilangan prima, dan sebagainya. Jika saya merancang salah satu Kekuatan pertama - dan, di Singularity Institute, ini yang kita lakukan - saya akan menciptakan subsistem lengkap untuk memanipulasi angka, yang akan memperhatikan sifat bilangan prima, kompleksitas, dan semua properti numerik yang diketahui manusia. Sebuah Kekuatan akan memahami mengapa 62305 dikali 10358 sama dengan 645355190, dengan pemahaman yang sama seperti yang akan dicapai oleh seorang ahli matematika manusia terbaik yang menghabiskan berjam-jam mempelajari semua angka yang terlibat. Dan pada saat yang sama, Kekuatan tersebut akan mengalikan kedua angka tersebut secara otomatis.

Bagi Kekuatan semacam itu, di mana angka adalah primitif semantis yang sejati, Teorema Terakhir Fermat dan Hipotesis Goldbach dan Hipotesis Riemann mungkin menjadi jelas. Di suatu tempat di dalam pikirannya, Kekuatan tersebut akan menguji setiap pernyataan dengan sejuta percobaan, secara bawah sadar memanipulasi semua angka yang terlibat untuk mencari mengapa mereka bukan jumlah dua kubus atau mengapa mereka jumlah dua bilangan prima atau mengapa bagian real mereka sama dengan satu per dua. Dari situ, Kekuatan tersebut dapat intuitif menemukan solusi paling dasar dan sederhana dengan menggeneralisasikannya. Mungkin ahli matematika manusia, jika mereka dapat melakukan perhitungan untuk seribu percobaan Hipotesis Riemann, memeriksa setiap langkah perantara, mencari properti umum dan jalan pintas menarik, dapat mengintuisi solusi formal. Tetapi mereka tidak dapat melakukannya, dan tentu saja mereka tidak dapat melakukannya secara bawah sadar, itulah sebabnya Hipotesis Riemann tetap tidak jelas dan belum terbukti - itu adalah struktur konseptual bukan primitif konseptual.

Mungkin contoh yang lebih menarik untuk dipertimbangkan adalah korteks visual kita. Pada permukaannya, korteks visual tampak seperti pemroses gambar. Dalam mesin grafis komputer modern, gambar direpresentasikan oleh larik dua dimensi piksel (7). Untuk memutar gambar ini - sebagai contoh satu operasi - koordinat persegi panjang setiap piksel {x, y} dikonversi menjadi koordinat polar {theta, r}. Semua theta, yang mewakili sudut, ditambahkan dengan konstanta. Koordinat polar kemudian dikonversi kembali ke persegi panjang. Ada cara untuk mengoptimalkan proses ini, dan cara untuk memperhitungkan piksel yang saling berpotongan dan kosong pada larik baru, tetapi esensinya jelas: Untuk melakukan operasi pada seluruh gambar, lakukan operasi pada setiap piksel dalam gambar tersebut.

Pada titik ini, seseorang dapat mengatakan bahwa Transendensi Perseptual tergantung pada tingkat di mana Anda melihat operasinya. Jika Anda melihat diri Anda melakukan operasi piksel demi piksel, itu adalah struktur kognitif yang tak terbayangkan membosankan, tetapi jika Anda melihatnya sebagai satu kesatuan, itu adalah primitif kognitif - sebuah poin yang dibahas dalam Ant Fugue karya Hofstadter saat membahas semut dan koloni. Tidak terlalu menarik kecuali jika Hofstadter yang menjelaskannya, tetapi ada lebih dari itu dalam korteks visual.

Salah satu halnya, kita secara sadar mengalami warna merah. (Jika Anda tidak yakin apa yang dimaksud dengan pengalaman sadar atau "kualia", versi singkatnya adalah bahwa Anda bukanlah yang mengucapkan pikiran Anda, Anda adalah yang mendengar pikiran Anda.) Kualia adalah hal yang membentuk perbedaan yang tidak dapat dijelaskan antara merah dan hijau.

Istilah "primitif semantis" menjelaskan lebih dari sekadar tingkat di mana simbol-simbol diskrit dan objek kompak. Ini menjelaskan tingkat persepsi sadar. Berbeda dengan komputer yang memanipulasi angka yang terbentuk dari bit, dan seperti Kekuatan yang diimajinasikan yang memanipulasi teorema yang terbentuk dari angka, kita tidak kehilangan resolusi apa pun saat beralih dari tingkat piksel ke tingkat gambar. Kita tidak tiba-tiba mempersepsi ide "ada beruang di depan saya"; kita melihat gambar beruang, yang terdiri dari jutaan piksel, setiap pikselnya dialami secara sadar secara bersamaan. Transendensi Perseptual bukanlah "hanya" pengenalan tingkat kognitif baru; itu mengubah struktur kognitif menjadi primitif yang dialami secara sadar.

"Dengan kata lain, satu PT dari sekarang, seluruh pengetahuan manusia menjadi dapat dipersepsi dalam satu kilatan pengalaman, dengan cara yang sama seperti kita sekarang mempersepsi gambar secara keseluruhan dalam sekali pandang."

Tentu saja, PT tidak akan digunakan sebagai satuan kemajuan pasca-Singularitas. Bahkan jika awalnya digunakan, tidak akan lama sebelum "PT" itu sendiri Transendensi dan Kekuatan melompat keluar dari sistem lagi. Pada akhirnya, Singularitas jauh melampaui saya, sang penulis, sama seperti halnya melampaui manusia lainnya, dan jadi PT saya akan menjadi deskripsi yang tidak berharga seperti urutan penggandaan yang sudah lama diabaikan. Bahkan jika kita menerima PT sebagai satuan dasar pengukuran, itu hanya memperkenalkan Singularitas sekunder. Mungkin Transendensi Perseptual akan terjadi setiap dua tahun yang dialami secara sadar pada awalnya, tetapi kemudian akan terjadi setiap tahun yang dialami secara sadar, dan kemudian setiap enam bulan yang dialami secara sadar - apakah Anda mengerti gambarannya?

Ini seperti "Birthday Cantatatata..." dalam buku Godel, Escher, Bach karya Hofstadter. Anda dapat memulai dengan urutan {1, 2, 3, 4 ...} dan melompat ke w (omega), simbol untuk tak terhingga. Tetapi kemudian kita memiliki {w, w + 1, w + 2 ... }, dan kita melompat lagi ke 2w. Kemudian 3w, dan 4w, dan w2 dan w3 dan ww dan w^(ww) dan menara w yang lebih tinggi hingga kita melompat ke ordinal e0, yang mencakup semua menara eksponensial dari w.

PT mungkin memperkenalkan Singularitas kedua, dan ketiga, dan keempat, hingga Singularitas datang dengan semakin cepat dan pertama kali Singularitas w semakin dekat -

Atau Kekuatan mungkin hanya melompat ke luar dari sistem itu. "Birthday Cantatatata..." ditulis oleh manusia - meskipun Douglas Hofstadter, tetapi tetaplah manusia - dan konsep-konsep yang terlibat di dalamnya mungkin Transendensi oleh manusia trans pertama.

Kekuatan berada di luar kemampuan kita untuk dipahami.

Apakah Anda mengerti gambarnya?

2.3: Angka-Angka Besar yang Hebat

Sulit untuk benar-benar menghargai Singularitas tanpa terlebih dahulu menghargai angka yang sangat besar. Saya tidak berbicara tentang angka-angka kecil yang hampir tidak terbedakan dari nol, seperti jumlah atom di Alam Semesta atau jumlah tahun yang dibutuhkan seekor monyet untuk mengulang karya Shakespeare. Saya mengajak Anda untuk mempertimbangkan angka terbesar yang pernah digunakan dalam sebuah bukti matematika serius, pada sekitar tahun 1977. Bukti tersebut, oleh Ronald L. Graham, adalah batas atas dari pertanyaan tertentu dalam teori Ramsey. Untuk menjelaskan bukti tersebut, kita perlu memperkenalkan notasi baru, yang dikembangkan oleh Donald E. Knuth dalam artikel Coping With Finiteness. Notasi ini biasanya berupa panah kecil yang menunjuk ke atas, di sini disingkat sebagai ^. Ditulis dalam bentuk fungsi:

int arrow (int num, int power, int arrownum) {
    int answer = num;
    if (arrownum == 0)
        return num * power;
    for (int i = 1; i < power; i++)
        answer = arrow(num, answer, arrownum - 1);
    return answer;
} // end arrow

2^4 = 24 = 16.

3^^4 = 3^(3^(3^3)) = 3^(3^27) = 37,625,597,484,987

7^^^^3 = 7^^^(7^^^7).

3^3 = 3 3 3 = 27. Angka ini cukup kecil untuk dapat dipahami.

3^^3 = 3^(3^3) = 3^27 = 7,625,597,484,987. Lebih besar dari 27, tetapi masih cukup kecil untuk dapat saya ketik. Tidak ada yang dapat memvisualisasikan tujuh triliun apapun, tetapi kita dapat dengan mudah memahaminya sebagai sesuatu yang sekitar pada tingkat yang sama dengan, misalnya, produk domestik bruto.

3^^^3 = 3^^(3^^3) = 3^(3^(3^(3^...^(3^3)...))). "..." memiliki panjang 7,625,597,484,987 tiga. Dengan kata lain, 3^^^3 atau arrow(3, 3, 3) adalah menara eksponensial dari tiga setinggi 7,625,597,484,987 tingkat. Angka ini sekarang melampaui kemampuan manusia untuk memahaminya, tetapi prosedur untuk menghasilkannya dapat divisualisasikan. Anda mengambil x\=1. Anda membiarkan x sama dengan 3^x. Ulangi tujuh triliun kali. Meskipun tahap-tahap awal angka ini jauh terlalu besar untuk dapat dimuat dalam Alam Semesta secara keseluruhan, menara eksponensial ini, ditulis sebagai "3^3^3^3...^3", masih cukup kecil untuk dapat disimpan dalam superkomputer modern.

3^^^^3 = 3^^^(3^^^3) = 3^^(3^^(3^^...^^(3^^3)...)). Baik angka maupun prosedur untuk menghasilkannya sekarang melampaui kemampuan manusia untuk memvisualisasikannya, meskipun prosedur tersebut dapat dipahami. Ambil angka x\=1. Biarkan x sama dengan menara eksponensial tiga setinggi x. Ulangi 3^^^3 kali, di mana 3^^^3 sama dengan menara eksponensial tujuh triliun tiga.

Dan tetap, dengan kata-kata Martin Gardner: "3^^^^3 jauh lebih besar dari 3^^^3 yang tak terbayangkan, tetapi masih kecil untuk ukuran angka tak hingga, karena sebagian besar angka tak hingga jauh lebih besar."

Dan sekarang, angka Graham. Biarkan x sama dengan 3^^^^3, atau angka yang tidak terbayangkan seperti yang baru saja dijelaskan di atas. Biarkan x sama dengan 3^^^^^^^(x arrows)^^^^^^^3. Ulangi 63 kali, atau 64 termasuk 3^^^^3 awal.

Angka Graham jauh melampaui kemampuan saya untuk memahaminya. Saya dapat menggambarkannya, tetapi saya tidak dapat menghargainya dengan benar. (Mungkin Graham dapat menghargainya, karena telah menulis bukti matematika yang menggunakannya.) Angka ini jauh lebih besar dari konsepsi kebanyakan orang tentang tak terhingga. Saya tahu bahwa angka ini lebih besar dari konsepsi saya. Rasa kagum saya ketika pertama kali menemukan angka ini tak terlukiskan dengan kata-kata. Itu adalah perasaan melihat sesuatu yang jauh lebih besar dari dunia dalam pikiran saya sehingga konsepsi saya tentang Alam Semesta hancur dan dibangun kembali. Semua teolog harus menghadapi angka seperti itu, agar mereka dapat menghargai dengan benar apa yang mereka sebut sebagai kecerdasan "tak terbatas" Tuhan.

Kebahagiaan saya lengkap ketika saya mengetahui bahwa jawaban sebenarnya dari masalah Ramsey yang melahirkan angka itu - bukan batas atas - kemungkinan adalah enam.

Mengapa semua ini perlu, selain estetika matematika? Karena sampai Anda memahami kehampaan kata-kata "tak terhingga," "besar," dan "transhuman," Anda tidak dapat menghargai Singularitas. Bahkan menghargai Singularitas jauh melampaui kita seperti memvisualisasikan angka Graham bagi seekor simpanse. Jauh melampaui kita daripada itu. Tidak ada analogi manusiawi yang akan pernah dapat menggambarkan Singularitas, karena kita hanya manusia.

Angka di atas tercipta dari pikiran manusia. Itu hanyalah bilangan bulat positif terbatas, meskipun besar. Itu adalah bilangan komposit dan ganjil, bukan bilangan prima atau genap; itu dapat dibagi habis oleh tiga. Di dalam digit desimal angka itu, dengan hampir semua skema pengkodean yang dapat disebutkan, terdapat semua karya yang pernah ditulis oleh tangan manusia, dan semua karya yang bisa ditulis, dengan kecepatan seratus ribu kata per menit, selama usia Alam Semesta dinaikkan ke kekuatannya sendiri seribu kali lipat. Dan tetap, jika kita menjumlahkan semua digit berbasis sepuluh, hasilnya akan habis dibagi sembilan. Angka ini masih merupakan bilangan bulat positif terbatas. Itu mungkin berisi Alam Semesta yang tak terbayangkan lebih besar dari Alam Semesta ini, tetapi itu hanya sebuah angka. Itu adalah angka yang cukup kecil sehingga algoritma untuk menghasilkannya dapat disimpan dalam pikiran manusia yang tunggal.

Singularitas berada di luar itu. Kita tidak dapat memasukkannya dengan menyatakan bahwa itu akan menjadi bilangan bulat positif terbatas. Kita tidak dapat mengatakan apa pun tentang itu, kecuali bahwa itu akan melampaui pemahaman kita.

Jika Anda berpikir bahwa notasi panah Knuth menghasilkan angka yang cukup besar, bagaimana dengan T(n)? Berapa banyak keadaan yang dibutuhkan oleh mesin Turing untuk mengimplementasikan perhitungan di atas? Kompleksitas angka Graham, C(Graham), adalah sekitar 100. Dan yang lebih penting, T(C(Graham)) kemungkinan jauh lebih besar dari angka Graham. Mengapa kita harus melalui x = 3^(x ^s)^3 hanya 64 kali? Mengapa tidak 3^^^^3 kali? Itu mungkin lebih mudah, karena kita sudah perlu menghasilkan 3^^^^3, tetapi tidak 64. Dan dengan ruang tambahan, kita mungkin bahkan dapat memperkenalkan algoritma yang lebih kompleks secara komputasional. Faktanya, notasi panah Knuth mungkin bukan algoritma paling kuat yang muat dalam C(Knuth) keadaan.

T(n) adalah metafora untuk tingkat pertumbuhan entitas yang meningkatkan diri sendiri karena menggambarkan konsep memiliki kecerdasan tambahan dengan mana untuk meningkatkan diri sendiri. Saya tidak tahu kapan T(n) melewati ambang batas dari apa yang dapat dihitung oleh matematikawan manusia, dalam teori, tentu saja. Mungkin lebih dari n\=10 dan kurang dari n\=100. Intinya adalah setelah beberapa iterasi, kita akan mendapatkan T(4294967296). Sekarang, saya tidak tahu apa yang akan sama dengan T(4294967296), tetapi mesin Turing yang menang kemungkinan akan menghasilkan Kekuatan yang tujuannya adalah untuk berpikir tentang angka yang sangat besar. Itulah yang dimaksud dengan istilah "besar".

2.4: Lebih Pintar Daripada Kita

Baiklah, sangat bagus untuk berbicara tentang primitif kognitif dan kejelasan, tetapi sekali lagi - apa arti dari lebih pintar? Makna dari pintar tidak dapat ditegaskan dalam Singularitas - saya belum pernah berada di sana. Jadi apa definisi praktis saya?

"Tantangan terbesar bagi seorang penulis adalah karakter yang lebih cerdas daripada penulis itu sendiri. Ini bukanlah hal yang tidak mungkin. Puzzel yang membutuhkan penulis berbulan-bulan untuk memecahkan atau merancang, karakter tersebut mungkin dapat memecahkannya dalam sekejap. Tetapi Tuhan membantu penulis jika karakter yang sangat cerdas itu

salah!"

​ -- Larry Niven

"Tentu saja, saya tidak pernah menulis cerita 'penting', sekuel tentang manusia pertama yang diperkuat. Sekali saya mencoba sesuatu yang serupa. Surat penolakan John Campbell dimulai: 'Maaf - Anda tidak dapat menulis cerita ini. Tidak ada yang bisa.'" -- Vernor Vinge

Kecerdasan adalah kualitas yang membuatnya tidak mungkin menulis cerita tentang karakter yang lebih cerdas daripada Anda. Anda dapat menulis tentang pemikir yang sangat cepat, ingatan eidetik, kalkulator kilat; karakter yang belajar belasan bahasa dalam seminggu, yang dapat membaca buku teks dalam satu jam, atau yang dapat menciptakan berbagai penemuan yang luar biasa - asalkan Anda tidak perlu menghasilkan penemuan sebenarnya. Tetapi Anda tidak dapat menulis karakter dengan tingkat kedewasaan emosional yang lebih tinggi, karakter yang dapat melihat solusi yang jelas yang Anda lewatkan, karakter yang tahu (dan dapat memberitahu pembaca) Makna Kehidupan, karakter dengan kesadaran diri super manusiawi. Tidak kecuali Anda dapat melakukan hal-hal ini sendiri.

Mari kita ambil contoh konkret, cerita Flowers for Algernon (kemudian menjadi film Charly), karya Daniel Keyes. (Saya takut saya harus memberi tahu Anda bagaimana cerita ini berakhir, tetapi ini adalah cerita tentang Karakter, bukan cerita tentang Ide, jadi itu seharusnya tidak merusaknya.) Flowers for Algernon adalah tentang prosedur bedah saraf untuk peningkatan kecerdasan. Prosedur ini pertama kali diuji pada seekor tikus, Algernon, dan kemudian pada manusia yang terbelakang, Charlie Gordon. Charlie yang ditingkatkan memiliki kumpulan karakteristik super manusia yang standar dalam fiksi ilmiah; dia berpikir cepat, belajar pengetahuan seumur hidup dalam beberapa minggu, dan membahas matematika yang rumit (tidak ditunjukkan). Kemudian, tikus Algernon sakit dan mati. Charlie menganalisis prosedur peningkatan (tidak ditunjukkan) dan menyimpulkan bahwa prosesnya pada dasarnya memiliki cacat. Kemudian, Charlie meninggal.

Itulah manusia yang ditingkatkan dalam fiksi ilmiah. Seorang manusia yang ditingkatkan yang sebenarnya tidak akan terkejut. Seorang manusia yang ditingkatkan yang sebenarnya akan menyadari bahwa peningkatan kecerdasan sederhana akan menjadi kekurangan evolusioner bersih - jika meningkatkan kecerdasan adalah masalah prosedur bedah sederhana, itu akan terjadi sebagai mutasi alami jauh sebelumnya. Ini berlaku ganda untuk prosedur yang berhasil pada tikus! (Sejauh yang saya tahu, ini tidak pernah terpikir oleh Keyes. Saya memilih Flowers, dari semua cerita terkenal tentang peningkatan kecerdasan, karena, karena alasan kesatuan dramatis, cerita ini menunjukkan apa yang terjadi pada akhirnya yang benar.)

Perhatikan bahwa saya tidak membingungkan Anda dengan penjelasan teknis yang rumit tentang kematian Charlie; penjelasan saya hanya dua kalimat dan dapat dipahami oleh seseorang yang bukan ahli dalam bidang tersebut. Itu adalah kesederhanaan kecerdasan yang sangat sulit untuk disampaikan dalam fiksi, dan sangat mengejutkan ketika kita mengalaminya secara pribadi. Yang dapat dilakukan fiksi ilmiah untuk menunjukkan kecerdasan hanyalah jargon dan perangkat. Seorang Charlie Gordon yang benar-benar ultracerdas tidak akan terkejut; dia akan menyimpulkan nasibnya yang mungkin menggunakan garis pemikiran yang sederhana di atas. Dia akan menerima probabilitas itu, mengatur kembali prioritasnya, dan bertindak sesuai sampai waktunya habis - atau, lebih mungkin, menemukan cara yang sama sederhana dan jelas dalam retrospeksi untuk menghindari nasibnya. Jika Charlie Gordon benar-benar ultracerdas, tidak akan ada cerita.

Ada beberapa kesenjangan yang sangat besar sehingga membuat semua masalah menjadi baru. Bayangkan bidang apa pun di mana Anda adalah seorang ahli - neurosains, pemrograman, pipa, apa pun - dan pertimbangkan kesenjangan antara seorang pemula, yang baru pertama kali menghadapi masalah, dan seorang ahli. Bahkan jika seribu pemula mencoba menyelesaikan masalah dan gagal, tidak mungkin mengatakan bahwa seorang ahli tunggal tidak dapat dengan mudah menyelesaikan masalah itu. Jika seratus fisikawan terdidik dengan baik mencoba menyelesaikan masalah dan gagal, seorang Einstein mungkin masih dapat berhasil. Jika seribu anak berusia dua belas tahun mencoba selama setahun untuk menyelesaikan masalah, itu tidak mengatakan apa pun tentang apakah seorang dewasa mungkin dapat menyelesaikan masalah tersebut. Jika sejuta pemburu-pengumpul mencoba menyelesaikan masalah selama seratus tahun, jawabannya mungkin masih jelas bagi setiap manusia berpendidikan abad kedua puluh satu. Dan tidak ada jumlah simpanse, seberapa lama pun mereka mencoba, dapat pernah mengatakan sesuatu tentang apakah orang bodoh terendah dapat menyelesaikan masalah tanpa berpikir. Ada beberapa kesenjangan yang sangat besar sehingga membuat semua masalah menjadi baru; dan beberapa di antaranya, seperti kesenjangan antara pemula dan ahli, atau kesenjangan antara pemburu-pengumpul dan warga negara terdidik, bahkan bukan kesenjangan perangkat keras - mereka tidak berurusan dengan sihir kecerdasan, tetapi sihir pengetahuan, atau ketiadaan kebodohan.

Saya mengingat kembali sebelum saya mulai mempelajari psikologi evolusi dan ilmu kognitif. Saya tahu bahwa saya tidak bisa mendekati memprediksi jalannya Singularitas. "Jika saya tidak bisa mendapatkannya dengan benar dulu, apa yang membuat saya berpikir saya bisa mendapatkannya dengan benar sekarang?" Saya adalah manusia, dan warga negara terdidik, dan dewasa, dan ahli, dan jenius... tetapi jika masih ada satu kesenjangan lain dengan magnitudo yang sama yang tersisa antara saya dan Singularitas, maka spekulasi saya tidak akan lebih baik daripada spekulasi seorang ilmuwan abad kedelapan belas.

Kita semua mengenal variasi individual dalam kecerdasan manusia, yang terdistribusi sepanjang kurva Gaussian besar; ini adalah referensi satu-satunya yang dimiliki sebagian besar dari kita untuk "lebih pintar". Tetapi karena variasi ini berada dalam rentang desain otak manusia, mereka bukanlah sesuatu yang luar biasa. Salah satu kebenaran yang sangat dalam tentang pikiran manusia adalah bahwa evolusi merancang kita agar bodoh - untuk dibutakan oleh ideologi, untuk enggan mengakui kesalahan kita, untuk berpikir "musuh" adalah tidak manusiawi, untuk dipengaruhi oleh tekanan teman sebaya. Variasi dalam kecerdasan yang berada dalam rentang desain normal tidak secara langsung mempengaruhi kebodohan ini. Di sinilah kita mendapatkan kebijaksanaan rakyat bahwa kecerdasan tidak menyiratkan kebijaksanaan, dan dalam rentang manusia ini sebagian besar benar (8). Variasi yang kita lihat tidak menghantam dengan cukup keras untuk membuat orang menghargai apa arti dari "lebih pintar".

Saya adalah Seorang Singularitarian karena saya memiliki sedikit pemahaman tentang betapa sangat, akhirnya, benar-benar mustahil untuk berpikir seperti seseorang yang bahkan sedikit lebih pintar daripada Anda. Saya tahu bahwa kita semua melewatkan yang jelas, setiap hari. Tidak ada masalah yang sulit, hanya masalah yang sulit bagi tingkat kecerdasan tertentu. Pindahkan sedikit ke atas, dan beberapa masalah tiba-tiba berpindah dari "mustahil" menjadi "jelas". Pindahkan sejauh yang cukup, dan semuanya akan menjadi jelas. Pindahkan jarak yang besar ke atas...

Dan saya tahu bahwa gambaran saya tentang Singularitas masih kurang dari kebenaran. Mungkin saya tidaklah sederhana, tetapi saya memiliki rasa rendah hati saya - jika saya dapat melihat antropomorfisme dan cacat logika yang mencolok dalam setiap transhuman yang diduga dalam setiap karya fiksi ilmiah, maka dapat disimpulkan bahwa seorang jenius yang sedikit lebih tinggi (lagi pula, seorang transhuman yang sebenarnya!) bisa membaca halaman ini dan tertawa melihat kurangnya imajinasi saya. Panggil itu pengalaman, panggil itu rasa rendah hati, panggil itu kesadaran diri, panggil itu Prinsip Mediokritas; saya telah melintasi cukup banyak kesenjangan untuk percaya bahwa masih ada lebih banyak. Saya tahu, dengan cara yang samar, betapa bodohnya diri saya.

Saya telah mencoba menunjukkan Keberadaan Singularitas dengan kekuatan kasar, tetapi tidak mengambil kecepatan tak terhingga dan PT dan ws untuk menempatkan sesuatu yang benar-benar melampaui kita. Yang dibutuhkan hanya sejumput kecil keunggulan, sedikit lebih pintar, dan Keberadaan itu sekali lagi menatap kita. Saya tidak pernah melewati Singularitas. Saya tidak pernah ke Transendensi. Saya hanya menempatkan area Low Beyond. Halaman ini didedikasikan untuk menyampaikan rasa kagum yang datang dari pengalaman pribadi, dan, oleh karena itu, hanya manusiawi.

Dari korteks saya, untukmu; setiap konsep di sini lahir dari Homo sapiens biasa - dan setiap kesan yang diberikan kepada Anda juga lahir dari Homo sapiens biasa. Seseorang yang telah memberikan sedikit lebih banyak pemikiran, atau seseorang yang sedikit lebih ekstrem; tidak ada bedanya. Apapun kesan yang Anda dapatkan dari halaman ini bukanlah gambaran yang akurat tentang masa depan yang jauh; itu, tak terhindarkan, adalah kesan tentang saya. Dan saya bukan masa depan yang jauh. Hanya versi "Menatap ke Singularitas" yang ditulis oleh Sebuah Kekuatan sejati yang dapat menyampaikan pengalaman dari Singularitas sebenarnya.

Ambillah guncangan masa depan apa pun yang dihasilkan oleh halaman ini, dan hubungkanlah bukan dengan Singularitas; hubungkanlah dengan saya, orang yang tenang dan pendiam yang sedikit berbeda dari manusia lainnya. Jangan repot-repot mencoba mengextrapolasi dari situ. Anda tidak bisa. Tidak ada yang bisa - bukan Anda, bukan saya.

\2035. Mungkin lebih awal.

3: Lebih Cepat Daripada yang Anda Pikirkan

Sejak Internet meledak di seluruh dunia, sudah ada cukup kekuatan komputasi yang terhubung untuk kecerdasan. Jika Internet diprogram dengan benar, itu akan cukup untuk menjalankan otak manusia, atau AI awal. Di sisi nanoteknologi, kita memiliki mesin yang mampu menghasilkan urutan DNA sembarang, dan kita tahu cara mengubah urutan DNA sembarang menjadi protein sembarang (9). Kita memiliki mesin - Atomic Force Probes - yang dapat menempatkan atom tunggal di mana pun kita inginkan, dan baru-baru ini [1999] telah terbukti mampu membentuk ikatan atom. Presisi penempatan seratus nanometer, penjepit skala atom... berita terus bertambah.

Jika kita memiliki mesin waktu, 100K informasi dari masa depan dapat menentukan protein yang membangun perangkat yang akan memberi kita nanoteknologi dalam semalam. 100K bisa berisi kode untuk AI awal. Sejak akhir tahun 90-an, Singularitas hanya menjadi masalah perangkat lunak. Dan perangkat lunak adalah informasi, benda ajaib yang berubah dengan kecepatan yang semakin tinggi. Sejauh teknologi yang terkait, Singularitas bisa terjadi besok. Satu terobosan - hanya satu wawasan besar - dalam ilmu rekayasa protein atau manipulasi atom atau Kecerdasan Buatan, satu hari yang sangat baik di Webmind atau Zyvex, dan pintu menuju Singularitas terbuka lebar.

Drexler telah menulis buku panduan yang terperinci dan teknis untuk nanoteknologi. Setelah terhenti selama tiga puluh tahun, AI membuat kebangkitan. Kekuatan komputer tumbuh dengan kecepatan bahkan lebih cepat dari laju penggandaan biasanya, setiap dua tahun kekuatannya berlipat. Quate telah membuat Scanning Tunnelling Probe paralel 16 kepala. [Ditulis pada tahun '96.] Saya mulai mengembangkan metode mengodekan AI transhuman. [Ditulis pada tahun '98.] Ikatan kimia pertama telah terbentuk menggunakan mikroskop gaya atom. Pemerintah AS telah mengumumkan niatnya untuk menghabiskan ratusan juta dolar untuk penelitian nanoteknologi. IBM telah mengumumkan proyek Blue Gene untuk mencapai kekuatan komputasi petaflops (10) pada tahun 2005, dengan tujuan untuk memecahkan masalah lipatan protein. Singularity Institute for Artificial Intelligence, Inc. telah didirikan sebagai organisasi nirlaba dengan tujuan mengodekan AI awal. [Ditulis pada tahun '00.]

Waktu pasti Singularity biasanya diprediksi dengan mengambil tren dan mengekstrapolasikannya, seperti halnya The Population Bomb yang memprediksi bahwa kita akan kehabisan makanan pada tahun 1977. Misalnya, pertumbuhan populasi bersifat hiperbolik. (Mungkin Anda belajar bahwa pertumbuhannya eksponensial di pelajaran matematika, tetapi pertumbuhannya hiperbolik dengan fit yang jauh lebih baik daripada eksponensial.) Jika tren itu berlanjut, populasi dunia mencapai tak terhingga pada 17 Agustus 2027, ditambah atau dikurangi 1,8 tahun. Tentu saja, tidak mungkin populasi manusia mencapai tak terhingga. Beberapa orang mengatakan bahwa jika kita dapat menciptakan AI, maka grafik itu mungkin mengukur populasi berpikir yang sadar daripada populasi manusia. Orang-orang ini sedang menyiksa metafora. Tidak ada yang merancang kurva populasi untuk mempertimbangkan perkembangan dalam AI. Itu hanya sebuah kurva, sekelompok angka. Ini tidak dapat mengubah jalannya teknologi di masa depan hanya untuk tetap berada pada jalur yang benar.

Jika Anda memproyeksikan pada grafik ukuran minimum bahan yang dapat kita manipulasi, itu mencapai level atom - nanoteknologi - dalam saya lupa berapa tahun (halaman itu menghilang), tetapi saya kira sekitar 2035. Tentu saja, ini sebelum masa Mikroskop Tunnelling Pindai dan "IBM" yang ditulis dalam atom xenon. Lagipula, sekarang kita memiliki atom buatan ("Anda dapat membuat atom buatan apa pun - atom panjang, tipis, dan atom besar, bulat."), yang dalam arti telah membuat nanoteknologi molekuler hanyalah usang. Pada tahun '95, Drexler memberikan perkiraan kasar tahun 2015 (11). Saya curiga jadwalnya telah dipercepat sedikit sejak saat itu. Tebakan saya sendiri tidak lebih lambat dari tahun 2010.

Demikian pula, kekuatan komputasi berlipat ganda setiap dua tahun delapan belas bulan. Jika kita mengextrapolasi empat puluh tiga puluh lima belas tahun ke depan, kita akan menemukan komputer dengan kekuatan murni yang sama (10^17 ops/dtk) seperti beberapa orang berpikir manusia miliki, tiba pada 2035 2025 2015. [Kalimat sebelumnya ditulis pada tahun 1996, direvisi kemudian pada tahun itu, dan kemudian direvisi lagi pada tahun 2000; oleh karena itu angka yang aneh.] Apakah ini berarti kita memiliki perangkat lunak untuk menghasilkan pikiran? Tidak. Apakah ini berarti kita dapat memprogram orang yang lebih cerdas? Tidak. Apakah ini memperhitungkan terobosan antara sekarang dan saat itu? Tidak. Apakah ini memperhitungkan hukum fisika? Tidak. Apakah ini model rinci dari semua peneliti di seluruh dunia? Tidak.

Ini hanya sebuah grafik. "Keajaiban konsistensi" Hukum Moore memberinya hak untuk dipertimbangkan sebagai metafora yang memprovokasi pemikiran tentang masa depan, tetapi tidak lebih dari itu. Urutan penggandaan Transcended tidak memperhitungkan bagaimana para peneliti berbasis komputer yang lebih cepat bisa mendapatkan teknologi manufaktur fisik untuk generasi berikutnya diatur dalam pikosekon, atau bagaimana mereka bisa mengalahkan hukum fisika. Ini bukan berarti hal-hal seperti itu tidak mungkin - sebenarnya saya tidak terlalu yakin bahwa fisika zaman modern telah benar-benar mencapai tingkat dasar yang paling akhir. Mungkin tidak ada batasan fisik. Intinya adalah Hukum Moore tidak menjelaskan bagaimana fisika bisa dihindari.

Matematika tidak dapat memprediksi kapan Singularitas akan terjadi. (Nah, sebenarnya bisa, tetapi tidak akan berhasil.) Bahkan angka yang sangat stabil, seperti yang menggambarkan laju penggandaan kekuatan komputasi, (A) menggambarkan pikiran manusia tanpa bantuan dan (B) semakin cepat, mungkin karena program desain berbantu komputer. Statistik dapat digunakan untuk memprediksi masa depan, tetapi mereka tidak memodelkan itu. Yang ingin saya sampaikan di sini adalah "2035" hanya tebakan liar, dan mungkin saja menjadi Selasa depan.

Sebenarnya, saya tidak berpikir dalam hal-hal itu. Saya tidak "memproyeksikan" kapan Singularitas akan terjadi. Saya memiliki "tanggal target". Saya ingin Singularitas terjadi pada tahun 2005, yang menurut saya akan memiliki peluang yang masuk akal untuk dilakukan melalui AI jika seseorang memberi saya seratus juta dolar setiap tahun. Singularity Institute ingin menyelesaikan pada tahun 2008 atau lebih.

Di atas semua itu, saya sangat, sangat ingin Singularitas tiba sebelum nanoteknologi, mengingat kepastian penggunaan yang disengaja - penyalahgunaan teknologi ultrateknologi yang murni (dan oleh karena itu, amoral), yang cukup kuat untuk menghancurkan planet ini. Kita tidak bisa hanya duduk dan menunggu. Untuk mengutip Michael Butler, "Menunggu bus adalah ide buruk jika ternyata Anda adalah sopir bus."

Yang terbaik yang dapat kita katakan tentang 2035 adalah bahwa itu tampak sebagai batas atas yang masuk akal, mengingat laju kemajuan saat ini. Batas bawah? Tiga puluh detik. Kita mungkin tidak tahu tentang semua penelitian yang ada di luar sana, bagaimanapun juga.

4: Mengunggah

Mungkin Anda tidak ingin melihat umat manusia digantikan oleh sekelompok "mesin" atau "mutan", bahkan yang supercerdas? Anda mencintai umat manusia dan tidak ingin melihatnya usang? Anda takut mengganggu jalur alami keberadaan?

Nah, nasib buruk. Singularitas adalah jalur alami keberadaan. Setiap spesies - setidaknya, setiap spesies yang tidak menghancurkan dirinya sendiri - suatu saat akan berhadapan dengan superkecerdasan yang sepenuhnya berkembang (12). Ini terjadi pada semua orang. Ini akan terjadi pada kita. Ini bahkan akan terjadi pada transhuman tahap pertama atau AI manusia awal.

Tetapi hanya karena manusia menjadi usang tidak berarti Anda menjadi usang. Anda bukan manusia. Anda adalah kecerdasan yang, pada saat ini, kebetulan memiliki pikiran yang terbatas pada perangkat keras manusia. (13). Itu bisa berubah. Dengan keberuntungan, semua orang di planet ini yang hidup hingga 2035 atau 2005 atau kapan pun - dan mungkin beberapa yang tidak - akan berakhir sebagai Powers.

Mentransfer pikiran manusia ke dalam sistem komputer dikenal sebagai "uploading"; mengubah manusia fana menjadi Power dikenal sebagai "upgrading". Upload arketipal adalah Transfer Moravec, yang diusulkan oleh Dr. Hans Moravec dalam buku Mind Children. (14).

Transfer Moravec secara bertahap memindahkan (daripada menyalin) pikiran manusia ke dalam komputer. Anda tidak perlu kehilangan kesadaran. (Detail yang akan dijelaskan lebih lanjut ini telah direvisi dan diperluas (oleh saya sendiri) dari aslinya di Mind Children.)

1. Sebuah robot berukuran neuron berenang ke neuron dan memindainya ke dalam memori.

2. Sebuah komputer eksternal, dalam komunikasi terus-menerus dengan robot, mulai mensimulasikan neuron tersebut.

3. Robot menunggu hingga simulasi komputer sempurna sesuai dengan neuron tersebut.

4. Robot menggantikan neuron dengan dirinya sendiri dengan sehalus mungkin, mengirimkan input ke komputer dan mengirimkan output dari simulasi neuron ke komputer.

Seluruh prosedur ini tidak memiliki efek pada aliran informasi di otak, kecuali bahwa pemrosesan satu neuron sekarang dilakukan di dalam komputer daripada di neuron.

1. Ulangi, neuron demi neuron, sampai seluruh otak terdiri dari neuron robot.

Meskipun demikian, sinapsis (hubungan) antara neuron robotik masih bersifat fisik; robot melaporkan penerimaan neurotransmiter di dendrit buatan dan melepaskan neurotransmiter di ujung aksial buatan. Pada fase berikutnya, kita menggantikan sinapsis fisik dengan tautan perangkat lunak.

1. Untuk setiap pasangan aksial-dendrit (pengirim-penerima), input tidak lagi dilaporkan oleh robot; sebaliknya, keluaran aksial yang dihitung dari neuron pengirim ditambahkan sebagai dendrit simulasi ke neuron penerima dalam simulasi komputer.

Pada akhir fase ini, robot-semua menjalankan aksial mereka, tetapi tidak ada yang menerima apa pun, tidak ada yang mempengaruhi satu sama lain, dan tidak ada yang mempengaruhi simulasi komputer.

1. Robot terputus.

Anda sekarang telah ditempatkan sepenuhnya di dalam komputer, bit demi bit, tanpa kehilangan kesadaran. Dalam kata-kata Moravec, metamorfosismu telah selesai.

Jika salah satu fase terasa terlalu tiba-tiba, transfer satu neuron, atau sinapsis, dapat disebar selama waktu yang diperlukan. Untuk mentransfer perlahan sinapsis ke dalam komputer, kita dapat menggunakan faktor bobot sinapsis fisik dan sinapsis komputasi untuk menghasilkan output. Pembobotan akan dimulai sepenuhnya fisik dan berakhir sepenuhnya komputasi. Karena kita mengasumsikan neuron sedang disimulasikan dengan sempurna, pembobotan hanya mempengaruhi aliran sebab-akibat dan bukan proses peristiwa yang sebenarnya.

Mentransfer perlahan neuron sedikit lebih sulit.

• 4a. Robot mengelilingi neuron, aksial, dan dendrit dengan "cangkang" robotik, semua tanpa mengganggu tubuh sel saraf. (Itu akan membutuhkan gerakan yang cukup canggih, saya tahu, tetapi ini adalah eksperimen pemikiran. Powers akan melakukan pengunggahan yang sebenarnya.)

• 4b. Dendrit robotik terus menerima input dari neuron lain, dan meneruskannya ke dendrit saraf yang terbungkus. Output neuron biologis melewati aksial saraf ke aksial robot yang melaporkan output dan meneruskannya ke sinapsis eksternal, tanpa perubahan.

• 4c. Aksial robot mengeluarkan 99% impuls biologis yang diterima, ditambah 1% impuls robot yang dihitung. Karena, menurut hipotesis, neuron sedang disimulasikan dengan sempurna, ini tidak mengubah output sebenarnya dengan cara apa pun, hanya aliran sebab-akibat.

• 4d. Pembobotan disesuaikan hingga 100% output adalah output yang dihitung.

• 4e. Neuron biologis dibuang.

Dengan asumsi kita dapat mensimulasikan satu neuron individu, dan bahwa kita dapat menggantikan neuron dengan analog robotik, saya pikir itu dengan jelas menunjukkan kemungkinan pengunggahan, mengingat bahwa kesadaran secara ketat adalah fungsi dari neuron. (Dan jika kita memiliki jiwa abadi, maka pengunggahan itu adalah hal yang nyata. Lepaskan jiwa dari otak. Salin informasi apa pun yang tidak disimpan dalam jiwa. Lampirkan jiwa ke substrat baru. Pengunggahan selesai.)

Pada titik ini, biasanya kita berspekulasi tentang bagaimana cara makan, minum, berjalan-jalan. Orang menyatakan bahwa mereka tidak bersedia untuk mengorbankan realitas fisik, khawatir apakah mereka akan memiliki daya komputasi yang cukup untuk mensimulasikan dunia hedonistik sesuai keinginan mereka yang paling liar, dan seterusnya dan seterusnya sampai mual. Bahkan Vinge sendiri, penemu Singularitas, juga berpikir apakah diri sejati seseorang akan tereduksi oleh Transendensi.

Saya berharap bahwa pada saat ini di halaman ini Anda telah cukup terkesan dengan kekuatan, cakupan, ketidakmampuan untuk dipahami, dan Transendensi umum Singularitas sehingga spekulasi ini terdengar bodoh. Jika Anda ingin tetap utuh, Anda akan dapat mengatur itu. Anda akan dapat membuat cadangan. Anda akan dapat mempertahankan kepribadian Anda terlepas dari substrat. Satu-satunya orang yang harus khawatir tentang tereduksinya diri dengan cara yang tidak diinginkan adalah manusia pertama yang Transend, dan bahkan mereka mungkin tidak perlu khawatir jika ada Kecerdasan Buatan yang Ramah yang lahir dari AI untuk bertindak sebagai panduan transisi.

Tentu saja, mungkin saja bahwa makhluk dengan kecerdasan yang cukup ingin tereduksi. Mengkhawatirkan kemungkinan itu tampaknya sangat tidak berguna, mirip dengan anak-anak yang khawatir bahwa, saat dewasa, mereka tidak akan lagi dengan seenaknya kejam terhadap anak-anak lain. Jika Anda ingin tereduksi, itu bukanlah kesalahan yang harus kita khawatirkan.

Mungkin, setelah Transendensi, Anda akan berbeda. Jika itu benar, maka perubahan itu tidak dapat dihindari dan tidak ada yang dapat Anda lakukan untuk mengatasinya. Otak manusia memiliki jumlah neuron yang terbatas, dan oleh karena itu jumlah kemungkinan yang terbatas. Pada akhirnya, Anda akan mati, masuk ke dalam lingkaran abadi, atau Transend. Pada jangka panjang... jangka panjang yang benar-benar... kematian bukanlah pilihan.

Demikian pula, tidak ada gunanya khawatir bahwa Powers yang bermusuhan akan secara tidak terhindarkan menghancurkan umat manusia. Jika ternyata semua tujuan pada akhirnya adalah sembarang, maka dimungkinkan bahwa Power yang buruk diprogram bisa berakhir dengan tujuan yang membuatnya bermusuhan terhadap umat manusia; ini adalah risiko rekayasa, dan meminimalkannya adalah tugas rekayasa. Tetapi emosi seperti "keserakahan" dan "ketidakpuasan" tidak muncul secara spontan dalam kecerdasan buatan, meskipun plot klise dalam fiksi ilmiah. Ketidakpuasan adalah adaptasi fungsional yang kompleks yang berevolusi pada manusia selama jutaan tahun; itu tidak muncul begitu saja dari suatu tempat. Bahkan kecenderungan untuk menilai kelompok Anda sendiri sebagai lebih berharga adalah hal yang berevolusi, bersama dengan kecenderungan untuk berpikir dalam istilah "kami" dan "mereka" pada awalnya.

Mengapa kecerdasan supergenerik akan mengkategorikan umat manusia sebagai tak berarti? Satu-satunya keadaan di mana ini akan menjadi kesimpulan tak terelakkan adalah jika kehidupan manusia adalah tak berarti, jika kekurangan arti adalah fakta yang tidak tergantung pada pengamat. Dan bahkan itu tidak akan cukup untuk menentukan kehancuran umat manusia; tindakan memusnahkan umat manusia juga haruslah berarti, lagi-lagi sebagai fakta yang tidak tergantung pada pengamat. Yang berarti bahwa setiap manusia yang cukup cerdas akan melakukan bunuh diri. Dan jika itu benar, maka agaknya tidak ada yang dapat kita lakukan tentang hal itu.

Pada akhirnya, tidak ada yang tahu apa yang ada di seberang Singularitas, bahkan saya sendiri. Dan ya, diperlukan keberanian untuk melangkah melalui pintu itu. Jika bayi dapat memilih apakah akan meninggalkan rahim, tanpa mengetahui apa yang terjadi di ujung saluran persalinan - tanpa mengetahui apakah ada sesuatu di ujung saluran persalinan - berapa banyak yang akan melakukannya? Tetapi di balik saluran persalinan adalah tempat di mana realitas berada. Itulah tempat di mana hal-hal terjadi. Menetap di dalam rahim selamanya, bahkan jika kita bisa, akan sia-sia dan steril.

5: Arti Sementara dalam Kehidupan

• "Tahu, aku tidak mengerti mengapa manusia berevolusi menjadi makhluk yang tidak berpikir, pendek dalam pandangan."

• "Nah, itu tidak bisa bertahan selamanya."

• "Kamu pikir kita akan menjadi lebih cerdas?"

• "Itu adalah salah satu dari dua kemungkinan."

Sejak dokumen ini awalnya ditulis pada tahun 1996, "nanoteknologi" telah menjadi hal yang umum. Saya yakin sekarang semua orang telah mendengar tentang konsep untuk mencapai kendali penuh terhadap struktur molekul materi. Ini akan memungkinkan kita untuk menciptakan makanan dari limbah, menyembuhkan sumsum tulang belakang yang patah, membalikkan penuaan, membuat semua orang sehat dan kaya, dan dengan sengaja memusnahkan semua kehidupan di planet ini. Sebenarnya, penggunaan militer yang merusak mungkin jauh lebih mudah daripada penggunaan kreatif yang kompleks. Setiap orang yang pernah membaca buku sejarah bisa menebak apa yang terjadi selanjutnya.

"Pelindung aktif" mungkin cukup untuk mencegah terjadinya "grey goo" secara tidak sengaja, tetapi tidak cukup untuk melawan nano yang tahan terhadap serangan, yang mampu menggunakan senjata fusi untuk menembus pelindung aktif. Dan namun, meskipun ancaman ini, kita bahkan tidak dapat mencoba untuk menekan nanoteknologi; itu hanya meningkatkan probabilitas bahwa penjahat akan mendapatkannya terlebih dahulu. (15).

Mitchell Porter menyebutnya "Perlombaan antara senjata super dan superkecerdasan." Peradaban manusia akan terus berubah sampai kita menciptakan superkecerdasan, atau kita memusnahkan diri sendiri. Itu adalah dua keadaan yang stabil, dua "atraktor" dalam sistem ini. Tidak masalah berapa lama waktu yang dibutuhkan, atau berapa banyak siklus perang nano-dan-regenerasi yang terjadi sebelum Transendensi atau kepunahan akhir. Jika sistem terus berubah, selama seribu tahun, atau sejuta tahun, atau satu miliar tahun, pada akhirnya akan berakhir di salah satu atraktor tersebut. Tetapi perkiraan terbaik saya adalah bahwa masalah ini akan diselesaikan sekarang.

Bukan hanya kemungkinan kehancuran yang menjadi alasan untuk berlomba menuju Singularitas. Ada juga jumlah penderitaan manusia yang terus berlangsung, yang bukan hanya masalah praktis, bukan hanya masalah etis, tetapi masalah moral murni yang berdiri sendiri. Ada hal-hal yang benar-benar mengerikan yang terjadi di dunia saat ini. Jika saya diberi pilihan untuk menghapus lingkungan narkoba atau menghapus Holocaust, saya tidak tahu mana yang akan saya pilih. Saya tahu proyek mana yang memiliki peluang keberhasilan yang lebih baik.

Pernahkah Anda merenungkan Pertanyaan Besar tentang Kehidupan, Alam Semesta, dan Segalanya? Pernahkah Anda bertanya-tanya apakah itu benar-benar penting, dari segi kosmis, jika Anda tetap di tempat tidur pagi ini? Pernahkah Anda menatap masalah etika yang sulit, atau kesadaran, atau realitas, dan menyadari bahwa tidak ada pembenaran yang dapat dimengerti secara manusiawi untuk pengalaman subjektif, bangun dari tempat tidur, atau keberadaan apa pun? Bagaimana kita bisa melakukan apa pun, menetapkan tujuan apa pun, tanpa mengetahui Arti dari Kehidupan? Bagaimana kita bisa membenarkan partisipasi kita yang terus-menerus dalam perlombaan tikus jika kita tidak tahu mengapa kita berlari? Untuk apa semua ini?

Kita tidak tahu. Kita harus menebak, dan bertindak berdasarkan tebakan terbaik kita. Terlepas dari probabilitas mutlak, superkecerdasan memiliki peluang lebih baik untuk menemukan kebenaran moral sejati, memiliki kekuatan untuk menerapkannya, dan ingin menerapkannya. Keadaan di mana superkecerdasan ada, dengan tingkat probabilitas yang sangat tinggi terlepas dari Arti Sejati dari Kehidupan, lebih diinginkan daripada keadaan saat ini. Itulah Arti Sementara dalam Kehidupan, dan itu cukup berhasil... tetapi itu masih jauh dari kepastian, atau benar-benar tahu apa yang terjadi!

Saya sudah cukup. Saya sudah cukup dengan rumah-rumah narkoba, kediktatoran, ruang penyiksaan, penyakit, usia tua, kelumpuhan tulang belakang, dan kelaparan di dunia. Saya sudah cukup dengan tingkat kematian planet yang mencapai 150.000 makhluk sadar per hari. Saya sudah cukup dengan planet ini. Saya sudah cukup dengan kematian. Tidak ada dari semua ini yang perlu ada. Saatnya berhenti berpaling dari perampokan di sudut jalan, pengemis di jalanan. Tidak lagi perlu melihat dengan cemas, mengulangi mantra: "Saya tidak bisa memecahkan semua masalah dunia." Kita bisa. Kita bisa mengakhiri ini.

Dan jadi, saya telah kehilangan, bukan iman, tetapi ketidakpercayaan sementara. Seaneh apa pun Singularitas terlihat, ada saat-saat ketika itu tampak jauh lebih masuk akal, jauh lebih tidak sewenang-wenang, daripada hidup sebagai manusia. Ada cara yang lebih baik! Mengapa membenarkan kehidupan ini? Mengapa berpura-pura bahwa itu masuk akal? Mengapa membuatnya tampak cerah dan bahagia? Ada alternatif!

Saya tidak mengatakan bahwa tidak ada kesenangan dalam kehidupan ini. Ada. Tetapi setiap jumlah kesedihan adalah tidak dapat diterima. Saatnya berhenti menghipnotis diri kita sendiri untuk percaya bahwa rasa sakit dan ketidakbahagiaan adalah hal yang diinginkan! Mungkin kesempurnaan tidak dapat dicapai, bahkan di seberang Singularitas, tetapi itu tidak berarti bahwa kelemahan dan cacat itu baik-baik saja. Saatnya berhenti berpura-pura bahwa itu tidak menyakitkan!

Rekan manusia kita menjerit kesakitan, planet kita mungkin akan terbakar menjadi arang atau berubah menjadi goo, kita tidak tahu apa yang terjadi, dan Singularitas akan memecahkan masalah ini. Saya menyatakan mencapai Singularitas secepat mungkin sebagai Arti Sementara dalam Kehidupan, definisi sementara dari Kebaikan, dan dasar sampai pemberitahuan lebih lanjut dari sistem etis saya.

6: Menuju Singularitas

Untuk mengutip versi sebelumnya dari Staring into the Singularity:

"Mungkin banyak peneliti yang sedang menelusuri jalur menuju Singularitas menghabiskan waktu berharga mereka untuk menulis proposal hibah, atau melakukan hal-hal yang bisa dilakukan oleh asisten laboratorium. Akan menjadi hal yang baik jika ada Yayasan Pendukung Singularitas untuk memastikan bahwa orang-orang ini tidak teralihkan. Kemungkinan ada satu peneliti yang masih hidup hari ini - Hofstadter, Drexler, Lenat, Moravec, Goertzel, Chalmers, Quate, seseorang yang baru lulus kuliah, atau bahkan saya - yang orang yang mencapai Singularitas. Setiap jam yang orang tersebut ditunda adalah jam lain menuju Singularitas. Setiap jam, enam ribu orang meninggal. Mungkin kita harus melakukan sesuatu tentang penggunaan seperempat waktu dan energi orang ini untuk menulis proposal hibah." (16).

Ini merangkum prinsip dasar di balik percepatan Singularitas; ada satu proyek, di suatu tempat, yang akan menciptakan kecerdasan yang melebihi manusia. Proyek itu, mungkin di bidang AI, akan didukung oleh kemajuan dalam tiga atau empat bidang lain, seperti ilmu kognitif, perangkat keras "ultrakomputasi" berkecepatan tinggi, apa pun yang telah dilakukan sebelumnya dalam AI, dan mungkin sumber wawasan seperti BCI (Brain-Computer Interfaces). Para peneliti dalam proyek-proyek ini makan makanan dan mengenakan pakaian serta menonton acara televisi yang diproduksi oleh ekonomi global. Setiap kegiatan produktif, di mana pun dalam rantai tersebut, dapat dianggap sebagai dukungan terhadap Singularitas.

Untuk mendukung Singularitas secara tidak langsung, Anda dapat terus bekerja pada pekerjaan sehari-hari Anda, setidaknya jika Anda seorang petani bukan pengacara kelas tindakan kolektif. Para ahli saraf dapat mempelajari ilmu kognitif, para programmer komputer dapat mempelajari AI, dan mencoba untuk siap ketika Singularitas membutuhkan mereka. Dan berbagai organisasi transhumanis, seperti Extropy Institute dan Foresight, dapat menjadi sasaran bantuan lebih langsung.

Semuanya baik, tetapi beberapa dari kita ingin memiliki kesempatan untuk mempercepat Singularitas - untuk secara langsung membantu menciptakan kecerdasan yang melebihi manusia.

Empat tahun setelah publikasi Staring 1.0, sekarang secara resmi ada Singularity Institute! Koding belum dimulai pada proyek AI, tetapi pekerjaan terus dilakukan pada Coding a Transhuman AI 2, dan ketika dokumen desain selesai, kita akan mulai mengoding dan kita akan menulis AI seed. Baru-baru ini, tepatnya dalam versi terbaru yang direvisi ini, kami telah mendapatkan status pembebasan pajak, dan sekarang menerima sumbangan!

Dan waktu terus berjalan, dan sepotong kehidupan seperti yang kita kenal terbakar...

Saya rasa sudah aman untuk mengatakan bahwa sekarang saya dapat membayangkan jalur lengkap yang mengarah ke Singularitas, saya memiliki gambaran tentang apa yang diperlukan untuk mencapainya dan berapa banyak biayanya, dan saya pikir kita mungkin bisa melakukannya pada tahun 2010. Jauh lebih cepat, dengan banyak pendanaan dan masalah penelitian yang ternyata dapat diatasi.

Jadi, lupakan hukum Moore. Singularitas akan terjadi ketika kita keluar dan membuatnya terjadi.

6: Cara Tidak Mencapai Singularitas

Saya juga ingin mengatakan beberapa hal tentang bagaimana tidak mencapai Singularitas.

Seperti yang dikatakan dalam versi sebelumnya dari Staring into the Singularity, "Halaman ini bukanlah seruan untuk bersenjata dalam arti biasa." Saya selalu sangat tidak percaya pada kecenderungan manusia untuk membentuk organisasi sosial. Organisasi cenderung mempertahankan diri sendiri, bukan memecahkan masalah. Meme Singularitas memiliki kekuatan yang luar biasa. Meme ini tidak boleh jatuh ke dalam pola biasa, yang mudah. Singularitas tidak akan maju melalui sekte, perkumpulan saling puja, atau sekumpulan orang gila. Drexler menghadapi masalah yang sama dengan nanoteknologi.

Prinsip Kemandirian, dalam Prinsip-prinsip Singularitarian, adalah salah satu benteng pertahanan. Secara ringkas, Prinsip Kemandirian menolak gagasan bahwa satu Singularitarian dapat memiliki bentuk otoritas apa pun atas yang lain. Untuk alasan saya sendiri, saya telah mengadopsi Singularitas sebagai tujuan pribadi. Jika saya bisa lebih efisien dengan bekerja dengan Singularitarian lainnya, bagus. Tetapi yang saya pedulikan adalah Singularitas, bukan Singularitarianisme.

Benteng pertahanan lainnya adalah Prinsip Kecerdasan, yang menyatakan bahwa apakah suatu ide cerdas atau bodoh memiliki prioritas logis daripada apakah itu pro- atau anti-Singularitas. (Anda akan berpikir bahwa ini semua jelas sekali - kecuali, tentu saja, jika Anda pernah membaca buku sejarah, atau berbicara dengan manusia lain, atau menyalakan televisi atau sesuatu.)

Ada benteng pertahanan lain yang tidak tercantum dalam Prinsip-prinsip tersebut. Ini adalah gagasan yang awalnya saya tulis dalam Staring into the Singularity untuk menekankan. Ini adalah satu nasihat terakhir: Jangan menjadi Utopis.

Jangan menggambarkan Kehidupan setelah Singularitas dengan kata-kata yang memuji. Jangan menggambarkannya sama sekali. Menurut saya, titik terendah dalam meramalkan masa depan terjadi dalam beberapa paragraf singkat dari Unbounding the Future yang saya baca, ketika mereka menggambarkan seorang pejalan kaki tertabrak dan tangannya menyembuhkan dengan ajaib. Itu konyol. Pejalan kaki? Tertabrak? Tangan? Mobil dalam dunia nanoteknologi? Mengapa tidak hanya membiarkan sekumpulan kera menggambarkan kemudahan mendapatkan pisang dengan pikiran manusia?

Seperti yang dikatakan oleh Drexler:

"Saya ingin menekankan bahwa saya telah diundang untuk memberikan ceramah di tempat-tempat seperti seri kolokium ilmu fisika di pusat penelitian utama IBM, di Xerox PARC, dan sebagainya, jadi gagasan-gagasan ini dianggap serius oleh orang-orang teknis yang serius, tetapi reaksinya bervariasi. Anda ingin reaksi itu sepositif mungkin, jadi saya memohon kepada semua orang untuk tolong jaga tingkat kultus dan omong kosong tetap rendah (17), dan bahkan berhati-hati dalam berbicara tentang konsekuensi liar, yang sebenarnya benar dan dapat dipertahankan secara teknis, karena mereka tidak terdengar seperti itu. Orang perlu membiarkan pemikiran mereka berkembang secara bertahap ke konsekuensi jangka panjang; Anda tidak memulainya di sana."

Masalah dengan orang-orang yang mengemukakan visi Utopia mereka tentang dunia nanotek adalah bahwa konsekuensi mereka tidak cukup liar. Melihat cerita tentang luka yang sembuh dengan cepat, atau objek material apa pun yang tersedia secara instan, tidak memberi Anda sensasi melihat ke masa depan. Itu membuat Anda merasa bahwa Anda sedang melihat fantasi masa kecil orang yang tidak kreatif tentang kekuasaan mutlak, dan itu membuat Anda cenderung memperlakukan nanoteknologi dengan cara yang sama. Lebih buruk lagi, itu menarik orang lain dengan fantasi yang tidak kreatif tentang kekuasaan mutlak. Tidak ada cara yang lebih baik untuk berubah menjadi sekelompok orang yang tidak berguna, minum kopi dan merencanakan Revolusi tanpa benar-benar melakukan apa pun.

Saya rasa saya tidak boleh terlalu keras pada tipe-tipe Utopia nanotek. Beberapa dari mereka mungkin adalah peneliti sejati atau penulis fiksi ilmiah atau orang lain yang melakukan hal-hal berguna; beberapa dari mereka mungkin adalah orang biasa yang dengan tulus mencoba mewujudkannya tetapi terjebak dalam kurangnya imajinasi secara umum; dan tentu saja, tidak ada dari mereka yang telah pergi ke Low Beyond. Setelah Anda membaca halaman ini, bagaimanapun, tidak ada alasan lagi.

Halaman ini tentang menatap Singularitas. Ini tentang kagum, Beyond, akhir sejarah, dan hal-hal di luar pemahaman manusia. Ini dimaksudkan untuk membangkitkan rasa masa depan, dan saya berharap pembaca saya akan cenderung melihat nanoteknologi, kecerdasan buatan, neurologi, dan semua jalur lain menuju Singularitas dengan cara yang sama - sebagai bagian dari masa depan.

Saya harap itu menarik orang yang tepat.

Dalam momen kegilaan, saya berlangganan milis Extropian. Orang-orang ini tahu apa arti "Singularitas". Secara teori, mereka tahu apa yang akan datang. Dan namun, bahkan saat saya menulis [pada tahun '96 - mereka sudah sedikit membaik pada tahun '99], orang-orang yang seharusnya tahu lebih baik sedang bertengkar tentang apakah transhuman akan memiliki cukup daya komputasi untuk mensimulasikan Alam Semesta pribadi, apakah jumlah daya komputasi yang tersedia untuk transhuman terbatas oleh hukum fisika, apakah seseorang yang diunggah ke dalam transkomputer benar-benar orang yang sama atau hanya tiruan kedelai yang menakjubkan, dan - yang paling tidak bisa dipercaya dari semuanya - apakah diri masa depan kita yang luar biasa cerdas akan tetap melakukan hubungan seks.

Mengapa ini menjadi perhatian kita? Mengapa kita perlu tahu ini? Bisa tidak mungkin, hanya mungkin, masalah-masalah ini bisa ditunda sampai setelah kita menjadi lima kali lebih cerdas dan beberapa titik buta kita telah terisi? Saat ini, setiap manusia di planet ini memiliki satu perhatian: Bagaimana cara kita mencapai Singularitas secepat mungkin? Apa yang terjadi setelah itu bukanlah masalah kita dan saya mengecam gambaran masa depan yang membuat muak, tidak kreatif, terlalu manis hingga membuat Anda mual, dan hanya membosankan dan tanpa imajinasi tentang masa depan dengan sumber daya yang tidak terbatas dan manusia yang tidak berubah. Biarkan masalah transhumanitas menjadi masalah transhuman. Peluang kita untuk mendapatkan sesuatu yang benar sama dengan ikan merancang pesawat terbang yang berfungsi dari alga dan kerikil.

Satu-satunya tanggung jawab kita adalah menghasilkan sesuatu yang lebih cerdas daripada kita; masalah apa pun di luar itu bukanlah milik kita untuk diselesaikan.

Bagaimana kita menjaga perekonomian dunia tetap berjalan setidaknya selama sepuluh tahun ke depan? Siapa yang bersedia mendanai proyek AI? Siapa yang perlu kita rekrut untuk proyek AI? Bagaimana cara menghindari penolakan teknofobia yang umum? Dan apa yang harus kita lakukan jika nanoteknologi datang lebih dulu?

Ini adalah pertanyaan-pertanyaan praktis yang akan dihadapi dalam waktu dekat. Pertanyaan yang tepat, dan jawabannya, adalah perhatian yang benar dari milis. [Dan, pada tahun '00, Singularity Institute.] Saya tidak keberatan membiarkan imajinasi berjalan bebas. Itulah bagaimana semuanya dimulai, pada akhirnya. Tetapi jangan terlalu terlibat emosional dalam hal itu, jangan mencoba mengklaim bahwa visualisasi Anda tentang Sisi Lain Fajar memiliki peluang untuk benar, dan habiskan waktu Anda untuk membuat Singularitas itu terjadi.