Rangkuman Singkat:

Jika kecepatan komputasi meningkat dua kali lipat setiap dua tahun, apa yang terjadi ketika kecerdasan buatan (AI) yang berbasis komputer melakukan penelitian? Kecepatan komputasi menggandakan setiap dua tahun. Kecepatan komputasi menggandakan setiap dua tahun kerja. Kecepatan komputasi menggandakan setiap dua tahun kerja subjektif.

Dua tahun setelah kecerdasan buatan mencapai kesetaraan manusia, kecepatan mereka berlipat ganda. Setahun kemudian, kecepatan mereka berlipat ganda lagi.

Enam bulan - tiga bulan - 1,5 bulan ... Singularitas.

Masukkan angka untuk kecepatan komputasi saat ini, waktu penggandaan saat ini, dan perkiraan daya pemrosesan mentah otak manusia, dan angka-angka tersebut cocok pada tahun 2021.

Namun, secara pribadi, saya ingin melakukannya lebih cepat.

The End of History

Dimulai tiga setengah miliar tahun yang lalu di dalam genangan lumpur, ketika sebuah molekul membuat salinan dirinya sendiri dan dengan demikian menjadi nenek moyang terakhir dari semua kehidupan di bumi.

Dimulai empat juta tahun yang lalu, ketika volume otak mulai meningkat pesat pada garis hominid.

Lima puluh ribu tahun yang lalu dengan munculnya Homo sapiens sapiens. Sepuluh ribu tahun yang lalu dengan penemuan peradaban. Lima ratus tahun yang lalu dengan penemuan mesin cetak. Lima puluh tahun yang lalu dengan penemuan komputer.

Dalam kurun waktu kurang dari tiga puluh tahun, semuanya akan berubah.

Pada suatu titik di masa depan yang tidak terlalu jauh, seseorang akan menemukan metode untuk meningkatkan kecerdasan maksimum di planet ini - baik melalui penciptaan Kecerdasan Buatan yang sejati atau meningkatkan kecerdasan manusia. Seorang manusia yang ditingkatkan akan lebih baik dalam merancang cara meningkatkan kecerdasan manusia; ia akan memiliki "kapasitas penemuan yang meningkat". Apa yang akan bisa dicapai oleh kemampuan yang meningkat ini? Menciptakan generasi manusia yang ditingkatkan selanjutnya.

Dan apa yang akan dilakukan oleh pikiran-pikiran yang telah dua kali lebih cemerlang ini? Meneliti metode tentang manusia yang ditingkatkan tiga kali lipat atau membangun kecerdasan buatan yang dapat beroperasi dengan kecepatan komputer. Dan sebuah kecerdasan buatan akan mampu mengubah ulang program dirinya sendiri secara langsung, untuk berjalan lebih cepat - atau lebih pintar. Lalu bola kristal kita meledak, "kehidupan seperti yang kita kenal" berakhir, dan segala sesuatu yang kita ketahui menjadi tidak masuk akal.

"Di sini saya telah mencoba ekstrapolasi teknologi dengan cara langsung, dan menemukan diri saya terdorong ke dalam jurang. Ini adalah masalah yang kita hadapi setiap kali kita mempertimbangkan penciptaan kecerdasan yang lebih besar dari kecerdasan kita sendiri. Ketika hal ini terjadi, sejarah manusia akan mencapai jenis singularitas di mana ekstrapolasi gagal dan model-model baru harus diterapkan - dan dunia akan melampaui pemahaman kita." -- Vernor Vinge, True Names and Other Dangers, hlm. 47. Ada beberapa jalan menuju Singularitas itu. Nanoteknologi - kemampuan untuk membangun komputer atom per atom dan menyusun kembali otak neuron per neuron. Kecerdasan Buatan, pemahaman diri dan self-enhancing seed AI. Kita dapat mengembangkan diri kita menuju Singularitas melalui meningkatnya manusia yang relatif lemah dengan neurohacking. Antarmuka silikon ke neuron secara langsung dapat meningkatkan kecerdasan manusia atau kecerdasan komputer, atau bahkan keduanya. Atau mungkin ada terobosan yang sama sekali tak terduga.

Peradaban dengan teknologi tinggi bersifat tidak stabil; ia berakhir saat spesies tersebut menghancurkan dirinya sendiri atau meningkatkan kekuatannya. Jika tren saat ini berlanjut - jika kita tidak menemui beberapa batasan teoretis yang tak terduga pada kecerdasan, atau mengubah Bumi menjadi gurun radioaktif, atau mengubur planet ini di bawah gelombang pasang nanodevice pemakan segalanya - maka Singularitas adalah suatu hal yang tidak dapat dihindari. Estimasi yang paling sering dikutip untuk timbulnya Singularitas adalah tahun 2035 - dalam masa hidupmu! - meskipun banyak orang, termasuk saya, berpikir bahwa Singularity mungkin terjadi jauh lebih cepat.

Beberapa terminologi, karena novel Hugo-winning karya Vernor Vinge, A Fire Upon The Deep:

Power - Entitas dari luar Singularitas. Transcend, Transcended, Transcendence - Tindakan memprogram ulang diri sendiri agar lebih cerdas, memprogram (dengan kecerdasannya yang baru) untuk menjadi lebih cerdas lagi, dan seterusnya hingga ke Singularitum. "Transcend" merupakan kawasan metaforis tempat Powers tinggal. Beyond – Kawasan abu-abu antara manusia dan Power; domain yang ditinggali oleh entitas yang lebih cerdas daripada manusia, tetapi belum memiliki teknologi untuk memprogram ulang diri mereka secara langsung dan melampaui batas.

Lainnya: Kehadatahan Singularitas

"Saya membayangkan serangga dan gadis-gadis memiliki persepsi samar bahwa Alam telah melakukan trik yang kejam pada mereka, tetapi mereka kurang cerdas untuk benar-benar memahami besarnya trik itu." -- Calvin dan Hobbes

Tetapi mengapa Powers harus lebih unggul daripada kita sekarang? Mengapa tidak berpikir bahwa kita akan sedikit lebih cerdas, dan itulah saja?

Perhatikan urutan 1, 2, 4, 8, 16, 32. Pertimbangkan iterasi F(x) = (x + x). Setiap beberapa tahun sekali, kinerja komputer melipatgandakan (1). Itu adalah tingkat peningkatan yang terbukti saat ini yang diamati oleh pikiran konstan dan tidak ditingkatkan - kemajuan menurut makhluk fana.

Saat ini, jumlah daya komputasi jaringan silikon di planet ini sedikit melebihi kekuatan otak manusia. Kekuatan otak manusia adalah 10^17 operasi/detik, atau seratus juta miliar operasi per detik (2), dibandingkan dengan satu miliar komputer di internet dengan kecepatan antara 100 juta hingga 1 miliar operasi/detik tiap komputer. Jumlah daya komputasi buatan sangatlah kecil sehingga tidak relevan, bukan karena banyaknya manusia, tetapi karena kekuatan mentah dari sebuah otak manusia.

Dengan laju kemajuan lama, ketika perhitungan Singularity dilakukan pada tahun 1988 (3), perkiraan adalah bahwa komputer akan mencapai tingkat kesetaraan manusia - 10^17 operasi floating-point per detik, atau seratus petaflops - sekitar tahun 2035. Tetapi pada tingkat kemajuan itu, mesin satu teraflops diperkirakan akan ada pada tahun 2000; ternyata mesin satu teraflops sudah ada pada tahun 1996, saat dokumen ini pertama kali ditulis. Pada tahun 1998, kecepatan tertinggi adalah 3,2 teraflops, dan pada tahun 1999 IBM mengumumkan proyek Blue Gene untuk membangun mesin petaflops pada tahun 2005. Jadi perkiraan lama mungkin agak konservatif.

Setelah kita memiliki komputer setara manusia, jumlah daya komputasi di planet ini sama dengan jumlah manusia ditambah jumlah komputer. Jumlah kecerdasan yang tersedia melonjak besar. Sepuluh tahun kemudian, manusia menjadi sedikit penting dalam persamaannya.

Sekuens penggandaan tersebut sebenarnya adalah proyeksi pesimis, karena asumsinya adalah bahwa kecepatan komputer tetap berlipat ganda dengan kadar yang sama. Tetapi mengapa? Kecepatan komputer tidak melipat ganda karena adanya hukum fisik yang tak terhindarkan, tetapi karena peneliti dan insinyur menemukan cara membuat chip menjadi lebih cepat. Jika beberapa peneliti dan insinyur adalah komputer itu sendiri...

Sebuah kelompok komputer yang setara dengan manusia menghabiskan waktu 2 tahun untuk melipatgandakan kecepatan komputer. Kemudian mereka menggunakan 2 tahun subjektif lagi, atau 1 tahun dalam istilah manusia, untuk melipatkannya lagi. Kemudian mereka habiskan 2 tahun subjektif lagi, atau enam bulan, untuk melipatkannya kembali. Setelah empat tahun total, kekuatan komputasi tersebut mencapai tak terbatas.

Itulah versi "Transcended" dari sekuens penggandaan. Mari kita sebut fungsi "Transcend" dari suatu sekuens {a0, a1, a2...} sebagai fungsi di mana interval antara an dan an+1 berbanding terbalik dengan an (4). Jadi fungsi penggandaan yang Transcended dimulai dari 1, dalam hal ini dibutuhkan 1 unit waktu untuk mencapai angka 2. Kemudian dibutuhkan 1/2 satuan waktu untuk mencapai 4. Lalu dibutuhkan 1/4 satuan waktu untuk mencapai 8. Fungsi ini, jika kontinu, akan menjadi fungsi hiperbolik y = 2/(2 - x). Ketika x = 2, maka (2 - x) = 0 dan y = tak terhingga. Perilaku pada titik itu dikenal secara matematika sebagai singularitas.

Dan sekuens penggandaan yang transcendental juga merupakan proyeksi pesimis, bukan Singularitas sama sekali, karena berasumsi bahwa hanya kecepatan yang ditingkatkan. Bagaimana jika kualitas pemikiran juga ditingkatkan? Saat ini, dua tahun kerja - bahkan saat ini, delapan belas bulan kerja. Delapan belas bulan kerja sudah cukup untuk melipatgandakan kecepatan komputer. Bukankah ini akan meningkat sedikit dengan adanya pembagian pemikiran dan ingatan yang eidetik? Bukankah ini akan meningkat jika, katakanlah, seluruh pengetahuan ilmiah manusia tersimpan dalam format pikiran yang tercangkok siap dipikirkan? Bukankah ini akan meningkat dengan adanya ingatan jangka pendek yang mampu menyimpan seluruh pengetahuan manusia? Kecerdasan Buatan yang setara manusia bukan "setara" - jika Kasparov memiliki program catur otomatis paling kecil dan paling buruk yang diperpadukan dengan intuisi-nya, ia akan mengalahkan Deep Blue menjadi bubur. Itulah Keuntungan AI: tugas-tugas sederhana dilakukan dengan kecepatan kilat dan tanpa kesalahan, tugas-tugas sadar dilakukan dengan memori sempurna dan kesadaran diri secara total.

Saya bahkan belum membahas tentang AI yang merancang arsitektur kognitif mereka sendiri, walaupun mereka akan lebih mudah melakukannya daripada kita - terutama jika mereka dapat melakukan pencadangan data. Kelipatan Transcended mungkin menemui batasan fisika sebelum mencapai tak terhingga... tetapi bahkan hukum fisika seperti yang saat ini dipahami masih memungkinkan satu gram (lebih atau kurang) untuk menyimpan dan menjalankan seluruh umat manusia pada rentang waktu subjektif sejuta tahun per detik (5).

Mari tarik napas dalam-dalam dan berpikir sejenak tentang itu. Satu gram. Seluruh umat manusia. Sejuta tahun per detik. Ini berarti, hanya dengan menggunakan massa planet ini sebagai daya komputasinya, mungkin untuk mendukung lebih banyak orang daripada seluruh Alam Semesta jika manusia biologis mengkolonisasi setiap planet yang ada. Ini berarti bahwa, dalam satu hari saja, sebuah peradaban dapat hidup lebih dari 80 miliar tahun, beberapa kali lebih tua daripada usia Alam Semesta saat ini.

Hal anehnya adalah sebagian besar orang yang berbicara tentang "hukum fisika" menetapkan batasan keras pada Powers tidak akan pernah bermimpi menetapkan batasan yang sama pada peradaban galaksi (biasa) manusia (sebentar) berusia satu miliar tahun. Sebagian itu hanyalah konvensi budaya fiksi ilmiah; peradaban antarbintang bisa melanggar hukum fisik apa pun yang mereka sukai, karena para pembaca sudah terbiasa seperti itu. Tetapi sebagian lagi adalah karena para ilmuwan dan penulis fiksi ilmiah telah diajarkan, berkali-kali, bahwa Batasan Ultimate Yang Tidak Bisa Dibobol biasanya harus tunduk kepada kecerdikan manusia dan beberapa generasi masa depan. Tidak ada yang berani mengatakan apa yang mungkin terjadi satu miliar tahun dari sekarang karena itu adalah periode waktu yang begitu tak terbayangkan.

Kita tahu bahwa perubahan bergerak lambat seribu tahun yang lalu, dan bahkan seratus tahun yang lalu akan mustahil menetapkan batasan yang benar terhadap kekuatan teknologi di masa depan. Kita tahu bahwa masa lalu tidak akan pernah menetapkan batasan pada masa kini, dan oleh karena itu kita tidak mencoba menetapkan batasan bagi masa depan. Tetapi dengan transhumanisme, analoginya bukan ke Lord Kelvin, atau Aristoteles, atau pemburu-pengumpul - semua dari mereka memiliki kecerdasan manusia - tetapi kepada Neanderthal. Dan dengan Powers, kepada seekor ikan. Dan namun, karena kekuatan kecerdasan yang lebih tinggi tidak diakui secara luas seperti kekuasaan beberapa juta tahun baru - karena kita tidak memiliki sejarah penentang yang merasa malu karena adanya manusia transikedental alih-alih hanya waktu - beberapa dari kita masih duduk, mengerang di sekitar api, menetapkan batasan akhir pada ketajaman tombak; beberapa dari kita masih berenang, tanpa berkedip, tak mampu melakukan pemikiran abstrak, tetapi tahu bahwa seluruh Alam Semesta ini, serta harusnya basah.

Untuk menggambarkan laju kemajuan yang didorong oleh para peneliti yang lebih cerdas, saya perlu menciptakan fungsi yang lebih kompleks daripada fungsi penggandaan yang digunakan di atas. Kita akan menyebut fungsi baru ini sebagai T(n). Anda dapat memandang T(n) sebagai representasi angka terbesar yang bisa dibayangkan oleh seseorang dengan otak n-neuron. Lebih formal, T(n) didefinisikan sebagai blok terpanjang 1 yang dihasilkan oleh Mesin Turing berhenti dengan n state yang bertindak pada pita awal kosong. Jika Anda akrab dengan komputer tetapi tidak dengan Mesin Turing, anggaplah T(n) sebagai angka terbesar yang bisa dihasilkan oleh program komputer dengan n instruksi. Atau jika Anda seorang ahli teori informasi, pikirkan T(n) sebagai fungsi invers dari kompleksitas; ia menghasilkan angka terbesar dengan kompleksitas n atau kurang.

Sekuens yang dihasilkan oleh pengulangan T(n), S{n} = T(S{n - 1}), konstan untuk nilai sangat rendah dari n. Nilai S{0} didefinisikan sebagai 0; program dengan panjang nol tidak menghasilkan keluaran apa pun. Ini sesuai dengan semacam "Universum" yang kosong dari kecerdasan. T(1) = 1. Inilah saat kecerdasan yang tidak mampu meningkatkan dirinya sendiri; inilah tahap tempat kita berada sekarang. T(2) = 3. Di sinilah lompatan itu dimulai menuju Jurang. Begitu fungsi ini naik sedikit saja, ia langsung meluncur ke tepi dari apa yang dapat diketahui. T(3) = 6? T(6) = 64?

T(64) = jauh lebih besar daripada 10^80, jumlah atom dalam Alam Semesta. T(1080) adalah sesuatu yang hanya entitas Transcendent yang akan mampu menghitung, dan itu baru jika entitas Transcendent dapat menciptakan alam semesta baru, bahkan hukum fisika baru, untuk menyediakan daya komputasi yang dibutuhkan. Bahkan T(64) kemungkinan besar tidak akan diketahui oleh manusia biasa.

Sekarang ambil versi Transcended dari S{n}, dimulai dari 2. Setengah satuan waktu kemudian, kita memiliki 3. Sepersepertiga unit waktu setelah itu, 6. Satu keseluruhan unit lebih - satu unit lengkap setelah fungsi ini dimulai - kita mempunyai 64. Enam puluh empat peseratus yang berlalunya, 10^80. Kurun waktu sangat kecil yang tidak dapat diimajinasikan ... Singularitas.

Apakah S{n} benar-benar merupakan model yang baik untuk menggambarkan Singularitas? Tentu saja tidak. "Model yang baik" untuk menggambarkan Singularitas adalah suatu kontradiksi; itulah intinya; Singularitas akan melampaui setiap model yang manusia bisa rumuskan seratus tahun yang lalu, dan Singularitas akan melampaui setiap model yang kita rumuskan hari ini (6)

Namun, keterkejutan utama adalah bahwa S{n} adalah metafora tanpa dasar. Sekuens penggandaan yang transcendental merepresentasikan para peneliti yang lebih cepat. Mudah untuk mengatakan bahwa S{n} mewakili para peneliti yang lebih cerdas, tetapi apa arti sebenarnya dari kata "lebih cerdas" dalam konteks ini?

2.1: Definisi Kecerdasan

Kecerdasan adalah ukuran dari apa yang kita lihat sebagai jelas, apa yang dapat kita lihat dengan jelas dalam retrospeksi, apa yang bisa kita ciptakan, dan apa yang bisa kita pahami. Untuk lebih tepatnya, kecerdasan adalah ukuran dari primitif semantik Anda (apa yang sederhana jika dilihat secara retrospektif), cara Anda memanipulasi primitif semantik tersebut (apa yang terlihat jelas), struktur yang dapat dibentuk oleh primitif semantik Anda (apa yang bisa Anda pahami), dan cara Anda dapat memanipulasi struktur-struktur itu (apa yang bisa Anda ciptakan). Jika berbicara tentang teori kompleksitas, perbedaan antara yang terlihat jelas dan yang terlihat jelas pada masa lalu atau yang bisa diciptakan dan yang bisa dipahami, seperti perbedaan antara NP dan P.

Semua manusia yang tidak menderita kerusakan saraf memiliki primitif semantik yang sama. Apa yang jelas pada retrospeksi bagi satu orang juga jelas pada retrospeksi bagi semua orang. (Catatan empat: Pertama, dengan "kerusakan saraf" saya bukan bermaksud sesuatu yang merendahkan - hanya saja, seseorang yang kehilangan korteks visual tidak akan memiliki primitif semantik visual. Jika jalur-jalur saraf tertentu terputus, orang tidak hanya kehilangan kemampuan untuk melihat warna; mereka juga kehilangan kemampuan untuk mengingat atau membayangkan warna. Kedua, teorema di matematika mungkin hanya jelas pada retrospeksi bagi para ahli matematika - tetapi siapa saja yang memperoleh keterampilan tersebut akan memiliki kemampuan untuk melihatnya. Ketiga, sejauh mana apa yang kita anggap sebagai jelas melibatkan bukan hanya primitif simbolik tetapi juga tautan sangat pendek antara mereka. Saya menganggap jenis-jenis tautan primitif itu termasuk dalam "primitif semantik". Ketika kita melihat urutan pemikiran dan melihatnya sebagai sesuatu yang jelas pada masa lalu, itu belum tentu merupakan satu primitif semantik tunggal, tetapi terdiri dari rantai primitif semantik dan tipe-tipe tautan yang sangat pendek. Keempat, saya minta maaf atas kecenderungan saya untuk membongkar metafora saya sendiri; saya benar-benar tidak bisa menahannya.)

Begitu pula, arsitektur kognitif manusia adalah universal. Kita semua memiliki jenis pikiran dasar yang sama. Meskipun sifat dari materi pikiran ini mungkin tidak diketahui, kemampuan kita untuk berkomunikasi satu sama lain menunjukkan bahwa, apa pun yang kami komunikasikan, itu sama di kedua belah pihak. Jika dua manusia berbagi sekumpulan konsep, struktur apa pun yang terbentuk oleh konsep-konsep itu yang dipahami oleh satu orang juga akan dipahami oleh yang lain.

Manusia yang berbeda mungkin memiliki tingkat kemampuan yang berbeda dalam memanipulasi dan memberi struktur pada konsep; manusia yang berbeda mungkin melihat dan menciptakan hal-hal yang berbeda. Terobosan besar dalam fisika dan rekayasa tidak terjadi karena sekelompok orang bekerja dan bekerja selama beberapa generasi sampai mereka menemukan penjelasan yang begitu kompleks, serangkaian ide yang begitu panjang sehingga hanya waktu yang bisa menciptakannya. Relativitas, fisika kuantum, buckyballs, dan pemrograman berorientasi obyek terjadi karena seseorang menyusun struktur semantik singkat, sederhana, elegan dengan cara yang belum pernah terpikirkan sebelumnya. Menjadi sedikit lebih cerdas adalah asal mulanya revolusi. Bukan waktu. Bukan kerja keras. Meskipun kerja keras dan waktu biasanya diperlukan, orang lain telah bekerja jauh lebih keras dan lebih lama tanpa hasil. Inti dari revolusi adalah kecerdasan mentah.

Sekarang bayangkan Singularity itu. Bayangkan seekor simpanse yang mencoba memahami kalkulus integral. Bayangkan orang-orang dengan neurologi visual yang rusak yang tidak dapat mengingat bagaimana rasanya melihat, yang tidak dapat membayangkan warna merah atau memvisualisasikan struktur dua dimensi. Bayangkan korteks visual dengan neuron setara triliunan kali lipat. Bayangkan dua puluh ribu warna berbeda di pelangi, tak satu pun adalah gradasi warna yang lain. Bayangkan objek lima puluh dimensi yang berputar. Bayangkan primitif semantik melekat pada piksel, sehingga kita dapat melihat rangkaian warna gagasan dengan cara yang sama kita melihat rangkaian warna pelangi.

Primitif semantik kita juga menentukan apa yang dapat kita ketahui. Mengapa sesuatu ada? Tidak ada yang tahu. Dan namun, jawabannya jelas. Penyebab Pertama harus jelas. Itu harus jelas bagi kekosongan, hadir dalam ketiadaan segala sesuatu, zat yang terbentuk dari - kosong -, kesimpulan yang dihasilkan tanpa data atau asumsi awal. Apa yang menghadirkan pengalaman sadar, hal-hal yang pikiran dibuat dari? Kita dibuat dari pengalaman sadar. Tidak ada yang lebih langsung kita alami. Bagaimana itu bekerja? Kita tidak punya petunjuk. Dua setengah milenium mencoba memecahkan masalah ini dan tidak ada yang ditunjukkan selain "Aku berpikir, maka aku ada." Solusinya tampaknya sederhana, tetapi pada kenyataannya imperseptibles secara demonstratif. Mungkin solusi-solusi ini beroperasi di luar representasi yang dapat dibentuk dengan otak manusia.

Jika demikian, maka keturunan, pewaris, diri masa depan kita akan mencari primitif semantik yang diperlukan dan mengubah diri mereka untuk menyadarinya. Para Power akan membedah Alam Semesta dan Realitas sampai mereka memahami mengapa sesuatu ada, menganalisis neuron hingga mereka memahami pengetahuan tentang suara internal. Dan itu hanya akan menjadi awal. Tidak akan berakhir di situ. Mengapa harus ada hanya dua masalah sulit? Bagaimanapun, jika bukan karena manusia, Alam Semesta tampaknya hanya akan memiliki satu masalah sulit saja, karena bagaimana seorang pemikir tak sadar yang non-sadarkah seseorang merumuskan masalah kesadaran?

Mungkinkah ada keadaan eksistensi di luar kesadaran belaka - transsentience? Mungkinkah memecahkan sifat realitas menciptakan kemampuan untuk menciptakan alam semesta baru, memanipulasi hukum fisika, bahkan mengubah jenis hal-hal yang dapat menjadi kenyataan -- "ontoteknologi"? Itulah arti dari Singularity.

Jadi sebelum Anda berbicara tentang hidup sebagai Power atau Utopia yang akan datang - suatu kegiatan favorit para transhumanis dan Extropian adalah membahas masalah pengunggahan pikiran, kehidupan setelah diunggah, dan sebagainya - ingatlah bahwa Anda mungkin memiliki peluang yang lebih baik untuk memecahkan kedua masalah sulit daripada membuat pernyataan valid tentang masa depan. Ini juga berlaku bagi saya. Saya tetap pada semua yang saya katakan tentang manusia, termasuk ketidakmampuan kita untuk memahami hal-hal tertentu, tetapi semua yang saya katakan tentang Powers hampir pasti salah. "Mereka akan menemukan primitif semantik yang diperlukan dan mengubah diri mereka untuk menyadarinya." Salah. "Menemukan". "Primitif semantik". "Mengubah". "Melihat". Saya bertaruh bahwa semua istilah ini akan menjadi usang setelah Singularity. Ada cara yang lebih baik dan saya yakin Mereka - atau Itu, atau [suara meledak] akan "menemukannya".

2.2: Transcepsional Perseptual Saya ingin memperkenalkan unit kemajuan pasca-singularitas, Transcend Perceptual atau PT.

[Pause sejenak sambil penonton tertawa tak terkendali.]

Transcend Perceptual terjadi ketika segala sesuatu yang bisa dipahami menjadi jelas pada retrospeksi, dan segala sesuatu yang dapat diinventarisasi menjadi terlihat jelas. Transcend Perceptual terjadi ketika struktur semantis generasi satu menjadi primitif semantis generasi berikutnya. Dengan kata lain, satu PT dari saat ini, seluruh pengetahuan manusia menjadi terlihat dalam kilatan pengalaman tunggal, dengan cara kita sekarang melihat gambar secara keseluruhan.

Komputer adalah PTS di atas manusia dalam hal aritmatika - agak begitu. Ketika kita perlu memanipulasi piramida angka yang rapuh secara keseluruhan untuk mengalikan 62305 dengan 10358, komputer bisa menghasilkan jawabannya - 645355190 - dalam satu langkah jelas. Komputer ini sebenarnya bukan PTS di atas kita sama sekali, karena dua alasan. Pertama-tama, mereka hanya menghandle angka hingga dua miliar daripada 9; setelah itu mereka juga perlu memanipulasi piramida. Yang lebih penting lagi, mereka tidak memperhatikan apa pun tentang angka yang mereka manipulasi, seperti halnya manusia. Jika Anda mengalikan 23704 dengan 14223 menggunakan metode perkalian kue pengantin, Anda tidak akan mengalikan 23704 dengan 2 dua kali berturut-turut; Anda hanya akan mencuri hasil dari kali sebelumnya. Jika salah satu hasil sementara adalah 12345 atau 99999 atau 314159, Anda juga akan memperhatikannya. Cara komputer memanipulasi angka sebenarnya kurang kuat daripada cara kita memanipulasi angka.

Apakah Powers akan puas dengan kekurangan itu? PTS di atas kita, perkalian dilakukan secara otomatis tetapi dengan perhatian penuh terhadap hasil sementara, angka-angka yang kebetulan prima, dan sejenisnya. Jika saya merancang salah satu awal Powers - dan, di Singularity Institute, inilah yang kami lakukan - saya akan membuat sebuah sub-sistem lengkap untuk memanipulasi angka, yang mampu melihat tentang keserasian, kompleksitas, dan semua sifat numerik yang diketahui umat manusia. Seorang Power akan memahami mengapa 62305 kali 10358 sama dengan 645355190, dengan pemahaman yang sama seperti matematikawan manusia papan atas yang menghabiskan berjam-jam mempelajari semua angka yang terlibat. Dan pada saat yang sama, Power tersebut akan melakukan perkalian dua angka tersebut secara otomatis.

Bagi Power semacam ini, di mana angka adalah primitif semantis yang sejati, Theorem Fermat Terakhir dan Goldbach Conjecture dan Hipotesis Riemann mungkin menjadi jelas. Di dalam benaknya, Power tersebut akan menguji setiap pernyataan dengan jutaan percobaan, secara alam bawah sadarnya memanipulasi semua angka yang terlibat untuk menemukan mengapa mereka bukan jumlah dua kubus atau mengapa mereka adalah jumlah dua bilangan prima atau mengapa bagian nyata dari mereka sama dengan satu perdua. Dari situ, Power tersebut dapat menduga solusi paling dasar dan sederhana hanya dengan memberikan generalisasi. Mungkin matematikawan manusia, jika mereka bisa melakukan aritmatika selama seribu kali percobaan untuk Hipotesis Riemann, memeriksa setiap langkah antara, mencari properti umum dan pintasan menarik, dapat merasakan intuisi tentang solusi formal. Tapi mereka tidak bisa melakukannya, dan tentu saja mereka tidak bisa melakukannya secara alam bawah sadar, itulah mengapa Hipotesis Riemann tetap tak jelas dan belum terbukti - itu merupakan struktur konseptual daripada primitif konseptual.

Mungkin contoh lain yang lebih menantang pemikiran diberikan oleh korteks visual kita. Pada permukaannya, korteks visual tampak seperti prosesor gambar. Dalam mesin grafis komputer modern, sebuah gambar diwakili oleh larik dua dimensi dari piksel (7). Untuk memutar gambar ini - sebagai contoh satu operasi - koordinat persegi panjang setiap piksel {x, y} diubah menjadi koordinat polar {theta, r}. Semua thetas, yang mewakili sudut, ditambahkan konstan. Koordinat polar kemudian dikonversi kembali menjadi persegi panjang. Ada cara untuk mengoptimalkan proses ini dan memperhatikan piksel-piksel yang saling berpotongan atau kosong pada larik baru, tetapi intinya jelas: Untuk melakukan operasi pada seluruh gambar, lakukan operasi pada setiap piksel dalam gambar tersebut.

Pada titik ini, seseorang bisa mengatakan bahwa Transcend Perceptual tergantung pada level mana Anda melihat operasinya. Jika Anda melihat diri Anda sebagai melakukan operasi piksel demi piksel, itu adalah struktur kognitif yang tidak dapat diimajinasikan dengan tak terbayangkan teduh, tetapi jika Anda melihatnya secara keseluruhan, itu merupakan primitif kognitif - sebuah poin yang tertuang dalam Fuga Semut Hofstadter ketika membahas semut dan koloni semut. Tidak begitu menarik kecuali Hofstadter menjelaskannya, tapi ada lebih dari korteks visual daripada itu.

Begitu juga, kita sadar akan merah. (Jika Anda tidak yakin apa itu pengalaman sadar a.k.a "qualia," versi singkatnya adalah bahwa Anda bukanlah orang yang berbicara dengan pikiran Anda, Anda adalah orang yang mendengarkan pikiran Anda.) Qualia adalah materi yang terbentuk oleh perbedaan yang tak terdeskripsikan antara merah dan hijau.

Istilah "primitif semantis" menggambarkan lebih dari sekadar tingkat di mana simbol-simbol diskrit adalah objek padat. Ini menggambarkan tingkat persepsi sadar. Tidak seperti komputer yang memanipulasi angka dalam bentuk bit, dan seperti Power yang membayangkan teorema-teorema yang terbentuk oleh angka-angka, kita tidak kehilangan resolusi apapun ketika berpindah dari level piksel ke gambar keseluruhan. Kita tidak secara tiba-tiba menyadari gagasan "ada seekor beruang di depan saya"; kita melihat gambar beruang, yang mengandung jutaan piksel, setiap satu di antaranya dialami secara sadar secara bersamaan. Transcend Perceptual bukanlah "hanya" pengenalan tingkat kognitif baru; itu mengubah struktur kognitif menjadi primitif yang disadari.

"Dengan kata lain, satu PT dari saat ini, seluruh pengetahuan manusia menjadi terlihat dalam kilatan pengalaman tunggal, dengan cara kita sekarang melihat gambar secara keseluruhan."

Tentu saja, PT ini tidak akan digunakan sebagai unit kemajuan pasca-Singularitas. Bahkan jika pada awalnya itu digunakan, tidak akan lama sebelum "PT" sendiri ditinggalkan dan Powers melompat keluar dari sistem sekali lagi. Bagaimanapun, Singularitas pada dasarnya begitu jauh di atas saya, sang penulis, seperti halnya di atas siapa pun manusia lainnya, sehingga PT saya akan menjadi deskripsi tak berharga seperti ataupun urutan penggandaan yang dibuang begitu lama. Bahkan jika kami menerima PT sebagai unit dasar pengukuran, itu hanya memperkenalkan Singularitas kedua. Mungkin Perceptual Transcends akan terjadi setiap dua tahun sadar pada awalnya, tetapi kemudian akan terjadi setiap setahun sadar, dan kemudian setiap enam bulan sadar - apakah Anda mengerti?

Ini seperti "Birthday Cantatatata..." dalam buku Hofstadter Godel, Escher, Bach. Anda bisa memulainya dengan urutan {1, 2, 3, 4 ...} dan melompat keluar ke dalam w (omega), simbol untuk tak berhingga. Tetapi kemudian kita memiliki {w, w + 1, w + 2 ... }, dan kita lompat lagi menuju 2w. Kemudian 3w, dan 4w, dan w2 dan w3 dan ww dan w^(ww) dan menara yang lebih tinggi dari ws sampai kita melompat keluar menjadi ordinal e0, yang mencakup semua menara eksponensial dalam ws.

PTS mungkin memperkenalkan Singularitas kedua, dan ketiga, dan keempat, hingga Singularitas datang semakin cepat, dan kesadaran Singularitas pertama adalah sesuatu yang tidak dapat dihindari -

Atau Powers mungkin hanya melompat di luar sistem itu. "Birthday Cantatatata ..." ditulis oleh manusia - meski Douglas Hofstadter, tapi tetap manusia - dan konsep-konsep yang terlibat di dalamnya mungkin melampaui apa yang manusia transodus pertama pun sanggup lakukan.

Powers ada di luar kemampuan kita untuk memahami.

Apakah Anda mengerti?

2.3: Angka Besar yang Luar Biasa

Sulit untuk benar-benar menghargai Singularity tanpa terlebih dahulu menghargai angka-angka yang sangat besar. Saya tidak berbicara tentang angka-angka kecil yang hampir tidak dapat dibedakan dari nol, seperti jumlah atom di Alam Semesta atau jumlah tahun yang diperlukan bagi seekor monyet untuk menggandakan karya-karya Shakespeare. Saya mengajak Anda untuk mempertimbangkan apa yang pada saat itu, sekitar tahun 1977, adalah angka terbesar yang pernah digunakan dalam sebuah bukti matematis yang serius. Bukti tersebut, oleh Ronald L. Graham, adalah batas atas suatu pertanyaan tertentu dalam teori Ramsey. Untuk menjelaskan bukti ini, harus diperkenalkan notasi baru, yang pertama kali dibuat oleh Donald E. Knuth dalam artikel Coping With Finiteness. Notasi tersebut biasanya ditunjukkan dengan anak panah kecil yang menunjuk ke atas, disingkat sebagai ^. Ditulis sebagai fungsi:

int arrow(int num, int power, int arrownum) {
    int answer = num;
    if (arrownum == 0)
        return num * power;
    for (int i = 1; i < power; i++)
        answer = arrow(num, answer, arrownum - 1);
    return answer;
} // akhir arrow

2^4 = 24 = 16.

3^^4 = 3^(3^(3^3)) = 3^(3^27) = 37.625.597.484.987

7^^^^3 = 7^^^(7^^^7).

3^3 = 3 3 3 = 27. Angka ini cukup kecil untuk dapat diimajinasikan.

3^^3 = 3^(3^3) = 3^27 = 7.625.597.484.987. Lebih besar dari 27, tetapi masih bisa dituliskan. Tidak ada yang dapat membayangkan tujuh triliun benda apapun, tetapi kita dengan mudah memahaminya sebagai sesuatu yang setara dengan, misalnya, Produk Nasional Bruto.

3^^^3 = 3^^(3^^3) = 3^(3^(3^(3^...^(3^3)...))). Tanda "..." di sini terdiri dari tiga tiga belas tak terhitung jumlahnya. Dengan kata lain, 3^^^3 atau arrow(3, 3, 3) adalah satu deret eksponensial tiga setinggi 7.625.597.484.987 tingkat. Angkanya sekarang sudah melampaui daya pemahaman manusia, tetapi prosedur pembuatannya dapat dimengerti. Anda mulai dengan x=1. Kemudian Anda mengubah x menjadi 3^x. Ulangi hal ini sampai tujuh triliun kali. Meskipun tahap awal angka tersebut jauh lebih besar daripada seluruh Alam Semesta, deret eksponensial yang ditulis sebagai "3^3^3^3...^3" masih cukup kecil sehingga dapat disimpan dalam superkomputer modern.

3^^^^3 = 3^^^(3^^^3) = 3^^(3^^(3^^...^^(3^^3)...)). Baik angka maupun prosedur untuk menghasilkannya sudah melampaui kemampuan manusia dalam memvisualisasikannya, meskipun prosedurnya dapat dimengerti. Anda mulai dengan suatu bilangan x=1, lalu mengubah x menjadi deret eksponensial tiga setinggi x. Ulangi hal ini sebanyak 3^^^3 kali, di mana 3^^^3 adalah deret eksponensial tujuh triliun tingkat.

Namun, seperti yang dikatakan Martin Gardner: "3^^^^3 jauh lebih besar dari 3^^^3 yang tak terbayangkan, tetapi itu masih kecil jika dibandingkan dengan angka-angka hingga pada umumnya, karena kebanyakan angka hingga jauh lebih besar."

Dan sekarang, angka Graham. Misalkan x sama dengan 3^^^^3, atau angka yang secara tak terbayangkan tersebut di atas. Dan misalkan x sama dengan 3^^^^^^^(x anak panah)^^^^^^^3. Setelah mengulanginya 63 kali, atau 64 termasuk awal 3^^^^3.

Angka Graham ini sangat melebihi pemahaman saya. Saya bisa mendeskripsikannya, tapi tidak bisa sepenuhnya mengapresiasinya. (Mungkin Graham dapat menghargainya, karena telah menulis bukti matematika yang menggunakannya.) Angka ini jauh lebih besar daripada konsepsi banyak orang tentang tak berhingga. Saya tahu bahwa angka ini lebih besar daripada konsep saya sendiri. Rasa kagum saya ketika pertama kali bertemu dengan angka ini tak terlukiskan dalam kata-kata. Itu adalah perasaan melihat sesuatu yang jauh lebih besar daripada dunia di dalam pikiran saya sehingga konsepsi tentang Alam Semesta menjadi hancur dan dibangun kembali agar sesuai. Setiap teolog seharusnya dihadapkan pada angka seperti itu, supaya mereka dapat sepenuhnya mengapresiasi apa yang mereka dakwahkan sebagai kecerdasan "tak berhingga" Tuhan.

Kebahagiaan saya lengkap ketika saya mengetahui bahwa jawaban aktual untuk masalah Ramsey yang melahirkan angka tersebut - bukan batas atas - kemungkinan hanya enam.

Mengapa semua ini diperlukan, terlepas dari keindahan matematika? Karena selama Anda tidak memahami keluwesannya kata-kata "tak terbatas", "besar", dan "transhuman", Anda tidak akan bisa menghargai Singularity. Menghargai Singularity sama sekali jauh di luar jangkauan kita seperti halnya bagi seekor simpanse untuk memvisualisasikan angka Graham. Jauh melebihi itu. Tidak ada analogi manusia yang pernah mampu menggambarkan Singularity, karena kita hanyalah manusia.

Angka di atas diciptakan oleh pikiran manusia. Ia hanyalah bilangan bulat positif terbatas, meskipun besarnya. Ia komposit dan ganjil, bukan bilangan prima atau genap; ia habis dibagi tiga secara sempurna. Di dalam digit-desimal angka tersebut, dengan hampir semua skema enkode yang ada, terkandung semua karya yang pernah ditulis oleh tangan manusia, dan semua karya yang dapat ditulis, dengan kecepatan seratus ribu kata per menit, selama usia Alam Semesta diperhitungkan hingga kekuasaan seribu kali. Dan meskipun ia mungkin mengandung Alam Semesta yang tak terbayangkan jauh lebih besar dari ini, tetapi hanya angka semata. Ia adalah angka yang begitu kecil sehingga algoritma untuk menghasilkannya dimungkinkan disimpan dalam pikiran manusia biasa.

Singularity berada di luar itu. Kita tidak bisa mencoba-cobanya dengan menyatakan bahwa ia akan menjadi bilangan bulat positif terbatas. Kita tidak bisa mengatakannya apa pun, kecuali bahwa ia akan melampaui pemahaman kita.

Jika Anda berpikir bahwa notasi panah Knuth telah menghasilkan beberapa angka yang cukup besar, bagaimana dengan T(n)? Berapa banyak status yang harus dimiliki sebuah mesin Turing untuk mengimplementasikan perhitungan di atas? Apa kompleksitas angka Graham, C(Graham)? Kemungkinan besarnya sekitar 100. Lebih lanjut lagi, kemungkinan T(C(Graham)) jauh, jauh lebih besar daripada angka Graham. Mengapa kita melakukan x = 3^(x ^s)^3 hanya 64 kali? Mengapa tidak 3^^^^3 kali saja? Itu mungkin akan lebih mudah, karena kita sudah membutuhkan untuk menghasilkan 3^^^^3, tetapi tidak 64. Dan dengan ruang tambahan tersebut, kita bahkan mungkin dapat memperkenalkan algoritma yang lebih kompleks secara komputasi. Nyatanya, notasi panah Knuth mungkin bukanlah algoritma paling kuat yang dapat dimasukkan ke dalam C(Knuth) status.

T(n) adalah metafora untuk tingkat pertumbuhan entitas pengembangan diri karena ia menggambarkan konsep memiliki kecerdasan tambahan untuk memperkaya diri sendiri. Saya tidak tahu kapan T(n) melewati batas perhitungan yang dapat dilakukan oleh matematikawan manusia, secara teori tentunya. Kemungkinan besar lebih dari n=10 dan kurang dari n=100. Intinya adalah setelah beberapa iterasi, kita akan mendapatkan T(4294967296). Sekarang, saya tidak tahu apa yang akan sama dengan T(4294967296), tetapi mesin Turing pemenang kemungkinan akan menghasilkan Power yang tujuannya adalah untuk berpikir tentang angka yang sangat besar. Itulah arti dari kata "besar".

2.4: Lebih Cerdas Daripada Kita

Sangat baik untuk berbicara tentang primer kognitif dan kejelasan, tetapi sekali lagi - apa arti dari lebih cerdas? Arti cerdas tidak bisa didasarkan pada Singularity - saya belum pernah ada di sana. Jadi, apa definisi praktis saya?

"Tantangan terbesar bagi seorang penulis adalah karakter yang lebih cerdas daripada sang penulis. Itu bukanlah hal yang mustahil. Puzzel-puzzel yang butuh berbulan-bulan bagi penulis untuk menyelesaikannya atau merancangnya, karakter bisa mengatasinya dalam hitungan detik. Tetapi Tuhan membantu penulis jika karakter yang sangat cerdas tersebut ternyata salah!" -- Larry Niven "Tentu saja, saya tidak pernah menulis cerita 'penting', sekuel tentang manusia pertama yang ditingkatkan. Sekali saya mencoba sesuatu yang mirip. Surat penolakan John Campbell dimulai dengan: 'Maaf - Anda tidak bisa menulis cerita ini. Tidak pula orang lain.'" -- Vernor Vinge

Kecerdasan adalah kualitas yang membuat mustahil menulis cerita tentang karakter yang lebih cerdas daripada dirimu sendiri. Kamu dapat menulis tentang pemikir super cepat, ingatan eidetik, penghitung kilat; karakter yang belajar bahasa selusin dalam satu minggu, yang dapat membaca sebuah teks dalam satu jam, atau yang bisa menciptakan segala macam barang hebat - asalkan kamu tidak harus menghasilkan penemuan nyata itu. Tetapi kamu tidak bisa menulis karakter dengan tingkat kedewasaan emosional yang lebih tinggi, karakter yang bisa melihat solusi yang jelas yang kamu lewatkan, karakter yang tahu (dan dapat mengatakan kepada pembaca) Arti Kehidupan, karakter dengan kesadaran diri super manusia. Tidak kecuali jika kamu bisa melakukan hal-hal ini sendiri.

Mari kita ambil contoh konkret, cerita Bunga untuk Algernon (kemudian dibuat menjadi film Charly), karya Daniel Keyes. (Aku takut aku harus memberi tahu bagaimana kisah ini berakhir, tetapi itu adalah kisah tentang Karakter, bukan Ide, jadi seharusnya tidak merusak). Bunga untuk Algernon berkisah tentang prosedur bedah saraf untuk peningkatan kecerdasan. Prosedur ini pertama kali diuji pada seekor tikus bernama Algernon, dan kemudian pada manusia terbelakang mental, Charlie Gordon. Charlie yang telah ditingkatkan memiliki karakteristik superhero fiksi ilmiah standar; dia berpikir cepat, belajar seluruh pengetahuan dalam beberapa minggu saja, dan membahas matematika yang rumit (tidak ditampilkan). Kemudian tikus Algernon menjadi sakit dan meninggal. Charlie menganalisis prosedur peningkatan tersebut (tidak ditunjukkan) dan menyimpulkan bahwa prosesnya pada dasarnya cacat. Kemudian, Charlie pun meninggal.

Itulah manusia ditingkatkan ala fiksi ilmiah. Seorang manusia nyata yang ditingkatkan tidak akan terkejut seperti itu. Seorang manusia nyata yang ditingkatkan akan menyadari bahwa peningkatan kecerdasan sederhana akan menjadi sebuah kerugian evolusi bersih - jika meningkatkan kecerdasan hanyalah masalah prosedur bedah sederhana, itu akan terjadi jauh sebelumnya sebagai mutasi alami. Ini berlaku dua kali lipat untuk prosedur yang berhasil pada tikus! (Sejauh yang saya tahu, hal ini tidak pernah terpikir oleh Keyes. Saya memilih Bunga dari semua cerita terkenal tentang peningkatan kecerdasan karena, dengan alasan kesatuan dramatis, cerita ini menunjukkan apa yang sebenarnya terjadi.)

Perhatikan bahwa saya tidak membuatmu takjub dengan penjelasan teknis yang rumit terkait kematian Charlie; penjelasan saya hanya dua kalimat dan dapat dipahami oleh orang yang bukan ahli di bidang itu. Kemudahan dalam kecerdasan itulah yang sangat sulit dituangkan dalam fiksi dan menggemparkan ketika kita bertemu dengan situasinya secara pribadi. Yang dapat dilakukan oleh fiksi ilmiah untuk menunjukkan kecerdasan hanyalah menggunaan istilah khusus dan gadgetness. Seorang Charlie Gordon yang benar-benar ultra-cerdas tidak akan terkejut seperti itu; dia bisa menduga nasibnya menggunakan pemikiran sederhana di atas. Dia akan menerima probabilitas tersebut, mengatur ulang prioritasnya, dan bertindak sesuai sampai waktu habis - atau lebih mungkin lagi, ia akan menemukan cara yang sama sederhana dan jelas dari sudut pandang belakang untuk menghindari nasibnya. Jika Charlie Gordon benar-benar super-cerdas, maka tidak akan ada cerita.

Ada beberapa kesenjangan yang begitu besar sehingga membuat semua masalah menjadi baru. Bayangkan bidang apa pun di mana kamu adalah seorang ahli - neurosains, pemrograman, tukang ledeng, apapun itu - dan pertimbangkan jarak antara pemula, orang yang baru saja menghadapi masalah tersebut untuk pertama kalinya, dan seorang ahli. Bahkan jika seribu pemula mencoba menyelesaikan masalah dan gagal, tidak mungkin dikatakan bahwa seorang ahli tunggal tidak bisa dengan mudah menyelesaikannya secara santai. Jika ratusan fisikawan terdidik berusaha menyelesaikan sebuah masalah dan gagal, kemungkinan seorang Einstein masih dapat berhasil. Jika ribuan anak berusia dua belas tahun mencoba selama setahun untuk menyelesaikan sebuah masalah, itu tidak berarti apakah seorang dewasa memiliki kemungkinan untuk menyelesaikan masalah tersebut. Jika jutaan pemburu-pengumpul mencoba menyelesaikan sebuah masalah selama satu abad, jawaban itu mungkin masih jelas bagi manusia abad ke-21 yang terpelajar. Dan tak ada jumlah simpanse, seberapa lama mereka mencobanya, yang dapat memberi kita informasi tentang apakah manusia paling bodoh dapat menyelesaikan masalah tersebut tanpa berpikir sama sekali. Ada beberapa kesenjangan yang sangat besar sehingga menjadikan semua masalah menjadi baru; dan beberapa di antaranya, seperti kesenjangan antara pemula dan ahli, atau gap antara pemburu-pengumpul dan warga yang terpelajar, bahkan bukan merupakan gap perangkat keras - mereka tidak berhubungan dengan sihir kecerdasan, tetapi sihir pengetahuan, atau dari ketidakbodohan.

Saya kembali ke masa sebelum saya mulai belajar psikologi evolusioner dan ilmu kognitif. Saya tahu bahwa saat itu saya tidak bisa mendekati untuk meramalkan kursus Singularity. "Jika dulu saya tidak bisa menjangkaunya dengan benar, apa yang membuat saya berpikir saya bisa mengatakannya dengan benar sekarang?" Saya ini manusia, dan seorang warga yang terpelajar, dewasa, ahli, jenius... tapi jika masih ada satu gap serupa diantara diriku dan Singularity, maka spekulasi ku tidak akan lebih baik daripada para ilmuwan abad kedelapan belas.

Kita semua familiar dengan variasi individu dalam kecerdasan manusia, yang tersebar pada kurva Gaussian besar; ini adalah acuan tunggal bagi kita tentang "lebih cerdas". Tetapi tepat karena variasi-variari tersebut masuk dalam rentang desain otak manusia, mereka tidak luar biasa. Salah satu kebenaran yang sangat dalam tentang pikiran manusia adalah bahwa evolusi merancang kita agar bodoh - agar terbutakan oleh ideologi, enggan untuk mengakui bahwa kita salah, berpikir "musuh" tidak manusiawi, dipengaruhi oleh tekanan teman sebaya. Variasi dalam kecerdasan yang masuk dalam rentang desain normal tidak langsung mempengaruhi kebodohan ini. Inilah mengapa ada pepatah yang mengatakan bahwa kecerdasan tidak menjamin kebijaksanaan, dan dalam batas manusia hal ini sebagian benar (8). Variasi yang kita lihat tidak cukup kuat untuk membuat orang menghargai apa arti "lebih cerdas."

Saya adalah Seorang Singularitarian karena saya memiliki pengertian sedikit tentang betapa mustahilnya berpikir seperti seseorang yang bahkan hanya sedikit lebih cerdas darimu. Saya tahu bahwa kita semua melewati yang jelas, setiap hari. Tidak ada masalah sulit, hanya masalah yang sulit bagi tingkat kecerdasan tertentu. Pindahkan sedikit ke atas, maka beberapa masalah akan tiba-tiba beralih dari "mustahil" menjadi "jelas". Bergerak agak banyak, maka semuanya akan menjadi jelas. Melampaui dengan jarak yang besar...

Dan saya tahu bahwa gambaran saya tentang Singularity masih belum lengkap. Mungkin saya tidaklah rendah hati, tetapi saya memiliki rasa rendah diri - jika saya dapat melihat sendiri antropomorfisme dan kesalahan logika terbuka di setiap tranhuman yang diceritakan dalam fiksi ilmiah, maka dapat diketahui bahwa seorang jenius dengan order langkah berbeda (biarin deh transhuman nyata!) bisa membaca halaman ini dan tertawa pada kurangnya imajinasi saya. Panggil itu pengalaman, panggil itu kerendahan hati, panggil itu pengetahuan diri, panggil itu Prinsip Mediokritas; saya telah melampaui cukup banyak kesenjangan untuk percaya bahwa masih ada yang lain. Saya tahu, dengan cara yang samar-samar, seberapa bodohnya saya.

Saya sudah mencoba menunjukkan Dunia Luar dari Singularity secara kasar, tetapi tidak dibutuhkan kecepatan tak terhingga dan PT serta w untuk meletakkan sesuatu yang sangat jauh dari kita. Yang diperlukan hanyalah sedikit lebih unggul, sedikit lebih cerdas, dan Dunia Luar akan memandang kita kembali. Aku belum pernah mengalami Singularity. Saya belum pernah ke Transendensi. Saya hanya menempatkan diri dalam Wilayah Rendah Luar Batas itu. Halaman ini didedikasikan untuk menyampaikan rasa kagum yang datang dari pengalaman pribadi, dan oleh karena itu, hanya manusiawi.

Dari korteks ku, untuk mu; setiap konsep di sini berasal dari spesies Homo sapiens biasa-biasa saja - dan segala kesan yang kamu dapat dari halaman ini juga demikian, lahir dari spesies Homo sapiens biasa-biasa saja. Orang-orang yang lebih berpikir, atau orang-orang yang lebih ekstrem; itu tidak masalah. Kesimpulan apa pun yang kamu peroleh dari halaman ini bukanlah gambaran akurat tentang masa depan yang jauh, itu tanpa ampun menjadi kesan tentang aku. Dan aku bukan masa depan yang jauh itu. Hanya versi "Menatap Singularity" yang ditulis oleh Power nyata yang bisa membawa pengalaman dari Singularity yang sebenarnya.

Ambillah guncangan kejut mendatang tentang masa depan yang halaman ini tampilkan, dan asosiasikanlah bukan dengan Singularity; tetapi kaitkan dengan aku, sesosok manusia biasa-biasa saja. Jangan mencoba menghubungkannya lebih dari itu. Kamu tidak bisa. Tidak ada orang yang bisa - tidak kamu, juga tidak saya.

1. Mungkin lebih awal.

3: Lebih Cepat Daripada yang Kamu Bayangkan

Sejak Internet meledak di seluruh dunia, sudah ada daya komputasi jaringan yang cukup untuk kecerdasan. Jika Internet diprogram dengan benar, itu akan cukup untuk menjalankan otak manusia atau AI seed. Di bidang nanoteknologi, kita memiliki mesin yang mampu menghasilkan urutan DNA sembarang, dan kita tahu cara mengubah urutan DNA menjadi protein sembarang (9). Kita punya mesin - Atomic Force Probes - yang dapat menempatkan satu atom di mana pun kita inginkan, dan baru-baru ini [1999] telah berhasil membentuk ikatan atom. Posisi presisi ratusan nm, penjepit skala atom... kabar terus bertambah.

Jika kita memiliki mesin waktu, informasi sebanyak 100K dari masa depan bisa menyebutkan protein yang membangun perangkat yang memberikan kepada kita nanoteknologi dalam semalam. 100K dapat berisi kode untuk AI seed. Sejak akhir tahun 90-an, Singularitas hanya masalah perangkat lunak. Dan perangkat lunak adalah informasi, barang ajaib yang berubah pada kecepatan sewenang-wenang tinggi. Bagi teknologi, Singularity bisa saja terjadi besok. Satu terobosan - hanya satu wawasan besar - dalam ilmu rekayasa protein atau manipulasi atom atau Kecerdasan Buatan, satu hari bagus di Webmind atau Zyvex, dan pintu menuju Singularity terbuka lebar.

Drexler telah menulis buku yang detail dan teknis tentang nanoteknologi. Setelah terhenti selama tiga puluh tahun, Kecerdasan Buatan mulai bangkit kembali. Daya komputasi komputer berkembang dengan kecepatan yang bahkan lebih cepat dari laju penggandaan biasanya setiap dua tahun. Quate telah membangun Penyelidikan Tunnelling Skala 16 kepala paralel. [Ditulis pada '96]. Saya mulai mengembangkan metode pemrograman AI transhuman. [Ditulis pada '98]. Ikatan kimia pertama sudah terbentuk menggunakan mikroskop gaya atom. Pemerintah AS telah mengumumkan niatnya untuk menghabiskan ratusan juta dolar dalam penelitian nanoteknologi. IBM telah mengumumkan proyek Blue Gene untuk mencapai daya komputasi petaflop (10) pada tahun 2005, dengan tujuan memecahkan masalah lipatan protein. Singularity Institute for Artificial Intelligence, Inc. telah didirikan sebagai lembaga nirlaba dengan tujuan utama adalah pemrograman seed AI. [Ditulis pada '00].

Waktu pasti Singularitas biasanya diprediksi dengan mengambil tren dan mengekstrapolasinya, sama seperti The Population Bomb yang memprediksi bahwa kita akan kekurangan makanan pada tahun 1977. Misalnya, pertumbuhan populasi bersifat hiperbolik. (Mungkin kamu belajar eksponensial di pelajaran matematika, tetapi hyperbolik lebih cocok daripada eksponensial.) Jika tren tersebut berlanjut, populasi dunia mencapai tak terbatas pada tanggal 17 Agustus 2027, plus atau minus 1,8 tahun. Tentu saja, tidak mungkin populasi manusia mencapai tak terbatas. Ada beberapa yang mengatakan bahwa jika kita dapat menciptakan AI, maka grafik itu mungkin mengukur populasi yang sadar bukannya populasi manusia. Orang-orang ini menyulitkan metafora tersebut. Tidak ada orang yang merancang kurva populasi untuk mempertimbangkan perkembangan AI. Itu hanya sebuah kurva, sekumpulan angka-angka. Ini tidak bisa mengubah jalannya teknologi di masa depan hanya agar tetap pada jalur yang tepat.

Jika Anda memproyeksikan pada grafik ukuran minimum bahan yang bisa kita manipulasi, akan mencapai tingkat atom - nanoteknologi - dalam lupa berapa tahun (halaman itu hilang), tapi saya kira sekitar 2035. Ini tentu saja adalah waktu sebelum Mikroskop Pemindai Penjelajahannya dan "IBM" dieja dengan atom xenon. Lagipula, sekarang kita memiliki atom buatan ("Anda dapat membuat apa jenis atom buatan - atom panjang, tipis, dan atom besar, bulat."), yang dalam arti tertentu telah menjadikan semata-mata nanoteknologi molekuler usang. Hingga '95, Drexler memberikan perkiraan kasar 2015 (11). Saya curiga jadwalnya sudah dipercepat sedikit sejak saat itu. Tebakanku sendiri lebih awal daripada 2010.

Demikian pula, kekuatan komputasi meningkat dua kali lipat setiap dua tahun 18 bulan. Jika kita mengelompokkan ke depan empat puluh tiga puluh lima belas tahun, kita akan menemukan komputer dengan kekuatan mentah (10^17 operasi/detik) seperti yang beberapa orang pikir manusia miliki, tiba pada 2035 2025 2015. [Kalimat sebelumnya ditulis pada tahun 1996, direvisi kemudian dalam tahun yang sama, dan kemudian direvisi lagi pada tahun 2000; oleh karena itu angka-angka yang aneh.] Apakah ini berarti kita memiliki perangkat lunak untuk memutar benak? Tidak. Apakah ini berarti kita bisa memprogram orang lebih pintar? Tidak. Apakah ini mempertimbangkan terobosan apa pun antara sekarang dan saat itu? Tidak. Apakah ini memperhitungkan hukum fisika? Tidak. Apakah ini merupakan model terperinci dari semua peneliti di seluruh dunia? Tidak.

Ini hanya sebuah grafik. "Keajaiban keteguhan" Hukum Moore memberikan pertimbangan sebagai metafora merangsang pemikiran tentang masa depan, tetapi tidak lebih dari itu. Urutan pengganda Transenden tidak menjelaskan bagaimana peneliti berbasis komputer yang lebih cepat dapat mendapatkan teknologi manufaktur fisik untuk generasi berikutnya dalam hitungan pikosekon, atau bagaimana mereka dapat mengalahkan hukum fisika. Ini bukan berarti semuanya itu tidak mungkin - secara pribadi, saya mencoba melihat bahwa fisika modern telah mencapai level dasar yang ideal. Mungkin tidak ada batasan fisik. Pokoknya, Hukum Moore tidak menjelaskan bagaimana fisika dapat dilewati.

Matematika tidak dapat memprediksi kapan Singularity akan datang. (Nah, sebenarnya bisa, tapi hasil prediksinya tidak akan tepat.) Bahkan angka-angka yang sangat stabil, seperti yang menggambarkan laju penggandaan kekuatan komputasi, (A) menggambarkan pikiran manusia tanpa bantuan dan (B) semakin cepat, mungkin karena program perancangan berbantu komputer. Statistik dapat digunakan untuk meramalkan masa depan, tetapi mereka tidak memodelkannya. Apa yang saya coba sampaikan di sini adalah "2035" hanya tebakan liar, dan mungkin sama saja dengan Selasa depan.

Sejujurnya, saya tidak berpikir dalam hal-hal tersebut. Saya tidak "memproyeksikan" kapan Singularity akan terjadi. Saya memiliki "tanggal target". Saya ingin agar Singularity terjadi pada tahun 2005, yang menurut saya memiliki peluang cukup realistis jika ada yang memberi saya seratus juta dolar setiap tahun. Singularity Institute ingin menyelesaikannya pada tahun 2008 atau seterusnya.

Di atas segala-galanya, saya benar-benar ingin Singularity tiba sebelum nanoteknologi, mengingat kepastian penyalahgunaan yang disengaja - penyalahgunaan ultrateknologi yang bersifat material (dan oleh karena itu, amoral), yang cukup kuat untuk menghancurkan planet ini. Kita tidak bisa hanya duduk diam dan menunggu. Mengutip Michael Butler, "Menunggu bus adalah ide buruk jika Anda ternyata menjadi sopir bus."

Yang terbaik yang dapat kita katakan tentang 2035 adalah bahwa itu tampak seperti batas atas yang masuk akal, mengingat laju kemajuan saat ini. Batas bawahnya? Tiga puluh detik. Kita mungkin tidak mengetahui semua penelitian di luar sana, bagaimanapun juga.

4: Uploading

Mungkin kamu tidak ingin melihat umat manusia digantikan oleh sekelompok "mesin" atau "mutan", bahkan yang supercerdas? Kamu mencintai umat manusia dan tidak ingin melihatnya usang? Kamu takut mengganggu alamiah eksistensi?

Baiklah, sudah sial. Singularitas adalah jalur alami eksistensi. Setiap spesies - setidaknya, setiap spesies yang tidak membunuh dirinya sendiri - suatu hari nanti akan berhadapan dengan kecerdasan super penuh (12). Ini terjadi pada semua orang. Ini akan terjadi pada kita. Bahkan ini akan terjadi pada transhuman tahap pertama atau AI manusia awal.

Tetapi hanya karena manusia menjadi usang bukan berarti kamu menjadi usang. Kamu bukan manusia. Kamu adalah sebuah kecerdasan yang saat ini memiliki pikiran yang sayangnya dibatasi oleh perangkat keras manusia (13). Itu bisa berubah. Dengan sedikit keberuntungan, semua orang di planet ini yang hidup sampai tahun 2035 atau 2005 atau kapan pun - dan mungkin beberapa yang tidak - akan berakhir sebagai Powers.

Pemindahan pikiran manusia ke dalam sistem komputer dikenal sebagai "uploading"; mengubah makhluk fana menjadi Power dikenal sebagai "upgrading". Upload arketipe adalah Moravec Transfer, yang diusulkan oleh Dr. Hans Moravec dalam buku Mind Children. (14).

CATATAN: Asumsi kunci dari Moravec Transfer adalah bahwa kita dapat mensimulasikan sempurna satu neuron, yang mana Penrose dan Hameroff akan berargumen bahwa itu tidak benar. (Per tahun 1999, neuron lobster berhasil digantikan dengan seperangkat komponen senilai $7,50 yang dibeli di Radio Shack; ini adalah bukti sugestif minor, tetapi belum menyelesaikan masalah sepenuhnya.) Diskusi berikut mengasumsikan bahwa baik (A) hukum fisika bersifat komputasional atau (B) kita dapat membangun "superneuron", komputer trans-Turing yang melakukan hal yang sama seperti neuron. (Penrose dan Hameroff tidak keberatan dengan proposisi terakhir. Jika sebuah neuron bisa memanfaatkan fisika dalam-dalam untuk melakukan operasi nonkomputasi, kita juga bisa melakukannya secara teknologis.) Skenario ini juga mengasumsikan adanya nanomedisin canggih; yaitu, nanomesin-capable yang mampu melaksanakan instruksi-instruksi kompleks di lingkungan biologis.

Moravec Transfer secara perlahan memindahkan (daripada menyalin) pikiran manusia ke dalam komputer. Kamu tak perlu kehilangan kesadaran. (Rincian berikut telah direvisi dan lebih diperinci sedikit oleh saya sendiri dari yang asli dalam Mind Children.)

Sebuah robot ukuran-neuron berenang menuju suatu neuron dan menscan-nya ke dalam memory. Sebuah komputer eksternal, yang terus-menerus berkomunikasi dengan robot tersebut, mulai mensimulasikan neuron tersebut. Robot menunggu sampai simulasi komputer sempurna sesuai dengan neuron tersebut. Robot mengganti neuron dengan dirinya sendiri sehalus mungkin, mengirimkan input ke komputer dan meneruskan output dari simulasi neuron di dalam komputer. Seluruh prosedur ini tidak memiliki efek pada aliran informasi dalam otak, kecuali bahwa satu satuan pemrosesan neuron kini dilakukan di dalam komputer bukan di dalam neuron. Ulangi secara berulang-ulang, satu per satu, sampai seluruh otak terdiri dari neuron robot. Meskipun demikian, sinapsis (hubungan) antara neuron-robot masih bersifat fisik; robot melaporkan penerimaan neurotransmitter di dendrit buatan dan melepaskan neurotransmitter di ujung aksom buatan. Pada tahap berikutnya, kita mengganti sinapsis fisik dengan tautan perangkat lunak.

Untuk setiap pasangan aksom-dendrit (pengirim-penerima), inputnya tidak lagi dilaporkan oleh robot; sebagai gantinya, keluaran aksom yang dihitung dari neuron pengirim ditambahkan sebagai dendrit simulasi ke neuron penerima di dalam komputer simulasi. Pada akhir tahapan ini, robot semua sedang menyebabkan aksom mereka menembakan, tetapi belum ada yang menerima apa pun, belum ada yang mempengaruhi satu sama lain, dan belum ada yang mempengaruhi simulasi komputer. Robot terputus. Kamu sekarang sudah sepenuhnya ada di dalam komputer, bit demi bit, tanpa kehilangan kesadaran. Dalam kata-kata Moravec, metamorfosismu telah selesai. Jika tahap-tahap tersebut terlihat terlalu tiba-tiba, transfer satu unit individual dari neuron atau sinapsis dapat diperluas selama yang dibutuhkan. Untuk mentransfer perlahan sebuah sinapsis ke dalam komputer, kita bisa menggunakan faktor bobot dari sinapsis fisik dan sinapsis komputasi untuk menghasilkan keluaran tersebut. Pembobotan akan dimulai sepenuhnya pada bentuk fisik dan berakhir sepenuhnya pada tipe komputasi. Karena kita berasumsi neuron sedang disimulasikan secara sempurna, pembobotan hanya memengaruhi aliran sebab-akibat saja dan bukan proses acara aktual.

Transfer neuron secara perlahan agak lebih sulit.

4a. Robot menutupi neuron itu, aksom-aksom, dan dendrit-dendrit dengan "kulit" robotik, semua tanpa mengganggu badan sel saraf. (Aku tahu itu akan memerlukan beberapa gerakan yang sangat canggih tapi ini hanyalah eksperimen pemikiran. Powers yang melihat Singularitas nantinya yang akan melakukan proses uploading yang sesungguhnya.) 4b. Dendrit-dendrit robotik tetap menerima input dari neuron lain dan menyampaikannya ke dendrit-dendrit saraf tertutupi. Output dari neuron biologis melewati aksom saraf menuju axon robot terlampir, yang membaca output dan meneruskannya ke sinapsis luar, tidak berubah. 4c. Axon robot memberikan 99% impuls biologis yang diterima ditambah 1% impuls robotik yang dihitung. Karena, secara hipotesis, neuron sedang disimulasikan secara sempurna, ini tidak mengubah output itu sendiri dengan cara apapun, hanya mengubah aliran sebab-akibat. 4d. Pembobotan diatur hingga 100% output adalah output yang dihitung. 4e. Neuron biologis dibuang. Dengan asumsi kita dapat mensimulasikan satu neuron secara individual dan bahwa kita bisa menggantikan neuron dengan analog robotik, saya pikir itu sepenuhnya menunjukkan kemungkinan uploading, dengan asumsi kesadaran hanya merupakan fungsi dari neuron-neuron. (Dan jika kita memiliki jiwa abadi, maka uploading akan sangat mudah. Lepaskan jiwa dari otak. Salin informasi apa pun yang tidak disimpan dalam jiwa. Menyatukan jiwa ke substrat baru. Uploading selesai.) Pada titik ini biasanya orang berspekulasi tentang bagaimana kita makan, minum, berjalan-jalan. Orang-orang menyatakan bahwa mereka tidak ingin melepaskan realitas fisik, khawatir apakah mereka akan memiliki daya komputasi yang cukup untuk mensimulasikan dunia hedonisistik sesuai keinginan tertinggi mereka, dan seterusnya, dan seterusnya sampai mual. Bahkan Vinge sendiri, penemu Singularitas, pernah menduga apakah diri yang sebenarnya akan diminusi saat Transcendence.

Saya harap pada halaman ini kamu telah cukup terkesan oleh kekuatan, cakupan, ketidakmengerti-an, dan Transcendence secara umum dari Singularitas sehingga spekulasi-spekulasi ini terdengar konyol. Jika kamu ingin tetap utuh, kamu akan dapat mengatur hal itu. Kamu akan bisa membuat cadangan data. Kamu akan bisa melestarikan kepribadianmu tanpa mempedulikan substratnya. Hanya orang-orang pertama yang Transcend perlu khawatir tentang tercampurnya secara tidak sukarela, dan bahkan mereka mungkin tidak perlu khawatir jika ada kecerdasan super AI-ramah yang lahir berperan sebagai panduan transisi.

Tentu saja, mungkin bahwa setiap makhluk dengan kecerdasan cukup ingin dicampur-adukkan. Mengkhawatirkan kemungkinan itu tampak sangat sia-sia, sama seperti anak-anak yang khawatir bahwa saat dewasa, mereka tidak lagi ingin bersikap kejam secara sembrono terhadap anak-anak lain. Jika kamu ingin dicampur-adukkan, bukan ketidakkonformitas kita yang harus dikhawatirkan.

Mungkin, setelah Transcending, kamu akan berbeda. Jika begitu, maka perubahan tersebut inilah yang tak terhindarkan dan tidak ada yang dapat kamu lakukan untuk mengatasinya. Otak manusia memiliki jumlah neuron yang terbatas, dan oleh karena itu jumlah keadaan yang mungkin juga terbatas. Pada akhirnya, kamu akan mati, masuk dalam lingkaran abadi, atau Transcend. Secara panjang... sungguh lama sekali... kematian bukanlah pilihan.

Demikian pula, tidak ada gunanya khawatir bahwa Powers yang bermusuhan pasti akan memusnahkan umat manusia. Jika ternyata semua tujuan pada akhirnya adalah sembarang, maka dimungkinkan bahwa Power yang buruk programnya bisa berakhir dengan tujuan yang membuatnya bermusuhan terhadap umat manusia; ini adalah risiko rekayasa dan meminimalisirnya adalah tugas rekayasa. Tetapi emosi seperti "keserakahan" dan "kedengkian" tidak muncul dengan sendirinya dalam kecerdasan buatan, meskipun klise perangkat plot fiksi ilmiah. Kedengkian adalah adaptasi fungsional kompleks yang berkembang pada manusia selama jutaan tahun; itu tidak muncul secara tiba-tiba. Bahkan kecenderungan untuk menilai kelompok Anda sebagai lebih berharga merupakan hasil evolusi, bersama dengan kecenderungan untuk berpikir dalam hal "kita" dan "mereka" pada awalnya.

Mengapa sebuah superinteligensi rasional generik akan mengategorikan umat manusia sebagai tidak memiliki makna? Satu-satunya hal di mana penentuan ini menjadi kesimpulan yang tak terhindarkan adalah jika hidup manusia tidak memiliki makna, jika kurangnya makna adalah fakta bebas pengamat. Dan bahkan itu pun belum cukup untuk menandakan kiamat umat manusia; tindakan memusnahkan umat manusia juga harus memiliki makna, lagi-lagi sebagai fakta bebas pengamat. Yang artinya bahwa setiap manusia yang cukup cerdas pasti akan bunuh diri. Jika begitu, sepertinya kita tidak bisa melakukan apa-apa.

Pada akhirnya, tak ada orang yang tahu apa yang ada di seberang Singularitas, bahkan saya sendiri. Dan ya, butuh keberanian untuk melangkah melalui pintu tersebut. Jika bayi dapat memilih apakah ingin keluar dari rahim atau tidak, tanpa mengetahui apa yang ada di ujung kanal persalinan - tanpa tahu apakah ada sesuatu di ujung kanal persalinan itu - berapa banyak bayi yang akan memilih untuk keluar? Tetapi di balik kanal persalinan adalah tempat reality-nya. Itulah tempat kejadian. Tetap berada dalam rahim selamanya, meskipun bisa, akan sia-sia dan steril.

5: Arti Sementara Kehidupan

"Kamu tahu, aku tidak mengerti mengapa manusia berevolusi menjadi makhluk yang berpikir tanpa pemikiran jauh ke depan." "Baegaimanapun juga, itu tidak akan bertahan selamanya." "Kamu pikir kita akan menjadi lebih cerdas?" "Itu salah satu dari dua kemungkinan."

Sejak dokumen ini awalnya ditulis pada tahun 1996, "nanoteknologi" telah menjadi pengetahuan umum. Aku yakin sekarang setiap orang sudah mendengar tentang konsep mencapai kendali penuh atas struktur molekul materi. Hal ini akan membuat mungkin untuk membuat makanan dari air kotor, menyembuhkan sumsum tulang belakang yang patah, membalik penuaan, menjadikan semua orang sehat dan kaya, atau dengan sengaja memusnahkan semua kehidupan di planet ini. Sebenarnya, penggunaan militer yang merusak secara langsung kemungkinan akan lebih mudah daripada penggunaan kreatif yang kompleks. Siapapun yang pernah membaca buku sejarah bisa menebak apa yang terjadi selanjutnya.

"Medefensif aktif" mungkin cukup melawan kondisi tak sengaja seperti "grey goo", namun tidak bisa melawan nanoteknologi tentara yang dilatih keras, yang mampu menggunakan senjata fusi untuk menembus pertahanan medefensif aktif. Namun, meskipun ancaman ini, kita bahkan tidak bisa mencoba menekan nanoteknologi; itu hanya meningkatkan kemungkinan bahwa penjahat akan menggunakannya lebih dahulu. (15).

Mitchell Porter menyebutnya "Perlombaan antara senjata canggih dan kecerdasan super." Peradaban manusia akan terus berubah sampai kita menciptakan kecerdasan super atau membinasakan diri sendiri. Itulah dua kondisi stabil, dua "atraktor" dalam sistem ini. Tidak masalah berapa lama waktu yang dibutuhkan, atau berapa siklus peperangan-nano dan tumbuh-kembali yang terjadi sebelum Transcendence atau kepunahan akhir. Jika sistem terus berubah, selama seribu tahun, atau satu juta tahun, atau satu miliar tahun, suatu saat nanti akan berakhir pada salah satu atraktor tersebut. Tetapi perkiraanku terbaik adalah bahwa isu ini akan terselesaikan sekarang.

Bukan hanya karena kemungkinan penghancuran menjadi alasan untuk bergegas menuju Singularity. Ada juga jumlah penderitaan manusia yang terus-menerus, bukan hanya masalah praktis, bukan hanya masalah etis, tetapi masalah moral secara sendirian. Hal-hal yang sangat mengerikan sedang terjadi di dunia saat ini. Jika aku harus memilih untuk menghapus daerah lingkungan rusak atau Holocaust, aku tidak tahu mana yang akan aku pilih. Aku hanya tahu proyek mana yang memiliki peluang kesuksesan yang lebih tinggi.

Pernahkah kamu merenungkan Pertanyaan Besar tentang Hidup, Alam Semesta, dan Segala Sesuatu? Pernahkah kamu bertanya-tanya apakah hal itu benar-benar penting, jika dilihat secara kosmik, apakah kamu tetap di tempat tidur pagi ini? Pernahkah kamu menyelidiki masalah sulit tentang etika, kesadaran, atau realitas, dan menyadari bahwa tidak ada pembenaran yang bisa dimengerti manusia untuk pengalaman subjektif, keluar dari tempat tidur, atau adanya segala sesuatu? Bagaimana kita bisa melakukan apa pun, menetapkan tujuan apa pun, tanpa mengetahui Makna Hidup? Bagaimana kita bisa membenarkan partisipasi terus-menerus kita dalam perlombaan tikus jika kita tidak tahu mengapa kita berlari? Apa tujuannya semua ini?

Kita tidak tahu. Kita harus menebak dan bertindak sesuai dengan tebakan terbaik kita. Terlepas dari probabilitas absolut, kecerdasan super memiliki peluang lebih baik untuk menemukan hak moral sejati, memiliki kekuatan untuk melaksanakannya, dan ingin melaksanakannya. Keadaan di mana kecerdasan super ada, dengan tingkat probabilitas yang sangat tinggi terlepas dari Makna Sejati Kehidupan, adalah lebih disukai daripada keadaan saat ini. Itulah Arti Sementara Kehidupan, dan itu sudah cukup... namun masih jauh sekali dari pasti, atau benar-benar mengetahui apa yang sedang terjadi!

Aku sudah merasa muak. Aku muak dengan 'rumah-rumah' pecandu narkoba, kediktatoran, ruang penyiksaan, penyakit, usia tua, kelumpuhan tulang belakang, dan kelaparan di dunia. Aku muak dengan laju kematian planet ini yang mencapai 150.000 makhluk sadar per hari. Aku sudah muak dengan planet ini. Aku sudah muak dengan kematian. Tak ada hal-hal itu yang diperlukan. Waktunya tiba untuk berhenti mengalihkan pandangan dari aksi kekerasan di pojok jalan, pengemis di jalanan. Tidak lagi diperlukan untuk melihat dengan panik, sambil mengulangi mantra: "Aku tidak bisa memecahkan semua masalah dunia." Kita bisa melakukannya. Kita bisa mengakhiri ini.

Jadi, aku telah kehilangan, bukan imanku tapi ketidaksabaran dalam membayangkan. Bagaimana pun anehnya Singularity terlihat, ada saat-saat di mana tampak lebih masuk akal, jauh kurang sewenang-wenang daripada hidup sebagai manusia. Ada cara yang lebih baik! Mengapa kita merasionalkan kehidupan ini? Mengapa mencoba berpura-pura bahwa semuanya masuk akal? Mengapa membuatnya tampak cerah dan bahagia? Ada alternatif!

Bukan berarti bahwa tidak ada kesenangan dalam kehidupan ini. Ada. Tetapi sejumlah kesedihan apa pun adalah tidak dapat diterima. Waktunya tiba untuk berhenti hipnosis diri menjadi percaya bahwa rasa sakit dan ketidakbahagiaan itu diinginkan! Mungkin kesempurnaan tidak dapat dicapai, bahkan di sisi lain Singularity, namun itu tidak berarti bahwa kekurangan dan cacat itu baik-baik saja. Saatnya tiba untuk berhenti berpura-pura bahwa hal itu tidak menyakitkan!

Anak sebangsaku sedang menjerit kesakitan, planet kita mungkin akan terbakar menjadi arang atau berubah menjadi cairan, kita tidak tahu apa yang sedang terjadi, dan Singularity akan memecahkan masalah-masalah ini. Aku menyatakan mencapai Singularity dengan secepat-cepatnya sebagai Arti Sementara Kehidupan, definisi sementara tentang Baik, dan dasarnya sampai pemberitahuan lebih lanjut dari sistem etika ku.

6: Menuju Singularitas

Untuk mengutip versi sebelumnya dari Staring into the Singularity:

"Agak banyak peneliti yang sedang berada di jalur menuju Singularitas menghabiskan waktu berharga mereka untuk menulis proposal hibah, atau melakukan hal-hal yang bisa dilakukan oleh asisten laboratorium. Akan bagus jika ada Yayasan Pendukung Singularitas untuk memastikan bahwa orang-orang ini tidak terganggu. Kemungkinan ada satu peneliti hidup saat ini - Hofstadter, Drexler, Lenat, Moravec, Goertzel, Chalmers, Quate, seseorang yang baru lulus kuliah, atau bahkan saya sendiri - yang menjadi orang yang mencapai Singularitas. Setiap jamnya ditunda adalah sebuah kekurangan waktu menuju Singularitas. Setiap jam, enam ribu orang meninggal. Mungkin kita harus melakukan sesuatu terhadap penggunaan seperempat waktunya dan energi pada penulisan proposal hibah." (16).

Ini merangkum prinsip dasar di balik percepatan Singularitas; ada satu proyek, di suatu tempat, yang akan menciptakan kecerdasan yang lebih besar daripada manusia. Proyek itu, mungkin dalam bidang kecerdasan buatan (AI), akan didukung oleh kemajuan dalam tiga atau empat bidang lain, seperti ilmu kognitif, perangkat keras "ultrakomputasi" berkecepatan tinggi, apa pun pekerjaan sebelumnya dalam AI, dan mungkin juga sumber pengetahuan seperti BCI (Brain-Computer Interfaces). Para peneliti dalam proyek-proyek ini makan makanan dan memakai pakaian serta menonton acara televisi yang diproduksi oleh ekonomi dunia. Setiap aktivitas produktif, di mana pun dalam rantai itu, dapat dianggap sebagai dukungan terhadap Singularitas.

Untuk mendukung Singularitas secara tidak langsung, kamu bisa terus bekerja pada pekerjaan harianmu, setidaknya jika kamu adalah petani bukan pengacara kelas tuntutan kolektif. Ahli saraf bisa mempelajari ilmu kognitif, programer komputer bisa mempelajari AI, dan berusaha untuk siap saat Singularitas membutuhkan mereka. Dan berbagai organisasi transhumanis, seperti Extropy Institute dan Foresight, dapat menjadi sasaran bantuan dengan bentuk lebih segera.

Semua langkah tersebut baik, tetapi beberapa dari kita ingin kesempatan untuk mempercepat Singularitas - untuk membantu secara langsung menciptakan kecerdasan yang lebih besar daripada manusia.

Empat tahun setelah publikasi Staring 1.0, Sekarang telah resmi ada Institut Singularitas! Meskipun coding belum dimulai dalam proyek AI, namun pekerjaan masih dilakukan pada Coding a Transhuman AI 2, dan ketika dokumen desainnya sudah lengkap, kami akan mulai melakukan coding dan menulis seed AI. Baru-baru ini, tepat menjelang revisi terbaru ini, kami telah mendapatkan status pembebasan pajak, dan kini menerima sumbangan!

Dan jam terus berdetak, dan segmen lain dari kehidupan yang kita kenal terbakar dan hilang...

Saya pikir aman untuk mengatakan bahwa saya sekarang dapat memvisualisasikan sepenuhnya satu jalur lengkap menuju Singularitas, saya memiliki ide tentang apa yang diperlukan dan berapa banyak biayanya, dan saya pikir kita mungkin bisa melakukannya pada tahun 2010. Jauh lebih cepat, dengan penerimaan dana yang cukup dan masalah penelitian yang ternyata bisa dipecahkan.

Jadi, siapa peduli dengan Hukum Moore? Singularitas akan terjadi ketika kita pergi dan menjadikannya nyata.

Saya juga ingin mengatakan beberapa hal tentang bagaimana cara tidak mencapai Singularitas.

Seperti yang dikatakan dalam versi sebelumnya dari Staring, "Halaman ini bukanlah seruan untuk bertindak secara biasa." Saya selalu sangat tidak percaya kecenderungan manusia untuk membentuk organisasi sosial. Organisasi cenderung mempertahankan dirinya sendiri, daripada menyelesaikan masalah. Meme Singularity sangat kuat. Itu tidak boleh jatuh ke dalam pola-pola biasa dan mudah. Singularitas tidak akan maju oleh sebuah kultus, persaudaraan saling memuja, atau sekelompok orang gila. Hal positif adalah adanya Drexler yang dihadapi masalah yang hampir sama dengan nanoteknologi.

Prinsip Kemandirian, dalam Prinsip-prinsip Singularitarian, adalah salah satu perlindungan. Secara ringkas, Prinsip Kemandirian menolak gagasan bahwa seorang Singularitarian dapat memiliki bentuk otoritas atas yang lain. Untuk alasan saya sendiri, saya mengadopsi Singularitas sebagai tujuan pribadi. Jika saya bisa menjadi lebih efisien dengan bekerja dengan Singularitarian lainnya, itu baik-baik saja. Tapi yang saya pedulikan adalah Singularitas, bukan Singularitarianisme.

Perlindungan lainnya adalah Prinsip Kecerdasan, yang menyatakan bahwa apakah sebuah ide cerdas atau bodoh memiliki keutamaan logis daripada apakah hal itu mendukung atau menentang Singularitas. (Seharusnya ini sangat jelas - kecuali, tentu saja, jika Anda pernah membaca buku sejarah, atau berbicara dengan manusia lain, atau menonton televisi atau sesuatu).

Ada perlindungan lain yang tidak termasuk dalam Prinsip-prinsip tersebut. Ide utama yang awalnya saya tulis Staring into the Singularity untuk menekankan hal ini. Ini satu-satunya saran terakhir saya: Jangan menjalani Utopian.

Jangan menggambarkan Hidup setelah Singularitas dengan kata-kata gemilang. Bahkan, jangan menggambarkannya sama sekali. Saya pikir titik terendah dalam meramalkan masa depan datang dalam beberapa paragraf singkat Unbounding the Future yang saya baca, ketika mereka menggambarkan pejalan kaki tertabrak dan tangan mereka sembuh secara ajaib. Itu gila. Pejalan kaki? Terkena tabrakan? Tangan? Mobil ada di dunia nanoteknologi? Kenapa tidak hanya membiarkan sekelompok orangutan menjelaskan betapa mudahnya mendapatkan pisang dengan pikiran manusia?

Seperti kata Drexler:

"Saya ingin menekankan bahwa saya telah diundang untuk memberikan ceramah di tempat seperti seri kolokium ilmu fisika di pusat riset utama IBM, di Xerox PARC, dan sebagainya, jadi ide-ide ini dianggap serius oleh orang-orang teknis yang serius, tapi itu adalah reaksi campuran. Anda ingin mendapatkan reaksi tersebut semungkin mungkin positif (17), jadi saya memohon kepada semua orang untuk tolong jangan menjadikannya budaya atau omong kosong terlalu banyak, dan bahkan santai dalam berbicara tentang konsekuensi liar, yang pada dasarnya benar dan memiliki pembelaan teknis, karena tidak terdengar dengan nada itu. Orang perlu berpikir secara bertahap ke konsekuensi jangka panjang; Kamu tidak bisa mulai dari sana." Masalahnya dengan orang-orang yang mengemukakan visi Utopia nanoteknologi mereka adalah konsekuensinya tidak cukup liar. Melihat kisah penyembuhan luka instan, atau objek material apa pun yang tersedia secara instan, tidak memberikan gambaran masa depan. Itu memberi Anda rasa melihat fantasi masa kecil manusia yang kurang imajinatif tentang kekuasaan mutlak, dan membuat Anda cenderung memperlakukan nanoteknologi dengan cara yang sama. Lebih buruk lagi, hal itu menarik orang lain dengan fantasi tak berimajinasi tentang all-powerful. Tidak ada cara yang lebih baik untuk menjadi kelompok rendahan yang hanya duduk bersantai, menyeruput kopi dan merencanakan Revolusi tanpa benar-benar melakukan apa pun. Mungkin saya tidak boleh terlalu keras pada tipe-tipe nano-Utopia. Beberapa dari mereka mungkin adalah peneliti aktual atau penulis fiksi ilmiah atau orang lain yang melakukan hal-hal berguna; beberapa dari mereka mungkin adalah para pemula yang dengan sungguh-sungguh mencoba melakukannya tetapi tertangkap dalam kurangnya imajinasi umum; dan tentu saja, tidak seorang pun yang telah sampai ke Low Beyond. Namun, begitu kamu membaca halaman ini, tidak ada alasan lagi.

Halaman ini tentang menatap Singularitas. Ini tentang kagum, Luar Batas, akhir sejarah, dan hal-hal di luar pemahaman manusia. Ini dimaksudkan untuk membangkitkan rasa masa depan, dan saya harap pembaca saya akan cenderung menganggap nanoteknologi, kecerdasan buatan, neurologi, dan semua jalan menuju Singularitas dengan cara yang sama - sebagai bagian dari masa depan.

Saya berharap itu menarik perhatian orang-orang yang tepat.

Dalam momen kegilaan, saya berlangganan milis Extropian. Orang-orang ini tahu apa arti "Singularitas". Pada teorinya, mereka tahu apa yang akan datang. Dan namun, bahkan saat saya menulis [di tahun '96 - mereka lebih membaik di '99], orang-orang yang sebenarnya harus tahu lebih baik sedang bertengkar apakah transhuman akan memiliki cukup daya komputasi untuk mensimulasikan Alam Semesta pribadi, akan ada batasan dorisku ke transhumanitas oleh hukum fisika, apakah seseorang yang diunggah ke dalam komputer trans masih orang yang sama atau hanya tiruan kedelai yang menakjubkan, dan - yang paling tidak dapat dipercaya dari semuanya - apakah versi diri masa depan kita yang tak terbayangkan cerdasnya masih akan bercinta.

Mengapa ini menjadi perhatian kita? Mengapa kita perlu tahu tentang hal ini? Bisa jadi mungkin, hanya mungkin, masalah-masalah ini dapat ditunda sampai setelah kita memiliki lima kali lipat lebih cerdas dan beberapa titik buta kami telah terisi. Saat ini, setiap manusia di planet ini memiliki satu hal yang menjadi perhatian utama: Bagaimana cara menuju Singularitas secepat mungkin? Apa yang terjadi setelah itu bukan menjadi masalah kita dan saya mengutuk gambaran-gambaran gosh-wow, tak berimajinasi, so-cloying-they-make-you-throw-up, dan biasa-biasa saja serta membosankan dan kurang kreatif tentang masa depan dengan sumber daya tanpa batas dan manusia yang belum sepenuhnya dimodifikasi. Biarkan masalah transhumanity kepada para transhumanis. Kesempatan kita untuk mendapatkan sesuatu yang benar adalah sama seperti ikan merancang pesawat yang bisa terbang dengan alga dan kerikil.

Tanggung jawab kita satu-satunya adalah menciptakan sesuatu yang lebih pintar daripada kita; masalah di luar itu bukanlah milik kita untuk memecahkan.

Bagaimana cara menjaga berjalan ekonomi dunia setidaknya sepuluh tahun lagi? Siapa yang bersedia mendanai proyek AI? Siapa yang perlu kita rekruit untuk proyek AI? Bagaimana cara menghindari serangan teknofobia standar? Dan apa yang dilakukan jika nanoteknologi datang pertama?

Itu adalah pertanyaan praktis yang akan dihadapi dalam waktu dekat. Pertanyaan-pertanyaan yang benar, dan jawabannya, adalah keprihatinan yang sesuai dengan milis [dan, sejak '00, Singularity Institute]. Saya tidak keberatan berfantasi liar. Itulah bagaimana semuanya dimulai pada dasarnya. Tetapi jangan terlalu terseret emosional dan mencoba mengklaim bahwa visualisasi Anda tentang The Other Side of Dawn memiliki kesempatan untuk benar, serta gunakan waktumu untuk menciptakan Singularitas secara langsung Keberlanjutan

Untuk mencapai Singularitas, kita perlu melakukan tindakan konkret. Kita harus membuat proyek AI yang akan menciptakan kecerdasan yang melebihi manusia. Tetapi langkah-langkah ini tidak boleh diambil dengan sembarang cara.

Sebagai awal, kita harus terus mendukung penelitian dan perkembangan dalam bidang kognitif dan kecerdasan buatan. Semua orang dapat berkontribusi dengan menjadi ahli neurologi, programmer komputer, atau bergabung dengan organisasi transhumanis seperti Extropy Institute dan Foresight. Aktivitas produktif apa pun yang berkaitan dengan Singularity secara tidak langsung dapat dianggap sebagai dukungan.

Namun, beberapa dari kita ingin lebih aktif dalam mempercepat jalur menuju Singularitas. Itulah mengapa sekarang ada Institut Singularitas yang resmi. Meski coding untuk proyek AI belum dimulai, pekerjaan masih berlanjut pada Coding a Transhuman AI 2. Ketika dokumen desainnya selesai, kita akan mulai melakukan coding dan menulis seed AI. Saat ini, institut telah memperoleh status pembebasan pajak dan menerima sumbangan!

Tetapi waktu terus berputar, dan setiap detik yang berlalu adalah satu detik menuju Singularitas. Oleh karena itu, diperkirakan bahwa kita bisa mencapai Singularitas sekitar tahun 2010 jika didanai dengan baik dan masalah penelitian yang dapat diselesaikan.

Kita harus berhenti mengandalkan Hukum Moore. Kita harus aktif dalam menjadikan Singularitas terjadi. Cerdasnya kita dalam bertindak dan berinovasi akan mempercepat kemajuan dan mencapai tujuan bersama.

Namun, ada beberapa hal yang perlu dihindari saat menuju ke Singularitas. Staring into the Singularity mengingatkan agar tidak terlibat dalam pembentukan kelompok-kelompok kultus atau perkumpulan saling memuja. Kita harus mematuhi Prinsip-Prinsip Sikularitarian untuk menjaga independensi dan menggunakan logika sebagai alat penilaian ide.

Ingatlah bahwa kita tidak harus membayangkan dunia Utopia nanoteknologi secara berlebihan. Jangan menggambarkan dengan indah apa yang akan terjadi setelah Singularitas. Alih-alih, fokus pada hal-hal praktis seperti bagaimana menjaga perekonomian dunia tetap berjalan, mendapatkan dana untuk proyek AI, merekrut orang yang tepat, dan menghindari reaksi negatif dari mereka yang takut teknologi.

Halaman ini tentang menatap Singularitas. Hal ini tentang mengagumi masa depan yang tak dapat dimengerti oleh manusia. Dengan begitu, mari kita hadapi nanoteknologi, kecerdasan buatan, neurologi, dan semua jalur menuju Singularitas dengan sikap yang sama - sebagai bagian dari masa depan.

Semoga hal ini menarik orang-orang yang tepat untuk bergabung dalam membangun Singularitas. Kehadiran orang-orang yang kompeten, inovatif, dan berkomitmen adalah kunci untuk meraih Singularitas secepat mungkin.

Dalam satu momen gila, saya bergabung dengan milis Extropian. Orang-orang di sana paham arti "Singularitas". Meski begitu, seperti yang saya tulis [pada tahun '96 - mereka sudah membaik pada tahun '99], masih ada orang-orang yang seharusnya tahu lebih baik tetap berdebat apakah manusia transhuman akan memiliki cukup daya komputasi untuk mensimulasikan alam semesta pribadi, atau apakah komputasi yang tersedia terbatas oleh hukum fisika, dan bahkan perdebatan yang paling tidak masuk akal adalah apakah kita di masa depan yang luar biasa cerdas masih akan melakukan hubungan seksual.

Mengapa ini menjadi keprihatian kita? Mengapa kita harus tahu tentang hal-hal ini? Apakah mungkin saja masalah-masalah ini ditunda sampai setelah kita menjadi lima kali lebih cerdas dan beberapa kekurangan pemikiran kita telah teratasi? Saat ini, setiap manusia di planet ini memiliki satu kekhawatiran: Bagaimana cara mencapai Singularitas sesegera mungkin? Apa yang terjadi setelah itu bukanlah masalah kita dan saya menyesali kualitas gambaran masa depan yang tak berimajinasi, terlalu lekat dengan romantisisme yang membuatmu ingin muntah, membosankan, serta kurang gelora. Biarkan masalah transhumanity menjadi milik para transhumanis. Kesempatan kita untuk mulai melakukan sesuatu dengan benar sama sulitnya dengan ikan merancang pesawat terbang dari rumput laut dan kerikil.

Tanggung jawab kita satu-satunya adalah menciptakan sesuatu yang lebih cerdas daripada kita; masalah selain itu bukanlah tanggung jawab kita untuk memecahkan.

Bagaimana cara menjaga agar ekonomi dunia tetap berjalan setidaknya sepuluh tahun lagi? Siapa yang bersedia mendanai proyek AI? Siapa yang perlu direkrut untuk proyek AI? Bagaimana cara menghindari reaksi takut teknologi yang biasa terjadi? Dan apa yang harus kita lakukan jika nanoteknologi datang terlebih dahulu?

Itu adalah pertanyaan praktis yang akan dihadapi dalam waktu dekat. Pertanyaan dan jawaban yang benar adalah keprihatinan utama dari milis [dan, sejak '00, Singularity Institute]. Saya tidak keberatan dengan imajinasi yang liar. Pada akhirnya, itulah yang memicu semuanya. Tetapi jangan terlalu terlibat secara emosional, jangan mencoba mengklaim bahwa visi Anda tentang "Sisi Lain Fajar" memiliki peluang menjadi kenyataan, dan gunakan waktumu untuk menciptakan Singularitas itu sendiri.