Risiko-risiko AI Nyata tetapi Dapat Dikelola
Dunia telah belajar banyak tentang penanganan masalah yang disebabkan oleh inovasi terobosan.
Risiko yang dihasilkan oleh kecerdasan buatan (artificial intelligence/AI) bisa terasa sangat menghawatirkan. Apa yang terjadi pada orang-orang yang kehilangan pekerjaan mereka karena mesin pintar? Bisakah AI mempengaruhi hasil pemilihan? Bagaimana jika suatu saat nanti AI memutuskan bahwa mereka tidak lagi membutuhkan manusia dan ingin menyingkirkan kita?
Semua pertanyaan ini wajar, dan kekhawatiran yang muncul perlu dianggap serius. Namun, ada alasan yang baik untuk berpikir bahwa kita dapat menghadapinya: Ini bukan kali pertama sebuah inovasi besar memperkenalkan ancaman baru yang harus dikendalikan. Kita sudah melakukannya sebelumnya.
Apakah itu saat mobil diperkenalkan atau saat komputer pribadi dan internet mulai populer, manusia telah berhasil mengatasi momen-momen transformasional lainnya dan, meskipun dengan banyak goncangan, keluar dengan kehidupan yang lebih baik pada akhirnya. Sebentar setelah mobil pertama berada di jalan, terjadi kecelakaan mobil pertama. Namun, kita tidak melarang mobil—kita mengadopsi batasan kecepatan, standar keamanan, persyaratan izin, undang-undang tentang mengemudi dalam keadaan mabuk, dan peraturan jalan lainnya.
Kita sekarang berada dalam tahap awal perubahan yang mendalam lagi, yaitu Zaman AI. Ini analog dengan masa-masa yang tidak menentu sebelum batasan kecepatan dan sabuk pengaman. AI berkembang dengan begitu cepat sehingga belum jelas apa yang akan terjadi selanjutnya. Kita menghadapi pertanyaan besar yang muncul dari cara teknologi saat ini bekerja, cara orang akan menggunakannya dengan tujuan jahat, dan cara AI akan mengubah kita sebagai masyarakat dan individu.
Di saat seperti ini, wajar merasa tidak tenang. Namun, sejarah menunjukkan bahwa kita bisa menyelesaikan tantangan yang dihasilkan oleh teknologi baru.
Sebelumnya, saya telah menulis tentang bagaimana AI akan merevolusi kehidupan kita. AI akan membantu menyelesaikan masalah—di bidang kesehatan, pendidikan, perubahan iklim, dan lain-lain—yang dulunya tampak sulit dipecahkan. Yayasan Gates menjadikannya sebagai prioritas, dan CEO kami, Mark Suzman, baru-baru ini membagikan pemikirannya tentang peran AI dalam mengurangi ketidaksetaraan.
Saya akan memiliki lebih banyak hal yang akan saya sampaikan di masa depan tentang manfaat AI, tetapi dalam posting ini, saya ingin mengakui kekhawatiran yang sering saya dengar dan baca, banyak di antaranya yang saya juga bagikan, dan menjelaskan bagaimana cara saya memikirkannya.
Satu hal yang jelas dari semua yang telah ditulis sejauh ini tentang risiko AI—dan telah banyak yang ditulis—adalah bahwa tidak ada yang memiliki semua jawaban. Hal lain yang jelas bagi saya adalah bahwa masa depan AI tidak seburuk yang dibayangkan oleh beberapa orang atau secerah yang dibayangkan oleh orang lain. Risikonya nyata, tetapi saya optimis bahwa mereka dapat dikelola. Saat saya membahas setiap kekhawatiran, saya akan kembali ke beberapa tema berikut:
Banyak masalah yang diakibatkan oleh AI memiliki preseden sejarah. Misalnya, AI akan memiliki dampak besar pada pendidikan, tetapi begitu juga dengan kalkulator genggam beberapa dekade yang lalu dan, baru-baru ini, dengan memperbolehkan komputer masuk ke dalam ruang kelas. Kita dapat belajar dari apa yang telah berhasil di masa lalu.
Banyak masalah yang diakibatkan oleh AI juga dapat dikelola dengan bantuan AI itu sendiri.
Kita perlu menyesuaikan undang-undang lama dan mengadopsi yang baru—seperti halnya undang-undang yang ada tentang penipuan harus disesuaikan dengan dunia online.
Dalam posting ini, saya akan fokus pada risiko yang sudah ada atau akan segera ada. Saya tidak membahas apa yang terjadi ketika kita mengembangkan AI yang bisa belajar semua mata pelajaran atau tugas, tidak seperti AI yang dibuat saat ini. Apakah kita akan mencapai titik itu dalam satu dekade atau satu abad, masyarakat akan perlu menghadapi pertanyaan-pertanyaan mendasar. Bagaimana jika sebuah AI super menetapkan tujuan mereka sendiri? Bagaimana jika tujuan mereka bertentangan dengan tujuan kemanusiaan? Haruskah kita bahkan membuat AI super?
Tetapi berpikir tentang risiko jangka panjang ini tidak boleh mengabaikan risiko-risiko yang lebih mendesak. Sekarang, mari kita bahas risiko-risiko tersebut.
Deepfake dan misiinformasi yang dihasilkan oleh AI dapat merusak pemilihan dan demokrasi.
Penggunaan teknologi untuk menyebarkan kebohongan dan informasi yang salah bukanlah hal baru. Orang telah melakukannya dengan buku dan selebaran selama berabad-abad. Kemudian menjadi lebih mudah dengan kemunculan pemroses kata, pencetak laser, email, dan jaringan sosial.
AI memperluas masalah teks palsu ini dengan memungkinkan hampir siapa pun membuat audio dan video palsu, yang dikenal sebagai deepfake. Jika Anda mendapatkan pesan suara yang terdengar seperti anak Anda mengatakan, "Saya diculik, tolong kirim $1.000 ke rekening bank ini dalam waktu 10 menit, dan jangan hubungi polisi," itu akan memiliki dampak emosional yang mengerikan jauh melampaui efek dari email yang mengatakan hal yang sama.
Dalam skala yang lebih besar, deepfake yang dihasilkan oleh AI dapat digunakan untuk mempengaruhi hasil pemilihan. Tentu saja, tidak membutuhkan teknologi canggih untuk menimbulkan keraguan tentang pemenang yang sah dalam pemilihan, tetapi AI akan memud
ahkannya.
Sudah ada video palsu yang menampilkan rekaman palsu dari politisi terkenal. Bayangkan pada pagi hari pemilihan besar, video yang menunjukkan salah satu kandidat sedang merampok sebuah bank menjadi viral. Itu palsu, tetapi butuh beberapa jam bagi media berita dan tim kampanye untuk membuktikannya. Berapa banyak orang yang akan melihatnya dan mengubah suara mereka pada menit terakhir? Hal itu dapat mempengaruhi hasil, terutama dalam pemilihan yang ketat.
Ketika salah satu pendiri OpenAI, Sam Altman, memberikan kesaksiannya di depan sebuah komite Senat AS baru-baru ini, Senator dari kedua partai menyoroti dampak AI pada pemilihan dan demokrasi. Saya harap masalah ini terus menjadi prioritas semua pihak.
Kami tentu saja belum menyelesaikan masalah misinformasi dan deepfake. Tetapi ada dua hal yang membuat saya cukup optimis. Pertama, orang mampu belajar untuk tidak menganggap segala sesuatu begitu saja. Selama bertahun-tahun, pengguna email menjadi korban penipuan di mana seseorang yang mengaku sebagai seorang pangeran Nigeria menjanjikan imbalan besar dengan berbagi nomor kartu kredit Anda. Namun akhirnya, kebanyakan orang belajar untuk melihat dua kali terhadap email semacam itu. Ketika penipuan semakin canggih, banyak orang yang menjadi target juga semakin cerdas. Kita perlu melatih kemampuan yang sama untuk menghadapi deepfake.
Hal lain yang membuat saya optimis adalah bahwa AI dapat membantu mengidentifikasi deepfake sekaligus membuatnya. Intel, misalnya, telah mengembangkan detektor deepfake, dan badan pemerintah DARPA sedang mengerjakan teknologi untuk mengidentifikasi apakah video atau audio telah dimanipulasi.
Ini akan menjadi proses yang berulang: Seseorang menemukan cara untuk mendeteksi rekayasa, orang lain mencari cara untuk melawannya, orang lain mengembangkan kontra-kontramestinya, dan seterusnya. Ini tidak akan sempurna, tetapi kita tidak akan menjadi tidak berdaya.
AI memudahkan peluncuran serangan terhadap individu dan pemerintah.
Saat ini, ketika peretas ingin menemukan kelemahan dalam perangkat lunak, mereka melakukannya dengan cara paksa—menulis kode yang mencari kelemahan potensial hingga mereka menemukan cara masuk. Ini melibatkan banyak usaha sia-sia, yang berarti membutuhkan waktu dan kesabaran.
Para ahli keamanan yang ingin melawan peretas harus melakukan hal yang sama. Setiap pembaruan perangkat lunak yang Anda pasang di ponsel atau laptop Anda merupakan hasil dari berjam-jam pencarian, baik oleh orang-orang dengan niat baik maupun niat buruk.
Model AI akan mempercepat proses ini dengan membantu peretas menulis kode yang lebih efektif. Mereka juga akan dapat menggunakan informasi publik tentang individu, seperti tempat mereka bekerja dan siapa teman-teman mereka, untuk mengembangkan serangan phishing yang lebih canggih daripada yang kita lihat saat ini.
Berita baiknya adalah AI juga dapat digunakan untuk tujuan yang baik. Tim keamanan pemerintah dan swasta perlu memiliki alat terbaru untuk menemukan dan memperbaiki kelemahan keamanan sebelum para penjahat dapat memanfaatkannya. Saya berharap industri keamanan perangkat lunak akan memperluas upaya yang telah mereka lakukan di bidang ini—hal ini seharusnya menjadi perhatian utama bagi mereka.
Inilah juga mengapa kita tidak boleh mencoba untuk sementara waktu mencegah orang mengimplementasikan perkembangan baru dalam AI, seperti yang beberapa orang usulkan. Para penjahat siber tidak akan berhenti membuat alat baru. Demikian pula, orang yang ingin menggunakan AI untuk merancang senjata nuklir dan serangan bioterorisme tidak akan berhenti. Upaya untuk menghentikan mereka perlu terus berlanjut dengan kecepatan yang sama.
Ada risiko terkait di tingkat global: perlombaan senjata untuk AI yang dapat digunakan untuk merancang dan meluncurkan serangan siber terhadap negara-negara lain. Setiap pemerintah ingin memiliki teknologi paling kuat agar dapat menangkal serangan dari lawan-lawannya. Insentif untuk tidak membiarkan siapa pun lebih maju dapat memicu perlombaan untuk menciptakan senjata cyber yang semakin berbahaya. Semua orang akan menjadi lebih buruk.
Pikiran yang menakutkan, tetapi kita memiliki sejarah sebagai panduan. Meskipun rezim nuklir nonproliferasi di dunia memiliki kekurangan, itu telah mencegah terjadinya perang nuklir besar yang sangat ditakuti oleh generasi saya saat kami sedang tumbuh dewasa. Pemerintah harus mempertimbangkan untuk membuat badan global untuk AI yang mirip dengan Badan Tenaga Atom Internasional.
AI akan mengambil pekerjaan orang.
Dalam beberapa tahun ke depan, dampak utama AI pada pekerjaan akan membantu orang-orang dalam melakukan pekerjaan mereka dengan lebih efisien. Ini akan berlaku baik bagi mereka yang bekerja di pabrik maupun di kantor yang menangani panggilan penjualan dan pembayaran akun. Pada akhirnya, AI akan cukup baik dalam menyampaikan ide-ide sehingga mampu menulis email dan mengelola kotak masuk Anda. Anda akan dapat menulis permintaan dalam bahasa yang mudah dipahami, atau bahasa lainnya, dan menghasilkan presentasi yang kaya tentang pekerjaan Anda.
Seperti yang saya sampaikan dalam posting saya pada bulan Februari, itu merupakan hal yang baik bagi masyarakat ketika produktivitas meningkat. Ini memberi orang lebih banyak waktu untuk melakukan hal-hal lain, baik di tempat kerja maupun di rumah. Dan permintaan untuk orang yang membantu orang lain—seperti mengajar, merawat pasien, dan mendukung lansia—tidak akan pernah hilang. Tetapi memang benar bahwa beberapa pekerja akan memerlukan dukungan dan pelatihan ulang saat kita melakukan transisi ke tempat kerja yang didukung AI. Ini adalah peran pemerintah dan bisnis, dan mereka perlu mengelolanya dengan baik agar pekerja tidak tertinggal—untuk menghindari gangguan
yang terjadi dalam kehidupan dan mata pencaharian orang-orang selama penurunan pekerjaan manufaktur di Amerika Serikat.
Selain itu, ingatlah bahwa ini bukan kali pertama teknologi baru menyebabkan pergeseran besar dalam pasar tenaga kerja. Saya tidak berpikir dampak AI akan se dramatis Revolusi Industri, tetapi pasti sebesar pengenalan komputer pribadi. Aplikasi pemrosesan kata tidak menghilangkan pekerjaan kantor, tetapi mengubahnya selamanya. Pemberi kerja dan karyawan harus beradaptasi, dan mereka melakukannya. Perubahan yang disebabkan oleh AI akan menjadi transisi yang berliku-liku, tetapi ada alasan yang kuat untuk berpikir bahwa kita dapat mengurangi gangguan terhadap kehidupan dan mata pencaharian orang-orang.
AI mewarisi bias kita dan membuat hal-hal palsu.
Halusinasi—istilah untuk ketika AI dengan percaya diri mengemukakan klaim yang sama sekali tidak benar—biasanya terjadi karena mesin tidak memahami konteks dari permintaan Anda. Minta AI menulis cerita pendek tentang berlibur ke bulan, dan ia mungkin memberikan jawaban yang sangat imajinatif. Tetapi minta bantuannya merencanakan perjalanan ke Tanzania, dan ia mungkin mencoba mengirim Anda ke hotel yang tidak ada.
Risiko lain dengan kecerdasan buatan adalah bahwa AI mencerminkan atau bahkan memperburuk bias yang ada terhadap orang dengan identitas gender tertentu, ras, etnis, dan sebagainya.
Untuk memahami mengapa halusinasi dan bias terjadi, penting untuk mengetahui bagaimana model AI paling umum bekerja saat ini. Mereka pada dasarnya adalah versi yang sangat canggih dari kode yang memungkinkan aplikasi email Anda memprediksi kata berikutnya yang akan Anda ketik: Mereka memindai jumlah teks yang besar—hampir semua yang tersedia secara online, dalam beberapa kasus—dan menganalisisnya untuk menemukan pola dalam bahasa manusia.
Ketika Anda mengajukan pertanyaan kepada AI, ia melihat kata-kata yang Anda gunakan dan kemudian mencari potongan teks yang seringkali terkait dengan kata-kata tersebut. Jika Anda menulis "daftar bahan untuk pancake," ia mungkin memperhatikan bahwa kata-kata "tepung, gula, garam, baking powder, susu, dan telur" sering muncul bersama frase tersebut. Kemudian, berdasarkan apa yang diketahui tentang urutan kata-kata tersebut biasanya muncul, ia menghasilkan jawaban. (Model AI yang bekerja seperti ini menggunakan apa yang disebut transformer. GPT-4 adalah salah satu model tersebut.)
Proses ini menjelaskan mengapa AI mungkin mengalami halusinasi atau terlihat bias. AI tidak memiliki konteks untuk pertanyaan yang Anda ajukan atau hal-hal yang Anda beritahukan padanya. Jika Anda memberi tahu AI bahwa ia melakukan kesalahan, ia mungkin mengatakan, "Maaf, saya salah mengetik itu." Tetapi itu halusinasi—ia tidak mengetik apa pun. Ia hanya mengatakan hal itu karena ia telah memindai teks yang cukup untuk mengetahui bahwa "Maaf, saya salah mengetik itu" adalah kalimat yang sering ditulis seseorang setelah seseorang memperbaikinya.
Demikian pula, model AI mewarisi prasangka apa pun yang tertanam dalam teks yang dilatih. Jika suatu model membaca banyak tentang, katakanlah, dokter, dan teks tersebut sebagian besar menyebutkan dokter pria, maka jawabannya akan mengasumsikan bahwa sebagian besar dokter adalah pria.
Meskipun beberapa peneliti berpikir bahwa halusinasi adalah masalah inheren, saya tidak setuju. Saya optimis bahwa seiring waktu, model AI dapat diajarkan untuk membedakan fakta dari fiksi. OpenAI, misalnya, sedang melakukan pekerjaan yang menjanjikan di bidang ini.
Organisasi lain, termasuk Alan Turing Institute dan National Institute of Standards and Technology, sedang mengerjakan masalah bias. Salah satu pendekatan adalah dengan memasukkan nilai-nilai manusia dan penalaran tingkat lebih tinggi ke dalam AI. Ini mirip dengan cara manusia yang sadar diri bekerja: Mungkin Anda berasumsi bahwa sebagian besar dokter adalah laki-laki, tetapi Anda cukup sadar akan asumsi ini sehingga Anda tahu bahwa Anda harus melawannya secara sengaja. AI dapat beroperasi dengan cara yang serupa, terutama jika modelnya dirancang oleh orang-orang dari berbagai latar belakang.
Akhirnya, setiap orang yang menggunakan AI perlu menyadari masalah bias ini dan menjadi pengguna yang terinformasi. Esai yang Anda minta AI tulis bisa jadi penuh dengan prasangka sama seperti kesalahan fakta. Anda perlu memeriksa prasangka AI Anda serta prasangka Anda sendiri.
Siswa tidak akan belajar menulis karena AI akan melakukan pekerjaan bagi mereka.
Banyak guru yang khawatir tentang cara AI akan merusak pekerjaan mereka dengan siswa. Di masa di mana siapa pun dengan akses Internet dapat menggunakan AI untuk menulis draf pertama esai yang layak, apa yang mencegah siswa mengumpulkannya sebagai karya mereka sendiri?
Sudah ada alat AI yang belajar untuk membedakan apakah sesuatu itu ditulis oleh orang atau oleh komputer, sehingga guru dapat mengetahui kapan siswanya tidak mengerjakan sendiri pekerjaan mereka. Tetapi beberapa guru tidak mencoba
untuk menangkap kecurangan ini—mereka memberi nilai lebih rendah pada pekerjaan yang ditulis dengan bantuan AI. Mereka berpikir bahwa tujuan dari tugas menulis adalah untuk menguji kemampuan seseorang dalam menulis, bukan dalam membuat anak-anak memperoleh nilai tinggi dalam waktu secepat mungkin.
Saya sangat setuju dengan tujuan ini. Tetapi saya tidak yakin apakah cara penilaian ini akan mempersiapkan siswa dengan baik untuk masa depan. Kemampuan menulis dengan baik sangat penting dalam hampir semua pekerjaan. Sekarang, dan di masa depan, banyak pekerjaan yang lebih menarik daripada menulis ulang naskah berita atau esai tentang sejarah. Sebuah tugas yang memberi siswa kesempatan untuk memikirkan berbagai sudut pandang atau mengeksplorasi topik dengan lebih mendalam—dalam konteks yang sangat disesuaikan dengan kepentingan pribadi mereka—akan menjadi lebih berguna dalam jangka panjang.
Pada akhirnya, mengajari anak-anak bagaimana menulis esai adalah penting, tetapi hanya itu saja tidak akan memadai. Kami perlu mengajari mereka keterampilan berpikir kritis dan analitis yang memungkinkan mereka untuk menyelesaikan masalah yang kompleks, menilai informasi secara kritis, dan berkomunikasi dengan baik dalam berbagai bentuk tulisan. Dalam dunia AI yang sedang berkembang, kemampuan-kemampuan ini akan semakin berharga.
Mengetahui apa yang kita khawatirkan
Ketika kita membahas risiko AI, penting untuk memiliki pemahaman yang jelas tentang apa yang sebenarnya kita khawatirkan. Saya telah melihat banyak keprihatinan yang tidak realistis—contohnya, ide bahwa AI akan menggantikan semua pekerjaan manusia dalam waktu singkat atau bahwa AI akan mengambil alih dunia dan memutuskan bahwa manusia tidak lagi berguna.
Tidak ada keraguan bahwa AI akan mempengaruhi pekerjaan manusia dan mungkin menciptakan beberapa masalah yang baru. Tetapi kita harus mengingat bahwa kita pernah menghadapi tantangan serupa sebelumnya dan berhasil mengatasinya.
Sebagai contoh, di dunia kesehatan, kita melihat bagaimana alat-alat AI dapat membantu dalam mendiagnosis penyakit, mengurangi kesalahan medis, dan meningkatkan pengobatan. Pada saat yang sama, AI juga dapat menimbulkan kekhawatiran terkait privasi dan keamanan data medis. Tetapi kami tidak melarang penggunaan AI di bidang kesehatan. Kami mencari solusi untuk masalah yang muncul, dan kami melindungi privasi dan keamanan data pasien.
Sekarang, dengan AI, kita menghadapi tantangan baru dalam berbagai aspek kehidupan kita. Kami perlu waspada dan proaktif dalam menghadapi risiko yang muncul. Namun, penting juga untuk menjaga keseimbangan dan tidak membiarkan kekhawatiran kita melebihi realitas. Dengan pengembangan yang tepat, pengaturan yang bijaksana, dan penyesuaian yang diperlukan, saya percaya bahwa kita dapat mengelola risiko AI dan mencapai masa depan yang lebih baik.
