Apabila orang melihat mesin yang bertindak balas seperti manusia, atau komputer yang melakukan strategi dan kognisi yang meniru kecerdikan manusia, mereka kadang-kadang bercanda tentang masa depan di mana manusia perlu menerima tuan-tuan robot.
Tetapi dikebumikan dalam lelucon adalah benih kegelisahan. Penulisan fiksyen sains dan filem-filem popular, dari "2001: A Space Odyssey" (1968) kepada "Avengers: Age of Ultron" (2015), telah membuat spekulasi mengenai kecerdasan buatan (AI) yang melebihi jangkaan penciptanya dan melarikan diri dari kawalan mereka , akhirnya tidak dapat mengatasi dan memperbudak manusia atau menyasarkan mereka untuk kepupusan.
Konflik antara manusia dan AI adalah depan dan pusat dalam siri sci-fi AMC "Manusia," yang kembali untuk musim ketiga pada hari Selasa (5 Jun). Dalam episod baru, manusia sintetik sedar menghadapi orang yang bermusuhan yang merawat mereka dengan kecurigaan, ketakutan dan kebencian. Roils keganasan kerana Synths mendapati diri mereka berjuang bukan hanya hak dasar tetapi juga kelangsungan hidup mereka, terhadap mereka yang melihat mereka sebagai kurang dari manusia dan sebagai ancaman berbahaya.
Malah di dunia nyata, tidak semua orang bersedia mengalu-alukan AI dengan tangan terbuka. Dalam tahun-tahun kebelakangan ini, sebagai ahli sains komputer telah menolak sempadan yang boleh dicapai oleh AI, tokoh-tokoh dalam teknologi dan sains telah memberi amaran tentang bahaya-bahaya yang menjulang bahawa kecerdasan buatan mungkin berpunca kepada manusia, walaupun mencadangkan bahawa kemampuan AI dapat mendatangkan kemanusiaan.
Tetapi kenapa orang-orang begitu terpedaya dengan idea AI?
Satu "ancaman eksistensi"
Elon Musk adalah salah satu suara yang menonjol yang telah menaikkan bendera merah mengenai AI. Pada bulan Julai 2017, Musk memberitahu para hadirin pada mesyuarat Persatuan Gabenor Kebangsaan, "Saya mempunyai pendedahan kepada AI yang sangat canggih, dan saya fikir orang harus benar-benar prihatin."
"Saya terus membunyikan loceng penggera," tambah Musk. "Tetapi sehingga orang melihat robot turun jalan membunuh orang, mereka tidak tahu bagaimana bertindak, kerana ia kelihatan begitu halus."
Terdahulu, pada tahun 2014, Musk telah melabelkan AI "ancaman eksistensi terbesar kami", dan pada Ogos 2017, beliau menyatakan bahawa manusia menghadapi risiko yang lebih besar daripada AI daripada dari Korea Utara.
Ahli fizikal Stephen Hawking, yang meninggal 14 Mac, juga menyatakan kebimbangan mengenai AI yang jahat, memberitahu BBC pada tahun 2014 bahawa "perkembangan kecerdasan buatan penuh dapat mengejutkan akhir manusia."
Ia juga kurang memberi keyakinan bahawa sesetengah pengaturcara - terutamanya yang mempunyai Makmal Media MIT di Cambridge, Massachusetts - seolah-olah bertekad untuk membuktikan bahawa AI boleh menakutkan.
Rangkaian neural yang dipanggil "Mesin Mimpi Malam," yang diperkenalkan oleh para saint komputer MIT pada tahun 2016, mengubah gambar-gambar biasa ke dalam neraka yang menjengkelkan. Sebuah AI bahawa kumpulan MIT yang dijuluki "Shelley" terdiri cerita menakutkan, dilatih di 140,000 cerita seram yang pengguna Reddit dipaparkan di forum r / nosleep.
"Kami tertarik dengan cara AI menggerakkan emosi - ketakutan, dalam kes ini," Manuel Cebrian, seorang pengurus penyelidikan di MIT Media Lab, sebelum ini memberitahu Live Science dalam e-mel mengenai cerita menakutkan Shelley.
Takut dan kebencian
Perasaan negatif mengenai AI secara umumnya boleh dibahagikan kepada dua kategori: idea AI akan menjadi sedar dan berusaha untuk menghancurkan kita, dan tanggapan bahawa orang tidak bermoral akan menggunakan AI untuk tujuan jahat, Kilian Weinberger, seorang profesor di Jabatan Sains Komputer di Cornell University, memberitahu Live Science.
"Satu perkara yang dikhuatiri oleh orang ramai ialah, jika AI super pintar - lebih pintar daripada kita - menjadi sedar, ia boleh memperlakukan kita seperti makhluk rendah, seperti kita memperlakukan monyet," katanya. "Itu pasti tidak diingini."
Walau bagaimanapun, ketakutan bahawa AI akan membangun kesedaran dan menggulingkan manusia didasarkan pada salah tanggapan mengenai AI, kata Weinberger. AI beroperasi di bawah batasan yang sangat spesifik yang ditakrifkan oleh algoritma yang menentukan kelakuannya. Sesetengah jenis masalah memetakan dengan baik kepada kemahiran AI, menjadikan tugas-tugas tertentu agak mudah untuk menyelesaikan AI. "Tetapi kebanyakan perkara tidak memetakannya, dan mereka tidak terpakai," katanya.
Ini bermakna, sementara AI mungkin mampu mencapai prestasi yang hebat dalam sempadan yang digariskan dengan teliti - memainkan permainan catur peringkat induk atau mengenal pasti objek dalam imej, contohnya - di mana kebolehannya berakhir.
"AI mencapai kesedaran - tidak ada kemajuan dalam penyelidikan di kawasan itu," kata Weinberger. "Saya tidak fikir bahawa di mana-mana masa depan kita."
Idea lain yang membimbangkan - bahawa manusia yang tidak bertanggungjawab akan memanfaatkan AI atas sebab-sebab yang berbahaya - malangnya, lebih besar kemungkinan, Weinberger menambahkan. Cukup banyak jenis mesin atau alat boleh digunakan untuk tujuan baik atau buruk, bergantung kepada niat pengguna, dan prospek senjata memanfaatkan kecerdasan buatan pasti menakutkan dan akan mendapat manfaat daripada peraturan pemerintah yang ketat, kata Weinberger.
Mungkin, jika orang dapat mengetepikan ketakutan mereka terhadap AI yang bermusuhan, mereka akan lebih terbuka untuk mengenali manfaatnya, Weinberger mencadangkan. Sebagai contoh, algoritma pengiktirafan imej yang dipertingkatkan, boleh membantu ahli dermatologi mengenal pasti tahi lalat yang berpotensi kanser, sementara kereta memandu sendiri dapat mengurangkan jumlah kematian akibat kemalangan auto, yang kebanyakannya disebabkan oleh kesilapan manusia, katanya kepada Live Science.
Tetapi dalam dunia "Manusia" Synths yang menyedari diri sendiri, ketakutan yang menyedari AI memunculkan konfrontasi ganas antara Synths dan orang-orang, dan perjuangan antara manusia dan AI kemungkinan akan terus hilang dan tidak berkembang - pada musim ini, sekurang-kurangnya.
Nota editor: Ini adalah ciri akhir dalam siri tiga bahagian artikel yang berkaitan dengan AMC "Manusia." Musim ketiga bermula 5 Jun pada pukul 10 pagi. EDT / 9 p.m. CDT.
