Kecerdasan buatan telah datang jauh sejak R2-D2. Hari ini, kebanyakan milenial akan hilang tanpa sistem GPS pintar. Robot sudah melancarkan medan pertempuran, dan dron tidak lama lagi akan menyampaikan pakej Amazon ke pintu depan kami.
Siri boleh menyelesaikan persamaan rumit dan memberitahu anda cara memasak nasi. Dia telah membuktikan bahawa dia juga boleh menjawab soalan dengan rasa humor.
Tetapi semua pendahuluan ini bergantung pada pengguna yang memberikan arahan AI. Apa yang akan berlaku jika unit GPS memutuskan bahawa mereka tidak mahu pergi ke pembersih kering, atau lebih buruk, Siri memutuskan bahawa dia boleh menjadi lebih pintar tanpa anda?
Penciptaan Akhir Kami: Kecerdasan Buatan dan Penghujung Era Manusia. ">
Penciptaan Akhir Kami: Kecerdasan Buatan dan Penghujung Era Manusia. ">" Sebelum kita berkongsi planet ini dengan mesin pintar, kita mesti membangun sains untuk memahami mereka. Jika tidak, mereka akan menguasai, "kata pengarang James Barrat mengenai buku barunya, Penciptaan Akhir Kami: Kecerdasan Buatan dan Penghujung Era Manusia . (Bernama James Barrat) Ini adalah hasil terbaik James Barrat, pengarang dan pembuat filem dokumentari, ramalan dalam buku barunya, Penciptaan Akhir Kami: Kepintaran Artificial dan Penghujung Era Manusia .
Tidak lama kemudian, kata Barrat, kecerdasan buatan-dari Siri ke drone dan sistem perlombongan data-akan berhenti mencari manusia untuk naik taraf dan mula mencari penambahbaikan sendiri. Dan tidak seperti R2-D2s dan HALs fiksyen sains, AI masa depan kita tidak semestinya bersahabat, katanya: mereka sebenarnya boleh memusnahkan kita.
Singkatnya, bolehkah anda menjelaskan idea besar anda?
Pada abad ini, saintis akan mencipta mesin dengan kecerdasan yang sama dan kemudian melampaui kita sendiri. Tetapi sebelum kita berkongsi planet ini dengan mesin super pintar, kita mesti membangun sains untuk memahami mereka. Jika tidak, mereka akan mengambil kawalan. Dan tidak, ini bukan fiksyen sains.
Para saintis telah mencipta mesin yang lebih baik daripada manusia di catur, Jeopardy!, navigasi, perlombongan data, carian, teorem yang membuktikan dan banyak tugas lain. Akhirnya, mesin akan dibuat yang lebih baik daripada manusia di penyelidikan AI
Pada ketika itu, mereka akan dapat meningkatkan keupayaan mereka sendiri dengan cepat. Mesin-mesin yang bertenaga ini akan mengejar matlamat yang dicipta dengannya, sama ada ia adalah penerokaan ruang, bermain catur atau memetik stok. Untuk berjaya mereka akan mencari dan membelanjakan sumber, sama ada tenaga atau wang. Mereka akan berusaha untuk mengelakkan mod kegagalan, seperti dimatikan atau dicabut. Ringkasnya, mereka akan membangunkan pemacu, termasuk perlindungan diri dan pemerolehan sumber-memacu seperti kita sendiri. Mereka tidak akan teragak-agak untuk memohon, meminjam, mencuri dan lebih buruk untuk mendapatkan apa yang mereka perlukan.
Bagaimana anda berminat dalam topik ini?
Saya seorang pembuat filem dokumentari. Pada tahun 2000, saya menemubual pencipta Ray Kurzweil, robot robotis Rodney Brooks dan legenda sci-fi Arthur C. Clarke untuk filem TLC mengenai pembuatan novel dan filem, 2001: A Space Odyssey. Wawancara meneroka gagasan Hal 9000, dan komputer jahat. Buku-buku Kurzweil telah menggambarkan masa depan AI sebagai "keistimewaan" yang raptur, suatu masa di mana kemajuan teknologi mengatasi kemampuan manusia untuk memahami mereka. Namun dia hanya menjangkakan perkara baik yang muncul dari AI yang cukup kuat untuk dipadankan dan kemudian melampaui kecerdasan manusia. Dia meramalkan bahawa kita akan dapat memprogram semula sel-sel badan kita untuk mengalahkan penyakit dan penuaan. Kami akan membangunkan ketahanan super dengan nanobot yang memberikan lebih banyak oksigen daripada sel darah merah. Kami akan menaikkan otak kita dengan implan komputer supaya kita menjadi superintelligent. Dan kami akan menghantar otak kita ke medium yang lebih tahan lama daripada "wetware" yang ada sekarang dan hidup selamanya jika kita mahu. Brooks optimis, menegaskan bahawa robot AI yang dipertingkatkan akan menjadi sekutu, bukan ancaman.
Penulis saintis yang berpaling, Clarke, sebaliknya, adalah pesimis. Beliau memberitahu saya perisikan akan menang, dan manusia mungkin akan bersaing untuk bertahan dengan mesin super pintar. Dia tidak spesifik tentang apa yang akan berlaku apabila kita berkongsi planet ini dengan mesin pintar, tetapi dia merasakan ia akan menjadi perjuangan untuk umat manusia yang kita tidak akan menang.
Itu menentang segala yang saya fikirkan AI, jadi saya mula menemuduga ahli-ahli kecerdasan buatan.
Bukti apa yang anda ada untuk menyokong idea anda?
Kecerdasan buatan yang maju adalah teknologi dwi-guna, seperti pembelahan nuklear, yang mampu membahayakan yang baik atau hebat. Kami baru mula melihat bahaya.
Skandal privasi NSA berlaku kerana NSA mengembangkan alat penambangan data yang sangat canggih. Agensi menggunakan kuasa untuk memecahkan metadata berjuta-juta panggilan telefon dan keseluruhan Internet-secara kritis, semua e-mel. Dihantuk oleh kuasa perlombongan data AI, sebuah agensi yang dipercayakan untuk melindungi Perlembagaan dan bukannya menyalahgunakannya. Mereka membangunkan alat yang terlalu kuat untuk digunakan dengan bertanggungjawab.
Hari ini, pertempuran etika yang lain adalah membina tentang membuat drone pembunuh autonomi dan robot medan pertempuran yang dikuasai oleh pembunuh manusia AI yang maju tanpa manusia dalam gelung. Ia dibuat antara Jabatan Pertahanan dan pembuat robot dan robot yang dibayar oleh DOD, dan orang-orang yang menganggapnya bodoh dan tidak bermoral untuk membuat mesin pembunuhan pintar. Mereka yang memihak kepada drone autonomi dan robot medan perang berpendapat bahawa mereka akan menjadi lebih bermoral-iaitu kurang emosi, akan menyasarkan lebih baik dan lebih disiplin daripada operator manusia. Mereka yang tidak mengambil manusia keluar dari gelung melihat sejarah yang menyedihkan drone membunuh orang awam, dan keterlibatan dalam pembunuhan extralegal. Siapa yang menanggung kebencian moral apabila robot membunuh? Pembuat robot, pengguna robot, atau tiada siapa? Jangan perhatikan halangan teknis memberitahu rakan dari musuh.
Dalam jangka panjang, sebagai pakar dalam buku saya berhujah , AI yang menghampiri kecerdasan peringkat manusia tidak akan mudah dikawal; malangnya, super kecerdasan tidak bermaksud kebajikan. Sebagai ahli teori AI, Eliezer Yudkowsky dari MIRI [Institut Penyelidikan Perisikan Mesin] meletakkannya, "AI tidak menyukai anda, dan tidak membenci anda, tetapi anda terbuat daripada atom yang boleh digunakan untuk sesuatu yang lain." Jika etika tidak boleh dibina ke dalam mesin, maka kita akan membuat psikopat yang sangat pintar, makhluk tanpa kompas moral, dan kita tidak akan menjadi tuan mereka lama.
Apa yang baru tentang pemikiran anda?
Individu dan kumpulan yang pelbagai seperti saintis komputer Amerika Syarikat Bill Joy dan MIRI telah lama memberi amaran bahawa kita mempunyai banyak ketakutan dari mesin yang inteleknya gerhana kita sendiri. Dalam Penciptaan Akhir Kami, saya berpendapat bahawa AI juga akan disalahgunakan di laluan pembangunan untuk kecerdasan peringkat manusia. Antara hari ini dan hari ketika saintis mencipta kecerdasan peringkat manusia, kita akan mempunyai kesilapan AI dan aplikasi jenayah.
Kenapa tidak lagi dilakukan, atau, apa yang sedang dilakukan untuk menghentikan AI daripada menghidupkan kita?
Tidak ada sebab, tetapi ramai. Sesetengah pakar tidak percaya bahawa kami cukup dekat untuk mencipta kecerdasan buatan manusia dan tidak perlu risau tentang risikonya. Banyak pembuat AI memenangi kontrak dengan Agensi Projek Penyelidikan Advanced Defense [DARPA] dan tidak mahu menimbulkan isu yang mereka anggap politik. Bias normal adalah kecenderungan kognitif yang menghalang orang daripada bertindak balas terhadap bencana dan bencana dalam pembuatannya - itu pasti sebahagian daripadanya. Tetapi banyak pembuat AI melakukan sesuatu. Semak saintis yang menasihati MIRI. Dan, banyak lagi akan terlibat apabila bahaya AI maju memasuki dialog arus perdana.
Bolehkah anda menerangkan seketika apabila anda tahu ini adalah besar?
Kita manusia mengarahkan masa depan bukan kerana kita adalah makhluk tercepat atau yang paling kuat di planet ini, tetapi kerana kita adalah yang paling bijak. Apabila kita berkongsi planet ini dengan makhluk-makhluk yang lebih bijak daripada diri kita sendiri, mereka akan memimpin masa depan. Apabila saya memahami idea ini, saya merasakan saya menulis mengenai soalan yang paling penting pada zaman kita.
Setiap pemikir besar mempunyai pendahulunya yang kerjanya sangat penting untuk penemuannya. Siapa yang memberi anda asas untuk membina idea anda?
Asas analisis risiko AI telah dikembangkan oleh penulis matematik IJ Good, penulis fiksi sains Vernor Vinge, dan yang lain termasuk pemaju AI Steve Omohundro. Hari ini, Institut Kemanusiaan MIRI dan Oxford hampir bersendirian dalam menangani masalah ini. Penemuan Akhir kami mempunyai kira-kira 30 muka surat yang mengiktiraf pemikir ini.
Dalam meneliti dan membina idea anda, apa yang menjadi titik tertinggi? Dan titik yang rendah?
Titik tinggi menulis Penemuan Akhir Kami, dan dialog berterusan saya dengan pembuat dan ahli teori AI. Orang yang program AI menyedari isu keselamatan dan ingin membantu mendapatkan perlindungan. Contohnya, MIRI sedang berusaha mewujudkan "ramah" AI
Ahli sains dan teori komputer Steve Omohundro telah menganjurkan pendekatan "perancah", di mana selamat AI membantu membina generasi AI untuk memastikan ia selamat juga. Kemudian AI melakukan perkara yang sama, dan sebagainya. Saya fikir perkongsian awam-swasta perlu diwujudkan untuk membawa para pembuat AI bersama-sama berkongsi idea tentang keselamatan-seperti Agensi Tenaga Atom Antarabangsa, tetapi dengan perkongsian dengan syarikat. Titik rendah? Menyedari bahawa teknologi AI terbaik yang paling maju akan digunakan untuk membuat senjata. Dan senjata-senjata itu akhirnya akan menentang kita.
Apa dua atau tiga orang yang paling mungkin cuba untuk menafikan hujah anda? Mengapa?
Pencipta Ray Kurzweil adalah ketua apologist untuk teknologi canggih. Dalam dua temu bual saya dengannya, beliau mendakwa bahawa kita akan melayari teknologi AI melalui peningkatan kognitif. Kurzweil dan orang ramai yang dikenali sebagai transhumanists dan singularitarians berfikir AI dan akhirnya kecerdasan umum buatan dan seterusnya akan berkembang dengan kami. Contohnya, implan komputer akan meningkatkan kelajuan otak dan kemampuan keseluruhan kami. Akhirnya, kami akan mengembangkan teknologi untuk mengangkut kecerdasan dan kesedaran kami ke dalam komputer. Kemudian kecerdasan super akan menjadi sekurang-kurangnya sebahagian manusia, yang secara teori akan memastikan kecerdasan super "selamat".
Atas sebab-sebab banyak, saya bukan peminat pandangan ini. Masalahnya, kita manusia tidak selamat, dan seolah-olah tidak mungkin manusia super pintar akan sama. Kami tidak tahu apa yang berlaku kepada etika manusia selepas kecerdasan mereka dirangsang. Kami mempunyai asas biologi untuk keganasan yang kekurangan mesin. Super kecerdasan boleh menjadi pengganda agresif.
Siapa yang paling akan terpengaruh oleh idea ini?
Semua orang di planet ini sangat takut dari perkembangan mesin super pintar yang tidak terkawal. Perlumbaan kecerdasan sedang berlaku sekarang. Mencapai AGI adalah nombor satu pekerjaan untuk Google, IBM dan banyak syarikat kecil seperti Vicarious and Deep Thought, serta DARPA, NSA dan kerajaan dan syarikat di luar negeri. Keuntungan adalah motivasi utama untuk bangsa itu. Bayangkan satu matlamat yang mungkin: otak manusia maya pada harga komputer. Ia akan menjadi komoditi yang paling menguntungkan dalam sejarah. Bayangkan bank beribu-ribu otak berkualiti PhD yang bekerja 24/7 pada pembangunan farmaseutikal, penyelidikan kanser, pembangunan senjata dan banyak lagi. Siapa yang tidak mahu membeli teknologi itu?
Sementara itu, 56 negara sedang membangunkan robot medan perang, dan pemanduannya adalah untuk menjadikannya, dan drone, autonomi. Mereka akan menjadi mesin yang membunuh, tanpa pengawasan oleh manusia. Negara-negara yang lemah akan terluka oleh drone autonomi dan robot perang medan. Pada mulanya, hanya negara-negara kaya akan dapat membunuh bot bunuh diri, sehingga negara-negara yang kaya akan menggunakan senjata-senjata ini terhadap tentara manusia dari negara-negara miskin.
Bagaimana mungkin ia mengubah kehidupan, seperti yang kita tahu?
Bayangkan: sekurang-kurangnya satu dekad, setengah lusin syarikat dan negara-negara komputer yang menyaingi atau melampaui kecerdasan manusia. Bayangkan apa yang berlaku apabila komputer menjadi pakar dalam komputer pintar pengaturcaraan. Tidak lama lagi kita akan berkongsi planet ini dengan ribuan mesin atau berjuta-juta kali lebih pintar daripada kita. Dan, sepanjang masa, setiap generasi teknologi ini akan menjadi senjata. Tidak terkawal, ia akan menjadi bencana.
Apakah soalan yang tidak dijawab?
Penyelesaian. Penyelesaian yang jelas adalah untuk memberi mesin akal moral yang menjadikan mereka nilai kehidupan manusia dan harta benda. Tetapi etika pemrograman ke dalam mesin ternyata sangat sukar. Norma-norma moral berbeza dari budaya ke budaya, mereka berubah dari masa ke masa, dan mereka secara kontekstual. Sekiranya manusia tidak boleh bersetuju apabila hidup bermula, bagaimanakah kita dapat memberitahu mesin untuk melindungi kehidupan? Adakah kita benar-benar mahu menjadi selamat , atau adakah kita benar-benar mahu menjadi percuma ? Kita boleh membahaskannya sepanjang hari dan tidak mencapai persetujuan, jadi bagaimana kita boleh memprograminya?
Kami juga, seperti yang saya nyatakan sebelum ini, perlu mendapatkan pemaju AI bersama-sama. Pada tahun 1970-an, penyelidik DNA rekombinan memutuskan untuk menggantung penyelidikan dan berkumpul untuk satu persidangan di Asilomar di Pacific Grove, California. Mereka membangunkan protokol keselamatan asas seperti "jangan mengesan DNA di atas kasut anda, " kerana takut mencemarkan alam sekitar dengan kerja-kerja genetik yang sedang berjalan. Kerana "Garis Panduan Asilomar, " manfaat dunia dari tanaman diubahsuai secara genetik, dan terapi gen kelihatan menjanjikan. Sejauh yang kita tahu, kemalangan telah dielakkan. Ia adalah masa untuk Persidangan Asilomar untuk AI
Apa yang ada dalam perjalanan?
Satu angin ekonomi yang besar mendorong perkembangan kecerdasan peringkat AI Manusia yang maju pada harga sebuah komputer akan menjadi komoditi terpanas dalam sejarah. Google dan IBM tidak mahu berkongsi rahsia mereka dengan orang awam atau pesaing. Jabatan Pertahanan tidak mahu membuka makmal mereka ke China dan Israel, dan sebaliknya. Kesedaran awam perlu mendorong dasar ke arah keterbukaan dan perkongsian awam-swasta yang direka untuk memastikan keselamatan.
Apa yang seterusnya untuk anda?
Saya seorang pembuat filem dokumentari, jadi sudah tentu saya memikirkan versi filem Penemuan Akhir Kami .
