Tahun lalu, Facebook mencipta dua orang chatbots dan meminta mereka untuk mula bercakap antara satu sama lain, mengamalkan kemahiran perundingan mereka. Bot-bot itu, ternyata cukup baik dalam perundingan-tetapi mereka melakukannya menggunakan bahasa mereka sendiri yang tidak dapat dipahami oleh manusia.
Kandungan Terkait
- Artis ini bertempat di Dunia Rahsia Rahsia dan Pengawasan Rahasia Dunia
Ini adalah di mana dunia sedang berjalan. Komputer mencipta kandungan untuk satu sama lain, bukan kita. Gambar sedang diambil oleh komputer, untuk komputer lain untuk melihat dan mentafsir. Semuanya berlaku dengan senyap, sering tanpa pengetahuan atau persetujuan kita.
Jadi, belajar bagaimana untuk melihat seperti komputer yang membuat komunikasi mesin-ke-mesin ini dapat dilihat-mungkin kemahiran yang paling penting pada abad ke-21.
Pada 25 Oktober 2018, Kronos Quartet-David Harrington, John Sherba, Hank Dutt, dan Sunny Yang-memainkan konsert di Smithsonian American Art Museum. Mereka ditonton oleh 400 orang manusia dan sedozen algoritma kecerdasan buatan, yang terakhir oleh Trevor Paglen, artis di balik pameran "Sites Unseen", yang kini dilihat di muzium.
Ketika para pemuzik bermain, skrin di atasnya menunjukkan kepada kita manusia apa yang dilihat oleh komputer.
Sebagai Kronos bekerja melalui satu kesedihan awal dari Empayar Uthmaniyyah, pada algoritma overhead skrin mengesan wajah para pemuzik, bibir, mata dan hidung untuk setiap orang (dan kadang-kadang melihat "hantu" wajah di mana tidak ada kerap dalam Kronos pengasas rambut Harrington). Oleh kerana algoritma semakin maju, suapan video memudar sehingga hanya garisan neon pada latar belakang hitam kekal. Akhirnya, garis-garis wajah yang pudar sehingga susunan baris abstrak-mungkin semua komputer yang diperlukan untuk memahami "muka, " tetapi yang tidak difahami sepenuhnya oleh manusia-adalah semua yang tersisa.
"Mesin Penglihatan, " Trevor Paglen, Kronos Quartet (Bruce Guthrie) 
"Mesin Penglihatan, " Trevor Paglen, Kronos Quartet (Bruce Guthrie) 
"Mesin Penglihatan, " Trevor Paglen, Kronos Quartet (Bruce Guthrie) 
"Mesin Penglihatan, " Trevor Paglen, Kronos Quartet (Bruce Guthrie) 
"Mesin Penglihatan, " Trevor Paglen, Kronos Quartet (Bruce Guthrie) 
"Mesin Penglihatan, " Trevor Paglen, Kronos Quartet (Bruce Guthrie) 
"Mesin Penglihatan, " Trevor Paglen, Kronos Quartet (Bruce Guthrie) 
"Mesin Penglihatan, " Trevor Paglen, Kronos Quartet (Bruce Guthrie) 
"Mesin Penglihatan, " Trevor Paglen, Kronos Quartet (Bruce Guthrie) 
"Mesin Penglihatan, " Trevor Paglen, Kronos Quartet (Bruce Guthrie) 
"Mesin Penglihatan, " Trevor Paglen, Kronos Quartet Debut pertama di Pantai Timur mengenai persembahan bertajuk "Mesin Penglihatan, " seperti karya lain di Belen, meminta penonton dan pendengar untuk belajar bagaimana melihat seperti komputer, dan untuk meneliti kembali hubungan manusia dengan teknologi-telefon di kantong kami, dan mata langit, dan segala yang ada di antara.
Ia adalah 2018, dan idea bahawa telefon bimbit menyaksikan kita tidak lagi merasakan teori konspirasi yang ditimbulkan oleh blogger ruang bawah tanah yang memakai topi-foil. Google ditangkap awal tahun ini menjejaki lokasi pengguna telefon Android, walaupun pengguna melumpuhkan ciri tersebut. Ramai orang yakin bahawa telefon kami mendengar kami untuk menyampaikan iklan dengan lebih baik-Facebook dan syarikat-syarikat lain menafikan caj ini, walaupun secara teknikal dan secara sah mungkin untuk mereka melakukannya. Wartawan Tech Alex Goldman dan PJ Vogt menyiasat dan mendapati perkara yang sama: Tidak ada sebab mengapa telefon kita tidak akan didengarkan, tetapi sebaliknya, pengiklan boleh mengumpulkan maklumat yang cukup mengenai kami melalui kaedah lain yang mereka tidak perlu .
Dalam konteks ini, "Mesin Penglihatan" telah dilakukan. Sejumlah sedozen kamera menonton Kronos Quartet menghantar video secara langsung dari persembahan ke rak komputer, yang menggunakan algoritma kecerdasan buatan luar untuk membuat visual yang menakutkan. Algoritma adalah sama yang digunakan dalam telefon kami untuk membantu kami mengambil gambar yang lebih baik, yang digunakan oleh kereta memandu sendiri untuk mengelakkan halangan, dan yang digunakan oleh penguatkuasaan undang-undang dan bimbingan senjata. Oleh itu, keputusan pada skrin kadang-kadang cantik, atau bahkan lucu, terdapat kengerian bawah sedar.
"Apa yang saya kagum dengan kerja-kerja ini adalah dia memperlihatkan kepada kami sesuatu yang benar-benar berlaku untuk semua kerja-dia menunjukkan kepada kami sesuatu yang mengganggu dan dia melakukannya dengan menggunakan teknik, " kata John Jacob, kurator muzium untuk fotografi, yang menganjurkan "Tapak Ghaib."
"Ini satu helah yang disengajakan, " katanya, "dan ia berfungsi."
Kemudian, algoritma pengiktirafan wajah yang canggih membuat keputusan mengenai ahli Kronos, dan memaparkan hasilnya pada skrin. "Ini adalah John [Sherba]. John adalah antara umur 24-40 tahun, " kata komputer itu. "Sunny [Yang] adalah 94.4% perempuan. Sunny adalah 80% marah dan 10% neutral."
"Salah satu perkara yang saya harap persembahan menunjukkan, " kata Pelen, "adalah beberapa cara yang menganggap komputer tidak neutral. Ia sangat berat sebelah ... dengan semua jenis andaian politik dan budaya yang tidak neutral. " Sekiranya sistem klasifikasi jantina menyatakan bahawa Sunny Yang adalah 94.4 peratus wanita, maka itu menunjukkan bahawa seseorang adalah wanita 100 peratus. "Dan siapa yang menentukan wanita 100 peratus? Adakah Barbie 100 peratus wanita? Dan kenapa jantina adalah perduaan?" Pelen bertanya. "Melihat yang berlaku seketika di mana kerajaan persekutuan cuba untuk menghilangkan secara literal orang-orang yang jantina, itu lucu di satu pihak tetapi bagi saya ia juga mengerikan."
Algoritma kemudiannya dibekalkan dengan peratusan dan dipindahkan ke hanya mengenal pasti objek di tempat kejadian. "Mikrofon. Violin Orang. Ubur-ubur. (Dua yang terakhir adalah kesilapan yang jelas; algoritma nampaknya telah mengingatkan Hank Dutt untuk ubur-ubur dan rambut sebenar Harrington untuk toupee.) Kemudian klasifikasi semakin kompleks. "Sunny memegang sepasang gunting, " kata mesin itu ketika cahaya menyala dari tali cellonya. "John memegang pisau." Apa yang akan berlaku sekiranya pengelas memberi maklumat ini-salah kepada penguatkuasa undang-undang, kita tidak akan tahu.
Kebanyakan pengguna akhir platform AI-yang bukan artis-mungkin berpendapat bahawa sistem ini mungkin mempunyai kecenderungan sendiri, tetapi sentiasa menerima tanda akhir dari manusia. Algoritma buatan Amazon, Pengiktirafan, yang dijual oleh syarikat itu kepada penguatkuasa undang-undang dan mungkin ICE, terkenal dengan tidak menuduh 28 anggota Kongres sebagai orang yang telah dituduh melakukan jenayah dengan membandingkan muka mereka dengan mugshot dalam pangkalan data awam. Pada masa itu, Amazon berhujah bahawa ACLU, yang menggunakan sistem untuk membuat perlawanan, telah menggunakan Pengiktirafan secara salah. Syarikat itu berkata bahawa tetapan lalai sistem untuk perlawanan, yang dipanggil "ambang keyakinan, " hanya 80 peratus. (Dengan kata lain, algoritma hanya 80 peratus yakin bahawa Rep. John Lewis adalah penjenayah.) Seorang jurucakap Amazon mengatakan bahawa ia mengesyorkan jabatan polis menggunakan ambang keyakinan 95 peratus, dan "Amazon Recognition hampir semata-mata digunakan untuk membantu menyempitkan lapangan dan membolehkan manusia mengkaji semula dan mempertimbangkan opsyen dengan menggunakan penilaian mereka. "Komputer mungkin berkomunikasi antara satu sama lain, tetapi-untuk sekarang-mereka masih meminta manusia membuat panggilan terakhir.
Muzik, yang dipilih oleh Paglen dengan input dari Kronos, juga mempunyai sesuatu untuk dikatakan tentang teknologi. Satu bahagian, "Powerhouse, " oleh Raymond Scott, "mungkin paling terkenal kerana digunakan dalam kartun dalam adegan kilang, " kata Pelen. "Sekiranya anda melihat sejenis kilang yang terlalu banyak dan gila, ini sering muzik yang bercakap dengannya. Bagi saya, ia adalah satu cara pemikiran tentang hampir industrialisasi kartun dan jenis meletakkannya dalam konteks teknologi." Sekeping lagi, "Kereta Berbeza" oleh Steve Reich, menutup set itu. Kronos hanya melakukan pergerakan pertama, yang merupakan zaman kanak-kanak Reich pada tahun 1930-an dan '40-an; Pelen berkata dia berfikir tentang sekeping itu sebagai meraikan "rasa bersemangat dan kemajuan yang memudahkan kereta api." *
Ia ditambah pula dengan imej dari pangkalan data yang dipanggil Public ImageNet, yang digunakan untuk mengajar komputer apa saja. (Juga dipanggil "data latihan", jadi ya, itu sedikit pun.) Skrin memancar imej yang mustahil cepat, menunjukkan contoh buah, bunga, burung, topi, orang berdiri, orang berjalan, orang melompat dan individu seperti Arnold Schwarzenegger. Jika anda ingin mengajar komputer bagaimana mengenali seseorang, seperti Schwarzenegger, atau rumah atau konsep "makan malam, " anda akan mula dengan menunjukkan komputer ribuan gambar.
Terdapat juga klip video pendek orang yang mencium, memeluk, ketawa dan tersenyum. Mungkin AI yang terlatih dalam gambar-gambar ini akan menjadi seorang yang ramah dan mesra.
Tetapi "Kereta yang berbeza" bukan hanya tentang optimisme; gerakan-gerakan di kemudian hari, yang Kronos tidak bermain pada hari Khamis tetapi "tersirat" oleh yang pertama, adalah tentang bagaimana janji perjalanan kereta api telah diuntukkan untuk menjadi instrumen Holocaust. Kereta api, yang kelihatan seperti kemajuan teknologi, menjadi kenderaan di mana puluhan ribu orang Yahudi dipindahkan ke kem kematian. Apa yang kelihatan seperti teknologi kebajikan telah ditumbangkan untuk kejahatan.
"Ia seperti, " Apa yang mungkin berlaku? " Beren berkata. "Kami mengumpul semua maklumat mengenai semua orang di dunia."
Dan sebenarnya, sebagai "Kereta Berbeza" berakhir, tumpuan berubah. Skrin tidak lagi menunjukkan imej Kronos atau data latihan dari ImageNet; Sebaliknya, ia menunjukkan suapan video langsung penonton, sebagai algoritma pengenalan wajah yang memilih ciri setiap orang. Sesungguhnya, walaupun kita fikir kita tidak ditonton, kita berada.
Dalam suapan video langsung penonton, algoritma pengenalan muka mengambil ciri setiap orang. (Bruce Guthrie) Untuk melaporkan kisah ini, saya meninggalkan rumah saya dan berjalan ke stesen kereta bawah tanah, di mana saya mengimbas kad elektronik yang dipautkan dengan nama saya untuk melalui pintu masuk, dan sekali lagi apabila saya meninggalkan pusat bandar bawah tanah bawah tanah. Downtown, saya melepaskan kamera keselamatan setengah puluhan sebelum memasuki muzium, di mana saya melihat sekurang-kurangnya dua lagi (jurucakap Smithsonian mengatakan bahawa Smithsonian tidak menggunakan teknologi pengenalan wajah; jabatan polis metropolitan DC berkata sama mengenai kameranya).
Saya merekodkan temuduga menggunakan telefon saya dan memuat naik audio ke perkhidmatan transkripsi yang menggunakan AI untuk mengetahui apa yang saya, dan subjek saya, katakan, dan mungkin atau tidak boleh menyasarkan iklan ke arah saya berdasarkan kandungan wawancara. Saya menghantar e-mel menggunakan Gmail, yang masih "membaca" semua yang saya hantar (walaupun tidak lagi untuk memberi saya iklan).
Semasa proses pelaporan, semasa saya berjalan melalui bandar, saya berlari ke dalam-saya tidak membuat kereta Google Street View ini. Dua kali. Ia bukan paranoia jika mereka benar-benar menonton awak, kan?
Jadi apa yang tersisa, di dunia ini di mana komputer sedang melihat, dan mungkin membuat pertimbangan tentang kami? "Mesin Penglihatan" menggesa kita untuk belajar bagaimana berfikir seperti komputer-tetapi ia juga mengingatkan kita bahawa terdapat beberapa bahagian kita yang pada masa ini masih sepenuhnya manusia.
Muzik, Paglen berkata, "adalah sesuatu yang benar-benar tidak dapat diukur ... apabila anda menonton sistem penglihatan komputer yang secara dasarnya menginterogasi para penghibur, ia benar-benar bagi saya menunjukkan bahawa jurang yang luas dalam persepsi antara cara kita melihat budaya dan emosi dan makna. dan semua cara yang tidak dapat dilihat oleh sistem autonomi. "
Atau seperti yang dikatakan oleh Harrington, anda boleh membuat muzik dengan biola diperbuat daripada kayu atau yang dibuat pada pencetak 3D. Anda boleh menggunakan busur serat karbon atau yang diperbuat daripada kayu pernambuco. Tetapi, katanya, busur itu masih perlu ditarik ke tali. Muzik "menjadi lebih berharga kerana ia buatan tangan."
Dan buat masa ini, itu masih sesuatu yang boleh kita lakukan. Mesin mungkin tidak memerlukan kami lagi. Tetapi apabila ia datang kepada bunyi busur yang keras pada tali biola, dan rentetan emosional yang mengingatkan, kami tidak memerlukan mesin.
"Trevor Paglen: Sites Unseen, " yang dikarang oleh John Jacob, terus di Smithsonian American Art Museum di Washington, DC hingga 6 Januari 2019. Ia dijadualkan untuk pergi ke Muzium Seni Kontemporari San Diego pada 21-Jun 2, 2019.
* Editor nota, 2 November 2018: Kisah ini telah diedit untuk menjelaskan makna yang dimaksudkan dan kisah asal komposisi "Kereta yang Berbeza" Steve Reich.
