Anda boleh dimaafkan kerana berfikir bahawa AI tidak lama lagi akan menggantikan doktor manusia berdasarkan tajuk-tajuk utama seperti "The AI Doctor Will See You Now, " "Doktor Masa Depan Anda Tidak Akan Manusia, " dan "Ini AI Hanya Mengalahkan Doktor Manusia pada Ujian Klinikal "Tetapi para pakar mengatakan realiti adalah lebih banyak kerjasama daripada penggulingan: Pesakit tidak lama lagi boleh mencari kehidupan mereka sebahagiannya di tangan perkhidmatan AI yang bekerja bersama-sama dengan doktor manusia.
Tidak ada kekurangan optimisme mengenai AI dalam komuniti perubatan. Tetapi ramai yang juga mengingatkan gembar-gembur sekitar AI masih belum dapat direalisasikan dalam tetapan klinikal sebenar. Terdapat juga visi yang berbeza untuk bagaimana perkhidmatan AI dapat memberi impak terbesar. Dan masih belum jelas sama ada AI akan memperbaiki kehidupan pesakit atau hanya garis bawah untuk syarikat Silicon Valley, organisasi penjagaan kesihatan, dan penanggung insurans.
"Saya fikir semua pesakit benar-benar mahu teknologi AI dibawa untuk menanggung kelemahan dalam sistem penjagaan kesihatan, tetapi kita perlu melakukannya dengan cara gembar-gembur Lembah Silikon, " kata Isaac Kohane, seorang penyelidik maklumat bioperubatan di Sekolah Perubatan Harvard.
Sekiranya AI berfungsi seperti yang dijanjikan, ia boleh demokrasi penjagaan kesihatan dengan meningkatkan akses kepada komuniti yang kurang berkhidmat dan menurunkan kos - suatu kelebihan di Amerika Syarikat, yang tidak seimbang dengan banyak langkah kesihatan meskipun kos penjagaan kesihatan purata tahunan $ 10, 739 setiap orang. Sistem AI boleh membebaskan doktor yang terlalu banyak bekerja dan mengurangkan risiko kesilapan perubatan yang boleh membunuh puluhan ribu, jika tidak beratus-ratus ribu, pesakit AS setiap tahun. Dan di banyak negara dengan kekurangan doktor negara, seperti China di mana jabatan pesakit luar bandar yang penuh sesak dapat melihat sehingga 10, 000 orang sehari, teknologi tersebut tidak memerlukan ketepatan yang sempurna untuk membuktikan bantuan.
Tetapi pengkritik menunjukkan bahawa semua janji itu boleh hilang jika tergesa-gesa untuk melaksanakan AI melambatkan hak privasi pesakit, menghadap ke arah bias dan batasan, atau gagal untuk menggunakan perkhidmatan dengan cara yang meningkatkan hasil kesihatan bagi kebanyakan orang.
"Dengan cara yang sama bahawa teknologi boleh menutup kesenjangan, mereka boleh memburukkan lagi perbezaan, " kata Jayanth Komarneni, pengasas dan ketua Projek Diagnosis Manusia (Human Dx), sebuah syarikat manfaat awam yang memberi tumpuan kepada kepakaran perubatan orang ramai. "Dan tidak ada keupayaan untuk memburukkan lagi perbezaan seperti AI"
***
Hari ini, teknik AI yang paling popular adalah pembelajaran mesin dan sepupu yang lebih muda, pembelajaran yang mendalam. Tidak seperti program komputer yang mematuhi peraturan yang tegas oleh manusia, kedua-dua pembelajaran mesin dan algoritma pembelajaran mendalam boleh melihat dataset, belajar dari itu, dan membuat ramalan baru. Pembelajaran mendalam khususnya boleh membuat ramalan yang mengagumkan dengan menemui pola data yang mungkin dilepaskan orang.
Tetapi untuk memanfaatkan ramalan-ramalan ini dalam penjagaan kesihatan, AI tidak boleh melakukannya sendiri. Sebaliknya, manusia masih harus membantu membuat keputusan yang boleh membawa kesan kesihatan dan kewangan utama. Kerana sistem AI tidak mempunyai kecerdasan umum manusia, mereka boleh membuat ramalan yang membingungkan yang boleh membahayakan jika doktor dan hospital tidak mempersoalkannya.
Contoh klasik berasal dari Rich Caruana, seorang penyelidik kanan di Microsoft Research, seperti yang dijelaskan dalam majalah Kejuruteraan dan Teknologi tahun lepas. Pada tahun 1990-an, Caruana bekerja pada satu projek yang cuba menggunakan bentuk mesin pembelajaran yang lebih awal untuk meramalkan sama ada pesakit dengan pneumonia adalah risiko rendah atau kes risiko tinggi. Tetapi masalah timbul apabila model pembelajaran mesin cuba meramalkan kes penderita asma, yang berisiko tinggi kerana kesulitan bernafas yang sudah ada sebelum ini menyebabkan mereka terdedah kepada radang paru-paru. Model itu memangkas pesakit-pesakit ini sebagai berisiko rendah, yang memerlukan campur tangan kecil daripada kemasukan ke hospital - sesuatu pakar manusia tidak akan pernah dilakukan.
Sekiranya anda mengikuti model secara membuta tuli, kata Kenneth Jung, seorang saintis penyelidikan di Pusat Penyelidikan Informatik Biodata Stanford, "maka anda terburu-buru. Kerana model itu berkata: 'Oh, anak ini dengan asma datang dan mereka mendapat radang paru-paru tetapi kita tidak perlu risau tentang mereka dan kami menghantar mereka ke rumah dengan beberapa antibiotik.' "
Ramalan pembelajaran mendalam juga boleh gagal jika mereka menghadapi mata data yang luar biasa, seperti kes-kes perubatan yang unik, untuk kali pertama, atau apabila mereka mempelajari corak pelik dalam dataset tertentu yang tidak umum untuk kes-kes perubatan baru.
Ramalan AI adalah yang terbaik apabila digunakan untuk dataset besar-besaran, seperti di China, yang mempunyai kelebihan dalam latihan sistem AI berkat akses kepada populasi besar dan data pesakit. Pada bulan Februari, jurnal Nature Medicine menerbitkan satu kajian dari para penyelidik yang berpusat di San Diego dan Guangzhou, China yang menunjukkan janji untuk mendiagnosis banyak penyakit zaman kanak-kanak berdasarkan rekod kesihatan elektronik lebih daripada 567, 000 kanak-kanak.
Tetapi dataset yang besar juga boleh menimbulkan masalah, terutamanya apabila penyelidik cuba menerapkan algoritma mereka kepada populasi baru. Dalam kajian Nature Medicine, kesemua setengah juta pesakit datang dari satu pusat perubatan di Guangzhou, yang bermaksud tidak ada jaminan bahawa pelajaran diagnostik yang diperoleh dari latihan pada dataset itu akan berlaku untuk kes-kes pediatrik di tempat lain. Setiap pusat perubatan boleh menarik set sendiri pesakit yang unik - hospital yang dikenali dengan pusat kardiovaskular, misalnya, boleh menarik lebih banyak keadaan jantung yang kritikal. Dan penemuan dari hospital Guangzhou yang kebanyakannya menarik pesakit etnik Cina mungkin tidak diterjemahkan ke satu di Shanghai dengan jumlah pesakit yang lebih tinggi pesakit kelahiran asing dan bukan Cina.
Dalam 2017 TEDx Talk, Shinjini Kundu dari Johns Hopkins Hospital menerangkan bagaimana alat AI berpotensi untuk memungut lebih banyak daripada imej perubatan daripada doktor sahaja - termasuk meramalkan penyakit sebelum pesakit menunjukkan gejala.
Ekstrapolasi ini akan terbukti sukar dalam situasi lain juga. Sebagai contoh, kata Marzyeh Ghassemi, seorang saintis komputer dan jurutera bioperubatan di University of Toronto, mengatakan anda mempunyai 40, 000 pesakit ICU di Pusat Perubatan Deaconess Beth Israel - itu hanya satu hospital di satu bandar. "Dan saya mempunyai semua kertas kerja yang telah membuat ramalan dengan data ini. Adakah itu berfungsi dengan hospital lain di Boston? Mungkin. Adakah ia berfungsi untuk hospital di negeri lain? Adakah ia berfungsi di negara lain? Kita tidak tahu. "
***
Walaupun model AI mungkin tidak berfungsi dalam setiap kes, Ghassemi berpendapat teknologi masih bernilai meneroka. "Saya sangat berpeluk mengambil model-model ini dari bangku simpanan ke tempat tidur, " katanya, "tetapi dengan langkah berjaga-jaga yang sangat agresif."
Langkah-langkah itu perlu wujud sepanjang pembangunan dan penggunaan AI, kata I. Glenn Cohen, seorang profesor undang-undang di Universiti Harvard dan pemimpin Projek Perubatan Ketepatan, Kepintaran Artificial, dan Undang-undang. Ini mungkin melibatkan mengesahkan ketepatan dan ketelusan ramalan AI. Dan semasa pengumpulan data, penyelidik juga perlu melindungi privasi pesakit dan meminta persetujuan untuk menggunakan data pesakit untuk latihan AI
Isu persetujuan muncul lagi apabila model AI siap untuk ujian klinikal eksperimen dengan pesakit yang sebenar. "Adakah pesakit perlu diberitahu bahawa anda menggunakan algoritma pada mereka, dan adakah perkara itu sama ada AI benar-benar membimbing penjagaan atau penjagaan sebahagiannya?" Cohen bertanya. "Terdapat pemikiran yang sangat sedikit mengenai soalan-soalan ini."
Ghassemi juga menganjurkan untuk sering mengaudit algoritma AI untuk memastikan keadilan dan ketepatan dalam pelbagai kumpulan orang berdasarkan etnik, jantina, umur, dan insurans kesihatan. Itu penting memandangkan bagaimana aplikasi AI dalam bidang lain telah menunjukkan bahawa mereka dapat dengan mudah mengambil berat sebelah.
Selepas semua langkah tersebut, orang dan syarikat yang menyediakan perkhidmatan AI perlu menyelesaikan tanggungjawab undang-undang dalam hal kesilapan yang tidak dapat dielakkan. Dan tidak seperti kebanyakan peranti perubatan, yang biasanya memerlukan hanya satu kelulusan peraturan, perkhidmatan AI mungkin memerlukan semakan tambahan setiap kali mereka belajar dari data baru.
Sesetengah agensi kawal selia memikirkan semula bagaimana untuk menilai penjagaan kesihatan AI Pada bulan April, Pentadbiran Makanan dan Dadah Amerika Syarikat (FDA) mengeluarkan kertas perbincangan untuk mendapatkan maklum balas orang ramai tentang bagaimana untuk mengemaskini kajian peraturan yang berkaitan. "Apa yang kita terus lakukan di sini adalah untuk kembali ke matlamat kami untuk memberi orang akses kepada teknologi, tetapi kami juga menyedari bahawa kaedah semasa kami tidak berfungsi dengan baik, " kata Bakul Patel, pengarah untuk kesihatan digital di FDA. "Itulah sebabnya kita perlu melihat pendekatan holistik keseluruhan kitaran hayat produk."
Di samping isu-isu akses, privasi, dan peraturan sekitar, ia juga tidak jelas siapa yang mendapat faedah paling banyak daripada perkhidmatan penjagaan kesihatan AI. Terdapat banyak kesilapan penjagaan kesihatan: Menurut Bank Dunia dan Pertubuhan Kesihatan Sedunia, separuh daripada populasi dunia tidak mempunyai akses ke perkhidmatan penjagaan kesihatan yang penting dan hampir 100 juta orang didorong oleh kemiskinan yang melampau oleh perbelanjaan penjagaan kesihatan. Bergantung pada bagaimana ia digunakan, AI boleh memperbaiki ketidaksamaan ini, atau membuat mereka lebih buruk.
"Banyak perbincangan AI tentang cara demokrasi penjagaan kesihatan, dan saya mahu melihatnya berlaku, " kata Effy Vayena, seorang bioetika di Institut Teknologi Persekutuan di Switzerland.
"Jika anda hanya mempunyai peruntukan perkhidmatan yang lebih baik kepada mereka yang mampu memberi penjagaan kesihatan yang baik, " tambahnya, "Saya tidak pasti apakah itu transformasi yang kita cari."
Bagaimana semua ini memainkan bergantung kepada visi berbeza untuk melaksanakan pembangunan awal AI telah memberi tumpuan kepada aplikasi diagnostik yang sangat sempit, seperti meneliti imej untuk petunjuk kanser kulit atau kulat kuku, atau membaca sinar X dada. Tetapi lebih banyak usaha baru-baru ini telah cuba untuk mendiagnosis pelbagai keadaan kesihatan sekaligus.
Pada bulan Ogos 2018, Moorfields Eye Hospital di United Kingdom dan DeepMind. makmal AI yang berpangkalan di London yang dimiliki oleh syarikat induk Google Alphabet, menunjukkan bahawa mereka telah berjaya melatih sistem AI untuk mengenal pasti lebih daripada 50 penyakit mata dalam imbasan, yang sepadan dengan prestasi pakar terkemuka. Begitu juga cita-cita yang luas mendorong kajian San Diego dan Guangzhou yang melatih AI untuk mendiagnosis penyakit umum di kalangan kanak-kanak. Yang kedua adalah tidak baik untuk mendiagnosis penyakit pediatrik berbanding dengan doktor kanan, tetapi ia melakukan lebih baik daripada beberapa doktor muda.
Sistem AI tersebut mungkin tidak perlu mengatasi pakar manusia yang terbaik untuk membantu demokrasi penjagaan kesihatan, tetapi hanya mengembangkan akses kepada standard perubatan semasa. Namun begitu, setakat ini, ramai yang mencadangkan permohonan AI difokuskan pada peningkatan taraf penjagaan semasa dan bukannya menyebarkan penjagaan kesihatan yang berpatutan di sekitar, Cohen berkata: "Demokrasi apa yang kita sudah ada akan menjadi lebih besar untuk anda daripada memperbaiki apa yang kita ada dalam banyak kawasan. "
Accenture, firma perunding, meramalkan bahawa permohonan AI atas boleh menjimatkan ekonomi AS $ 150 bilion setahun pada tahun 2026. Tetapi tidak jelas jika sistem pesakit dan penjagaan kesihatan yang ditambah oleh dolar pembayar cukai akan memberi manfaat, atau jika lebih banyak wang hanya akan mengalir ke syarikat-syarikat berteknologi, penyedia penjagaan kesihatan dan penanggung insurans.
"Persoalan siapa yang akan memandu ini dan yang akan membayar untuk ini adalah satu soalan penting, " kata Kohane. "Sesuatu halusinasi sedikit mengenai semua rancangan perniagaan itu adalah mereka fikir mereka tahu bagaimana ia akan berfungsi."
Walaupun perkhidmatan AI membuat cadangan penjimatan kos, doktor manusia dan organisasi penjagaan kesihatan mungkin teragak-agak untuk mengambil nasihat AI jika mereka membuat kurang wang hasilnya, Kohane memberi amaran. Itu bercakap mengenai masalah sistemik yang lebih besar dari penanggung insurans kesihatan AS yang menggunakan model bayaran untuk perkhidmatan yang sering memberi ganjaran kepada doktor dan hospital untuk menambahkan ujian dan prosedur perubatan, walaupun mereka tidak diperlukan.
***
Ada peluang AI lain yang dapat meningkatkan kualiti penjagaan sementara masih meninggalkan kebanyakan diagnosis medis di tangan doktor. Dalam buku Perubatan Deep dalam tahunnya, Eric Topol, pengarah dan pengasas Institut Terjemahan Translasi Scripps, bercakap tentang mewujudkan asas perubatan supercharged Siri - pembantu AI untuk mengambil nota tentang interaksi antara doktor dan pesakit mereka, masukkan nota-nota dalam kesihatan elektronik rekod, dan mengingatkan pakar perubatan untuk bertanya mengenai bahagian-bahagian yang berkaitan dengan sejarah pesakit.
"Aspirasi saya ialah kita mengecilkan kerja doktor dan menghilangkan peranan kerani data mereka, membantu pesakit mengambil tanggungjawab lebih banyak, dan memasukkan data supaya tidak mengambil masa lama untuk mengkaji sesuatu, " kata Topol.
Itu "pembantu perubatan tidak pernah terlupa atau ahli tulis, " kata Kohane, akan memerlukan AI yang secara automatik boleh mengesan dan menyalin pelbagai suara antara doktor dan pesakit. Beliau menyokong idea Topol, tetapi menambah bahawa kebanyakan aplikasi AI dalam pembangunan nampaknya tidak tertumpu kepada pembantu tersebut. Namun, beberapa syarikat seperti Saykara dan DeepScribe telah mengembangkan perkhidmatan di sepanjang baris ini, dan walaupun Google bekerja sama dengan Stanford University untuk menguji teknologi "juru tulis digital" yang sama.
Pembantu AI mungkin terdengar kurang menarik daripada doktor AI, tetapi ia boleh membebaskan doktor untuk meluangkan lebih banyak masa dengan pesakit mereka dan meningkatkan kualiti penjagaan keseluruhan. Pakar-pakar keluarga khususnya menghabiskan lebih daripada separuh hari bekerja mereka memasuki data ke dalam rekod kesihatan elektronik - faktor utama di sebalik pembakaran fizikal dan emosi, yang mempunyai akibat buruk, termasuk kematian pesakit.
Ironinya, rekod kesihatan elektronik sepatutnya meningkatkan penjagaan perubatan dan mengurangkan kos dengan membuat maklumat pesakit lebih mudah. Sekarang Topol dan banyak ahli lain menunjuk kepada rekod kesihatan elektronik sebagai kisah peringatan untuk kegembiraan semasa sekitar AI dalam perubatan dan penjagaan kesihatan.
Pelaksanaan rekod kesihatan elektronik telah mencipta sistem patch kerja yang tersebar di kalangan beratus-ratus vendor swasta yang terutama berjaya mengasingkan data pesakit dan menjadikannya tidak dapat diakses oleh kedua-dua pakar perubatan dan pesakit. Jika sejarah adalah panduan, banyak syarikat teknologi dan organisasi penjagaan kesihatan akan merasakan tarikan mengikuti jalan yang sama dengan menyembunyikan data perubatan untuk sistem AI mereka sendiri.
Salah satu cara di sekeliling ini mungkin menggunakan sistem perisikan kolektif yang mengagregatkan dan meletakkan kepakaran perubatan dari sumber yang berbeza, kata Komarneni, yang sedang mencuba pendekatan ini dengan Human Dx. Disokong oleh pertubuhan perubatan utama seperti Persatuan Perubatan Amerika, Human Dx telah membina platform dalam talian untuk nasihat orang ramai dari ribuan pakar perubatan dalam kes-kes perubatan tertentu. Komarneni berharap bahawa platform sedemikian boleh, dalam teori, juga suatu hari nanti termasuk nasihat diagnostik dari pelbagai perkhidmatan AI yang berbeza.
"Dengan cara yang sama bahawa ramai profesional manusia mungkin melihat pada kes anda pada masa akan datang, tidak ada sebab mengapa pelbagai AI tidak dapat melakukannya, " kata Komarneni.
Sebagai doktor menunggu pembantu AI mereka, projek orang ramai seperti Human Dx "pasti dapat membawa kepada diagnostik yang lebih baik atau bahkan cadangan yang lebih baik untuk terapi, " kata Topol, yang menggabungkan kajian pada 2018 pada platform serupa yang dinamakan Medscape Consult. Makalah ini menyimpulkan kecerdasan manusia kolektif boleh menjadi "strategi yang kompetitif atau saling melengkapi" kepada AI dalam bidang perubatan.
Tetapi jika perkhidmatan AI melepasi semua ujian dan pemeriksaan dunia nyata, mereka boleh menjadi rakan kongsi penting bagi manusia dalam membentuk semula penjagaan kesihatan moden.
"Ada perkara yang mesin tidak akan berfungsi dengan baik, dan orang lain di mana mereka akan melebihi apa yang boleh dilakukan oleh mana-mana manusia, " kata Topol. "Jadi apabila anda meletakkan kedua-dua bersama ini pakej yang sangat kuat."
***
Jeremy Hsu adalah seorang wartawan bebas yang berpangkalan di New York City. Beliau sering menulis mengenai sains dan teknologi untuk Backchannel, IEEE Spectrum, Sains Popular, dan American Scientific, antara penerbitan lain.
Artikel ini pada asalnya diterbitkan di Undark. Baca artikel asal.
