Kajian baharu dari Institut Teknologi Stevens mendapati bahawa kecerdasan buatan boleh mempertajam diagnosis imej kanser payudara doktor — tetapi hanya apabila penjelasannya direka untuk menyokong, bukan membebankan, doktor.
Kecerdasan buatan telah pun membantu doktor mengesan kanser lebih awal dan lebih tepat. Tetapi kajian baharu dari Stevens Institute of Technology menunjukkan bahawa cara AI menerangkan keputusannya boleh membuat perbezaan antara sokongan menyelamatkan nyawa dan gangguan berbahaya.
Dalam dua kajian terbaru yang tertumpu pada pengimejan kanser payudara, penyelidik Stevens mendapati bahawa alat AI boleh meningkatkan ketepatan pembacaan imej perubatan oleh pakar onkologi dan radiologi. Pada masa yang sama, mereka mendapati bahawa penambahan penjelasan tambahan tentang bagaimana AI mencapai kesimpulannya sebenarnya boleh memperlahankan kerja doktor, meningkatkan beban kerja mental mereka dan, dalam beberapa kes, menjadikan mereka lebih cenderung untuk melakukan kesilapan.
Kerja ini menumpukan pada ketegangan utama dalam perubatan moden: bagaimana memanfaatkan kuasa AI sambil memastikan pakar manusia sentiasa terkawal.
Sistem AI telah digunakan secara meluas untuk mengimbas imej sinar-X, MRI dan CT untuk corak halus yang sukar dilihat oleh manusia. Dengan akses kepada set data perubatan yang besar dan pengkomputeran yang berkuasa, sistem ini boleh menapis data pada kelajuan yang tidak dapat ditandingi oleh sesiapa pun.
“Sistem AI boleh memproses beribu-ribu imej dengan cepat dan memberikan ramalan jauh lebih pantas daripada pengulas manusia,” kata penulis kanan Onur Asan, seorang profesor madya di Stevens yang penyelidikannya menumpukan pada bagaimana orang ramai berinteraksi dengan teknologi dalam penjagaan kesihatan, dalam satu siaran berita. “Tidak seperti manusia, AI tidak menjadi letih atau hilang fokus dari semasa ke semasa.”
Namun ramai doktor masih berhati-hati untuk tidak bergantung pada AI. Sebab utamanya ialah banyak sistem berfungsi sebagai apa yang dipanggil "kotak hitam", yang menawarkan ramalan atau skor risiko tanpa penjelasan yang jelas tentang bagaimana ia sampai ke sana.
“Apabila doktor tidak tahu bagaimana AI menjana ramalannya, mereka kurang berkemungkinan untuk mempercayainya,” tambah Asan. “Jadi kami ingin mengetahui sama ada pemberian penjelasan tambahan boleh membantu doktor, dan bagaimana tahap penjelasan AI yang berbeza mempengaruhi ketepatan diagnostik, serta kepercayaan terhadap sistem.”
Untuk meneroka persoalan itu, Asan telah bekerjasama dengan pelajar kedoktoran Olya Rezaeian di Stevens dan penolong profesor Alparslan Emrah Bayrak di Universiti Lehigh. Pasukan itu mengkaji 28 pakar onkologi dan radiologi ketika mereka menggunakan sistem AI untuk menganalisis imej kanser payudara.
Semua doktor melihat penilaian imej yang dijana AI. Ada juga yang menerima penjelasan tambahan tentang bagaimana AI sampai pada kesimpulannya. Selepas menyemak imej, peserta menjawab soalan tentang sejauh mana keyakinan mereka terhadap penilaian AI dan betapa sukarnya mereka menghadapi tugasan tersebut.
Para penyelidik melaporkan bahawa doktor yang menggunakan AI secara keseluruhannya lebih tepat berbanding mereka yang berada dalam kumpulan kawalan yang tidak mempunyai sokongan AI. Tetapi manfaatnya datang dengan syarat-syarat penting.
Satu penemuan penting: penjelasan yang lebih lanjut tidak selalunya lebih baik.
"Kami mendapati bahawa lebih banyak penjelasan tidak bermakna lebih banyak kepercayaan," tambah Asan.
Pasukan itu memerhatikan bahawa apabila penjelasan menjadi lebih terperinci atau kompleks, doktor terpaksa meluangkan lebih banyak masa memproses maklumat tersebut. Usaha tambahan itu mengalihkan perhatian daripada imej itu sendiri dan memperlahankan proses membuat keputusan, yang seterusnya menjejaskan prestasi keseluruhan.
“Memproses lebih banyak maklumat menambahkan lebih banyak beban kerja kognitif kepada doktor. Ia juga menjadikan mereka lebih cenderung untuk melakukan kesilapan dan mungkin membahayakan pesakit,” tambah Asan. “Anda tidak mahu menambah beban kognitif kepada pengguna dengan menambah lebih banyak tugas.”
Kajian-kajian tersebut juga menandakan satu lagi jenis risiko: terlalu yakin terhadap AI. Dalam sesetengah kes, doktor mempercayai output sistem dengan begitu kuat sehingga mereka kurang berkemungkinan untuk mempersoalkannya, walaupun ia salah.
"Jika sistem AI tidak direka bentuk dengan baik dan membuat beberapa kesilapan sementara pengguna mempunyai keyakinan yang tinggi terhadapnya, sesetengah doktor mungkin membina kepercayaan membuta tuli dengan mempercayai bahawa apa sahaja yang dicadangkan oleh AI adalah benar, dan tidak meneliti hasilnya dengan secukupnya," tambah Asan.
Penemuan pasukan ini diperincikan dalam dua kertas kerja: satu mengenai kesan penjelasan AI terhadap kepercayaan dan ketepatan diagnostik dalam kanser payudara, diterbitkan dalam Ergonomik Gunaan, dan yang kedua mengenai kebolehjelasan dan keyakinan AI dalam sistem sokongan keputusan klinikal, diterbitkan dalam Jurnal Antarabangsa Interaksi Manusia-Komputer.
Secara keseluruhannya, kajian-kajian ini menunjukkan cabaran reka bentuk untuk generasi AI perubatan yang akan datang: membina alat yang cukup telus untuk dipercayai, tetapi cukup mudah untuk digunakan dalam persekitaran penjagaan klinikal yang bertekanan tinggi.
"Penemuan kami menunjukkan bahawa pereka harus berhati-hati ketika membina penjelasan ke dalam sistem AI," kata Asan.
Beliau menambah bahawa penjelasan harus dibuat supaya ia menyokong pemikiran doktor dan bukannya membebankan mereka.
Latihan juga akan menjadi kritikal. Asan menekankan bahawa AI harus dilihat sebagai pembantu, bukan pengganti, untuk kepakaran manusia.
"Ahli klinik yang menggunakan AI harus menerima latihan yang menekankan pentafsiran output AI dan bukan hanya mempercayainya," katanya.
Selain kebolehjelasan, Asan menunjukkan prinsip yang lebih luas daripada penyelidikan penggunaan teknologi: orang ramai kemungkinan besar akan menggunakan sesuatu alat apabila mereka percaya ia berguna dan mudah digunakan.
“Kajian mendapati terdapat dua parameter utama bagi seseorang untuk menggunakan sebarang bentuk teknologi — persepsi kegunaan dan persepsi kemudahan penggunaan,” tambahnya. “Jadi, jika doktor berpendapat bahawa alat ini berguna untuk menjalankan tugas mereka, dan ia mudah digunakan, mereka akan menggunakannya.”
Bagi pesakit, risikonya tinggi. Kanser payudara kekal sebagai salah satu kanser yang paling biasa di seluruh dunia, dan pengesanan awal yang tepat dapat meningkatkan hasil secara dramatik. AI berpotensi untuk mengesan tumor lebih awal, mengurangkan diagnosis yang terlepas dan membantu menyeragamkan penjagaan di seluruh hospital dan klinik.
Namun, kajian Stevens menekankan bahawa hanya menambah AI ke bilik bacaan sahaja tidak mencukupi. Untuk benar-benar menambah baik penjagaan, sistem mesti direka bentuk dengan mengambil kira had kognitif dan aliran kerja doktor, dan sistem kesihatan mesti melabur dalam latihan yang membantu doktor memahami bila perlu bergantung pada AI dan bila perlu mempersoalkannya.
Ketika AI terus merebak melalui perubatan, kajian seperti ini menawarkan peta jalan: membina alat yang menguatkan pertimbangan manusia, mengelakkan beban berlebihan daripada doktor yang sudah terbeban dan memastikan keselamatan pesakit menjadi tumpuan setiap pilihan reka bentuk.
sumber: Institut Teknologi Stevens