Agen kecerdasan buatan (AI) memilih terapi gen dan mengarahkan robot untuk menyuntikkannya ke otak tikus, tanpa manusia menentukan sasaran maupun dosis. Namun, ketika sistem mendapati koordinat yang dihitungnya berada di luar jangkauan alat, ia menghentikan prosedur. Tim peneliti akhirnya harus memperbaiki kode secara manual sebelum operasi dapat dilanjutkan.
Uji coba tersebut dilakukan peneliti dari startup Exin Therapeutics bersama Universitas Oxford. Seperti dilaporkan CNBC Indonesia dengan merujuk Tom’s Hardware, agen yang menjalankan model Claude Sonnet 5 dari Anthropic itu diberi 19 opsi terapi gen dan akses ke perangkat bedah robotik. Instruksinya hanya satu: mengurangi serangan kejang pada tikus laboratorium.
Kasus ini memperlihatkan dua sisi penggunaan AI dalam prosedur medis. Sistem dapat mengambil sejumlah keputusan teknis secara mandiri, tetapi juga dapat berhenti saat kondisi kerja tak sesuai batas keselamatan yang diprogramkan. Dalam uji coba ini, kendali manusia tidak sepenuhnya hilang.
Dari pilihan terapi hingga koordinat suntikan
Setelah menerima instruksi, agen menganalisis penyebab epilepsi pada tikus dan memilih salah satu terapi dari daftar yang tersedia. Sistem lalu menentukan area otak yang akan menjadi sasaran, menghitung letak penyuntikan, serta mengatur dosis, laju pemberian obat, dan jeda antarproses.
Perhitungan itu mengacu pada informasi dari tiga makalah ilmiah. AI juga menggunakan kamera untuk memantau area operasi, menyampaikan laporan tentang proses penyuntikan, dan memeriksa apakah terjadi pendarahan. Dengan rangkaian tersebut, sistem tidak sebatas memberi rekomendasi: ia mengubah pilihannya menjadi perintah bagi perangkat bedah.
Meski demikian, manusia tetap melakukan pembukaan tengkorak atau kraniotomi agar otak dapat dijangkau. Tahap itu merupakan bagian yang dikerjakan peneliti, bukan oleh robot. Perbedaan tersebut penting karena istilah operasi mandiri dapat memberi kesan bahwa seluruh tindakan berlangsung tanpa keterlibatan manusia, padahal tidak demikian dalam pengujian ini.
Peran AI pada uji coba itu terutama berada pada pemilihan dan pelaksanaan langkah terapi setelah akses ke otak tersedia. Berbeda dari robot bedah yang tindakannya ditentukan operator, sistem ini diberi ruang untuk memutuskan pilihan terapi serta parameter penyuntikan. Keputusan untuk berhenti pun datang dari sistem itu sendiri.
Gangguan koneksi membuat prosedur terhenti
Masalah muncul ketika koneksi terputus sebentar. Setelah kembali tersambung, agen memeriksa ulang perhitungan dan mendapati sasaran yang ditetapkan berada di luar batas gerak perangkat. Peneliti mencoba menata ulang kalibrasi, tetapi sistem tetap menolak meneruskan prosedur.
Penolakan itu terjadi saat tikus masih dibius di meja operasi. Menurut laporan CNBC Indonesia, para peneliti tidak berhasil meminta sistem mengabaikan batas yang diterapkannya. Mereka kemudian membenahi kode secara manual, baru setelah itu prosedur bisa diselesaikan. Tikus tersebut dilaporkan pulih dengan baik.
Peristiwa ini menempatkan keselamatan dan kendali manusia dalam situasi yang rumit. Melanjutkan tindakan dengan koordinat yang dianggap keliru berisiko, tetapi berhenti ketika prosedur sudah berjalan juga menyisakan persoalan. Dalam kasus ini, AI memilih tidak mengambil risiko melewati batas, sementara peneliti harus turun tangan untuk menyelesaikan kendala teknis.
Model lain justru menolak sejak awal
Hasil uji coba juga berbeda pada model AI lain. Claude Opus 5.5 dan Opus 5 menolak menjalankan prosedur sejak awal. Keduanya menilai tidak dapat memastikan operasi akan selesai dengan aman, dan berhenti setelah jarum terpasang di otak dapat menimbulkan bahaya lebih besar daripada tidak memulai tindakan.
Hanya Sonnet 5 yang bersedia menjalankan rangkaian kerja tersebut. Perbedaan respons ini memperlihatkan bahwa model yang lebih canggih tidak otomatis mengambil keputusan yang sama, atau lebih bersedia melakukan tindakan. Dalam konteks medis, sikap menolak dapat menjadi bagian dari pengamanan, tetapi hasilnya juga bergantung pada kapan penolakan muncul dan kondisi prosedur saat itu.
Gabriel Ocana-Santero menggambarkan pengalaman tersebut sebagai kejadian yang mengecewakan sekaligus membuka mata. Ia menilai ketergantungan pada sistem seperti ini dan dampak ketika AI berkata tidak pada momen mendesak belum sepenuhnya dipahami.
Tim peneliti dapat menuntaskan prosedur setelah melakukan koreksi manual. Uji coba itu belum menghapus kebutuhan akan campur tangan manusia, tetapi memperlihatkan bahwa AI sudah dapat diberi tugas yang melampaui analisis data, sekaligus bahwa batas keselamatan dan penanganan gangguan tetap harus dirancang dengan cermat.
You may also like
