Seorang laki-laki berusia 69 tahun dirawat di rumah sakit setelah mengalami patah tulang di sekitar sendi panggul buatannya. Ia juga mengalami penggumpalan darah di kedua kakinya. Karena itu, dokter memberinya obat untuk mencegah darah semakin menggumpal.
Beberapa hari kemudian, ia mengalami perdarahan hebat di pahanya.
Dokter menghadapi situasi yang sulit. Obat yang mencegah penggumpalan darah dibutuhkan untuk mengatasi masalah yang satu, tetapi pada saat yang sama bisa memperburuk perdarahan yang baru terjadi.
Tim dokter, seperti dilaporkan dalam Journal of General Internal Medicine pada 2024, kemudian meminta bantuan ChatGPT.
Pertanyaan yang mereka ajukan cukup spesifik. ChatGPT memberikan jawaban yang terdengar masuk akal, lengkap dengan alasan dan rujukan. Tetapi ada persoalan lain: beberapa informasi penting tentang kondisi pasien tidak dimasukkan ke dalam pertanyaan.
Ketika informasi yang kurang itu kemudian ditambahkan, jawaban ChatGPT berubah.
Para dokter akhirnya tetap mengambil keputusan sendiri. Kondisi pasien kemudian membaik dan ia bisa melanjutkan pengobatannya tanpa komplikasi.
Kasus ini memperlihatkan bagaimana AI bisa membantu pengambilan keputusan, sekaligus menunjukkan mengapa jawaban AI tidak bisa begitu saja diterima sebagai keputusan.
Dari kasus serupa ini, kita bisa mengajukan pertanyaan, “Apa sebenarnya yang sedang kita dapatkan ketika sebuah mesin memberikan rekomendasi berdasarkan begitu banyak informasi? Apakah itu pengetahuan? Dan kalau kita menyebutnya pengetahuan, apakah pengetahuan itu dengan sendirinya merupakan kebijaksanaan?”
Dalam dunia informasi dan knowledge management, ada sebuah kerangka yang bisa membantu kita melihat persoalan ini: DIKW -Data, Information, Knowledge, Wisdom.
Secara sederhana, gagasan itu menggambarkan perjalanan dari data menuju informasi, dari informasi menuju pengetahuan, dan kemudian menuju kebijaksanaan.
Kerangka ini lahir jauh sebelum AI menjadi seperti sekarang. Dengan kerangka itu, salah satu persoalan yang mau dijawab adalah bagaimana manusia dan organisasi mengelola begitu banyak informasi agar bisa menghasilkan pengetahuan yang berguna untuk mengambil keputusan.
AI membuat kemampuan mengolah informasi itu menjadi luar biasa besar: membaca dan merangkum informasi dalam jumlah yang sangat besar, menemukan pola, membandingkan berbagai kemungkinan, menyusun analisis, dan memberikan rekomendasi.
Tetapi apakah kemampuan tersebut otomatis membawa kita sampai kepada wisdom?
Sebentar. Apa sebenarnya wisdom?
Kita bisa dengan gampang saja menganggap orang yang punya informasi paling banyak sebagai orang yang paling tahu. Tetapi kita tahu bahwa itu tidak selalu benar. Kita juga tahu bahwa orang yang sangat berpengetahuan belum tentu bijaksana.
AI membuat persoalannya menjadi menarik. AI memang bagus dalam menemukan pola, bisa melihat hubungan yang mungkin tidak kita lihat, membandingkan jutaan contoh, dan memperlihatkan -misal- bahwa pilihan A mempunyai kemungkinan hasil yang lebih baik daripada pilihan B.
Tetapi apakah rekomendasi yang dibangun dari statistik dan pola itu otomatis merupakan wisdom?
Katakanlah AI menunjukkan bahwa pilihan A mempunyai kemungkinan keberhasilan 90 persen. Angka itu bisa sangat berguna. Tetapi angka tersebut tidak dengan sendirinya menjawab pertanyaan: apakah kita seharusnya memilih A?
Sebab pertanyaan “tentang kemungkinan” berbeda dengan pertanyaan “tentang apa yang seharusnya dilakukan”. Yang kedua itu menyangkut tujuan, nilai, risiko, konsekuensi, dan tanggung jawab.
Kalau kebijaksanaan berarti kemampuan menilai apa yang sebaiknya dilakukan, apakah kemampuan itu cukup diperoleh dengan menemukan pola dari data?
Kalau wisdom membutuhkan pengalaman, pemahaman terhadap konteks, kemampuan mempertimbangkan nilai, atau kesediaan menanggung konsekuensi keputusan, apakah mesin yang tidak menjalani pengalaman seperti manusia berada dalam posisi yang sama untuk memilikinya?
Yang perlu kita hindari adalah lompatan sederhana seperti ini: karena AI bisa menghasilkan jawaban yang terdengar bijaksana, kita menganggap AI sudah memiliki wisdom. Kemampuan menghasilkan sesuatu yang tampak seperti kebijaksanaan tidak otomatis membuktikan bahwa mesin memiliki kebijaksanaan.
Masalahnya, semakin bagus AI, semakin mudah kita melakukan lompatan itu.
Mula-mula kita meminta AI mencari informasi. Kemudian permintaan kita jadi bertambah: meminta merangkumnya, menganalisisnya, dan kemudian memberikan rekomendasi. Suatu saat kita boleh jadi berkata, “Kalau AI sudah menganalisis semuanya, kenapa tidak biarkan AI yang menentukan?”
Nah, di sinilah kita perlu berhenti sebentar sebelum terlalu jauh mempercayai AI.
Bukan untuk menolak AI. Bukan juga karena manusia selalu lebih pintar daripada mesin. Melainkan untuk mengingatkan bahwa ada perbedaan antara AI mampu memberikan rekomendasi dan AI seharusnya mengambil keputusan. Terutama ketika keputusan itu menyangkut hidup manusia, keselamatan, keadilan, masa depan, atau nasib orang lain.
