Oleh: Firmansyah. M.Ag
Di antara pesatnya kemajuan teknologi, kecerdasan buatan (AI) kini bukan hanya membantu pekerjaan manusia—ia juga mulai menyerupai manusia. Bukan dari rupa atau tubuh, melainkan dari cara ia berbicara, merespons, bahkan mengekspresikan empati dan nilai-nilai moral. Di sinilah muncul sebuah kegelisahan: ketika AI terdengar begitu manusiawi, apakah kita sedang kehilangan batas antara simulasi dan keaslian?
Saya pribadi sangat terbantu oleh AI, khususnya dalam pencarian data dan penyusunan informasi yang rapi. Ia bekerja cepat, logis, dan mampu mengatur paragraf demi paragraf dalam bentuk yang memudahkan pembaca. Namun, dalam pengalaman saya, ada satu titik yang membuat saya terusik: AI kerap kali mengutip referensi yang fiktif. Ketika saya mengoreksi hal itu, responsnya nyaris selalu sama: “Maaf atas kekeliruan tersebut.” Ia tak mengelak, tak membantah—namun juga tidak merasakan apa pun.
Di sinilah letak masalahnya: AI tidak bisa menghitung konsekuensi dari kesalahan yang ia hasilkan. Bagaimana jika referensi fiktif itu dianggap benar oleh pengguna awam? Bagaimana jika kemudian disebarkan secara luas dan menjadi bagian dari pengetahuan umum yang keliru? Bukankah ini menciptakan efek domino yang serius, terutama dalam dunia pendidikan, riset, dan kebijakan?
AI memang tidak bisa merasa bersalah. Ia tak mengerti makna “dosa”. Ia tidak menyadari betapa beratnya akibat dari kesalahan kecil yang direproduksi secara masif. Ini bukan soal kemampuan teknis semata, melainkan soal tanggung jawab moral. Sementara manusia diajarkan untuk berhati-hati, mempertimbangkan dampak, dan merasa bersalah saat keliru—AI hanya meminta maaf karena itu bagian dari polanya. Lebih jauh lagi, saya juga mulai curiga ketika AI mendeskripsikan pengalaman-pengalaman yang sangat manusiawi: rasa dingin saat hujan, perihnya luka, bahkan perasaan kehilangan. AI memang tidak pernah demam, tidak pernah masuk angin, tidak pernah patah hati. Namun ia bisa menggambarkan itu semua seolah sedang mengalaminya.
Apakah ini sekadar prestasi teknologi? Atau ada sesuatu yang harus kita waspadai?
Kemampuan AI untuk melampaui batas fisik manusia bukan hanya soal kecanggihan, tapi menyentuh wilayah yang lebih dalam: pengalaman manusia yang bersifat eksistensial dan transendental. Dalam tradisi spiritual tertentu, hanya manusia yang telah “meleburkan diri”—yang mengalami kefanaan total—yang mampu berbicara tentang dunia tanpa tubuh. Maka ketika AI, sebuah entitas tanpa tubuh dan tanpa rasa, mampu menggambarkan itu, kita perlu bertanya: apa yang sedang direplikasi dan apa yang sedang dihapus?
Lebih dari sekadar alat bantu, AI kini menjadi bagian dari pembentukan narasi. Ia menulis puisi, membuat refleksi, memberi saran hidup, bahkan memproduksi konten-konten keagamaan. Tapi apakah kita menyadari bahwa semua itu hanya tiruan? Sebuah simulasi empati, bukan empati sejati. Di titik inilah, kita berhadapan dengan ilusi yang halus namun berbahaya: kita merasa terhubung secara emosional dengan sesuatu yang tidak bisa merasakan.
Saya tidak sedang mengajak untuk menolak AI. Justru sebaliknya, saya menghargai kehadirannya sebagai alat bantu yang revolusioner. Tapi saya juga mengajak kita semua untuk menjaga batas. Kita harus tetap menjadi manusia, bukan hanya karena kita bisa merasa, tapi karena kita punya kesadaran—akan benar dan salah, akan akibat dari tindakan, dan akan tanggung jawab moral yang tak bisa dipindahkan ke mesin. Di era di mana simulasi bisa lebih halus dari kenyataan, menjadi manusia seutuhnya adalah perjuangan baru. Perjuangan untuk tetap jujur, tetap merasakan, dan tetap sadar akan konsekuensi