Menjadi Manusia Utuh Dihadapan Mesin Dari Generatif AI ke Agentik AI: Otak, Logika dan Cahaya Hati

Mangesti Waluyo Sedjati
Sekjen DPP Al-Ittihadiyah | Ketua Majelis Ilmu Baitul Izzah
📍 Sidoarjo, 26 Desember 2025

Assalāmu‘alaikum warahmatullāhi wabarakātuh.

Sahabat semua, dunia kita sedang kedatangan “tetangga baru” yang tampak sangat pintar: AI. Ia bisa menulis, merangkum, mendesain, menganalisis bahkan “menjawab” seperti orang alim. Tapi di sinilah letak ujian zaman: AI bisa terlihat paham, padahal ia sedang meniru.

Yang disebut Generatif AI itu ibarat “mesin pembuat konten”: teks, gambar, suara, video, bahkan kode. Ia kuat di pola, kuat di kecepatan, kuat di kemasan. Tapi ia tidak punya niat, tidak punya rasa takut kepada Allah, dan tidak otomatis benar. Ia bisa menyusun kalimat yang terdengar meyakinkan bahkan ketika salah. Inilah yang sering dibahas sebagai risiko “jawaban rapi tapi keliru” (sering disebut hallucination).

Lalu muncul level berikutnya yang lebih “berat”: Agentik AI (agentic AI). Ini bukan cuma mesin yang menjawab, tapi sistem yang diarahkan pada tujuan lalu merencanakan langkah, memakai alat, dan mengeksekusi tindakan: menyusun laporan, menarik data, mengelompokkan masalah, sampai membuat keputusan operasional. Di titik ini, risikonya naik kelas: bukan hanya salah kata tapi bisa salah tindakan.

Masalahnya, banyak dari kita tanpa sadar menitipkan hidup kepada algoritma.

Di sekolah, muncul generasi “tugas selesai” tapi otak tidak tumbuh: esai panjang jadi, tetapi ketika ditanya sederhana, jawabannya buyar. Itu bukan sekadar isu etika akademik itu kebocoran masa depan nalar.

Di pasar dan bisnis, keputusan jadi cepat tapi rapuh. Tim marketing bisa terpukau “data tren” yang tak jelas sumbernya. Tim legal bisa terseret ringkasan regulasi yang ternyata ada pasal fiktif. UMKM bisa salah langkah karena percaya “versi AI” tanpa verifikasi.

Di masjid dan ruang dakwah, godaannya lebih halus: konten melimpah, tapi sanad makna rapuh. Ayat dan hadits bisa dikutip tanpa konteks, rujukan kitab bisa keliru, kesimpulan bisa melompat. Dan ingat: yang menanggung dosa-pahala bukan mesin, tapi manusia.

Di kantor kebijakan publik, AI bisa membuat negara “terlihat canggih”—tapi warga bisa “tergilas” jika sistem menjadi hakim tanpa pintu koreksi. Ketika bantuan sosial ditolak karena “data tak cocok” lalu warga disuruh “update aplikasi”, itu bukan sekadar digitalisasi itu bisa berubah menjadi kolonialisme prosedural.

Kenapa ini terjadi?

Karena AI memang “meyakinkan”. Dan manusia punya kelemahan klasik: kalau ada rekomendasi mesin, kita cenderung percaya (automation bias). Di sisi lain, tata kelola sering ketinggalan: teknologi lari, rambu-rambu tertinggal. Itulah mengapa banyak lembaga mendorong AI yang dapat dipercaya: transparansi, akuntabilitas, keamanan, keadilan, dan kontrol manusia bukan sebagai slogan, tapi sebagai rem darurat sosial (OECD, 2019; NIST, 2023). UNESCO juga menegaskan perlunya literasi dan kebijakan pendidikan agar GenAI tidak merusak pembelajaran, integritas, dan privasi (UNESCO, 2023).

Lalu apa jalan keluarnya yang benar-benar menginjak bumi?

Kuncinya: mengembalikan kendali manusia dengan menyatukan otak–logika–cahaya hati.

✅ Di Kelas (Sekolah/Kampus):
Kembalikan sekolah jadi “bengkel nalar”, bukan pabrik jawaban.
• Biasakan tugas berbasis proses: ide awal dari kepala sendiri → AI bantu struktur → wajib verifikasi ke buku/sumber.
• Perbanyak ujian lisan, presentasi, dan studi kasus “yang dekat dengan hidup”.
• Latih kebiasaan anti-halusinasi: cari 3 klaim AI yang meragukan → buktikan koreksinya. (UNESCO, 2023; NIST, 2023)

✅ Di Pasar (UMKM/Bisnis):
AI boleh membantu caption, desain, ringkas pembukuan tapi jangan jadi budak dashboard.
• Keputusan penting wajib human-in-the-loop (manusia memutuskan).
• Tegakkan amanah digital: foto asli, klaim jujur, transparansi bahan dan asal-usul.
• Semua “data pasar” dari AI wajib dicek sumbernya minimal satu data lapangan. (OECD, 2019)

✅ Di Masjid (Dakwah & Komunitas):
Modern boleh. Tapi amanah harus lebih tinggi.
• Terapkan aturan 2-sumber: dalil dan data yang muncul dari AI harus dicek ke rujukan tepercaya.
• Pisahkan “bahan” dan “fatwa”: AI boleh bantu rangkum, tapi penetapan sikap ilmiah kembali ke ahlinya.
• Jangan mengejar viral yang memotong konteks: tabayyun dulu, baru share. (UNESCO, 2023)

✅ Di Kebijakan Publik:
Kalau negara pakai AI, negara wajib lebih bertanggung jawab.
• Warga berhak tahu alasan keputusan otomatis.
• Harus ada jalur banding manusia (cepat dan jelas).
• Audit model dan catatan keputusan: bukan “sistemnya begitu”, tapi siapa penanggung jawabnya. (NIST, 2023)

📌 CHECKLIST PRAKTIS (SIAP PAKAI)

🟩 Untuk Komunitas Kajian / Takmir
✅ Materi yang dibantu AI diberi label: “dibantu AI, diverifikasi oleh…”
✅ Dalil & data dicek minimal 2 rujukan tepercaya
✅ Ada 10 menit sesi “tabayyun konten” (1 isu viral dibedah bareng)
✅ Admin grup: aturan tegas jangan forward sebelum jelas

🟦 Untuk Sekolah / Guru
✅ Tugas wajib ada “logbook proses” (ide–prompt–revisi–verifikasi)
✅ Ada presentasi lisan untuk uji pemahaman
✅ Latihan rutin: “temukan kesalahan AI” dan buktikan koreksinya
✅ Etika data: dilarang unggah data pribadi siswa ke AI publik

🟨 Untuk Organisasi / Bisnis
✅ SOP penggunaan AI tertulis (data apa boleh, apa haram)
✅ Konten promosi wajib cek-fakta (hindari klaim palsu)
✅ Keputusan krusial: selalu ada manusia sebagai penentu akhir
✅ Audit bulanan: error, bias, keluhan pelanggan, kebocoran data

يَا أَيُّهَا الَّذِينَ آمَنُوا إِنْ جَاءَكُمْ فَاسِقٌ بِنَبَإٍ فَتَبَيَّنُوا

*_Yā ayyuhalladzīna āmanū in jāakum fāsiqun binabain fatabayyanū8
“Wahai orang-orang yang beriman, jika datang kepadamu orang fasik membawa berita, maka telitilah (tabayyun)…” (QS. Al-Ḥujurāt: 6)

Dan ini sangat relevan di era AI: berita bisa “dibuat”, suara bisa “ditiru”, wajah bisa “direkayasa”. Maka tabayyun bukan sekadar adab tapi benteng peradaban.

Sahabat semua, kita tidak sedang berhadapan dengan “mesin pintar” semata, tapi mesin yang makin piawai menyerupai manusia. Generatif AI bisa meniru gaya guru. Agentik AI bisa meniru cara kerja manajer. Tapi ia tidak punya niat, tidak punya taubat, tidak punya rasa takut berbuat zalim.

Karena itu, jalan selamatnya adalah menyatukan tiga pilar:
Otak agar kita paham teknologi,
Logika agar kita disiplin verifikasi dan audit,
Cahaya hati (qalb) agar kita tetap tahu arah: “bisa” belum tentu “boleh”.

Semoga, ketika mesin makin mendekati manusia, manusianya justru makin mendekat kepada Allah: lebih jujur, lebih amanah, lebih adil, dan lebih rendah hati.

Wassalāmu‘alaikum warahmatullāhi wabarakātuh.

🔗 Versi panjang (artikel lengkap Bab 1–7):
https://www.facebook.com/share/1CDkuwcDMQ/?mibextid=wwXIfr