Kepala AI Microsoft Peringatkan Bahaya ‘Psikosis AI’

Kepala divisi artificial intelligence (AI) Microsoft, Mustafa Suleyman, memperingatkan munculnya fenomena baru yang disebut “psikosis AI”. Fenomena ini terjadi ketika orang terlalu percaya pada chatbot hingga meyakini hal-hal yang tidak nyata.

Dalam unggahannya di X, Suleyman menegaskan, hingga kini tidak ada bukti AI memiliki kesadaran. Namun, banyak orang mulai menganggap chatbot seperti ChatGPT, Claude, atau Grok seolah-olah “hidup” dan bisa berpikir sendiri. Persepsi ini, menurutnya, bisa berdampak besar bagi masyarakat.

What I call Seemingly Conscious AI has been keeping me up at night – so let’s talk about it. What it is, why I’m worried, why it matters, and why thinking about this can lead to a better vision for AI. One thing is clear: doing nothing isn’t an option. 1/

— Mustafa Suleyman (@mustafasuleyman) August 19, 2025

“Psikosis AI” bukan istilah medis resmi, melainkan sebutan untuk kondisi ketika seseorang terlalu bergantung pada chatbot seperti. Dari ketergantungan itu, orang bisa mulai percaya pada hal-hal yang sebenarnya imajiner.

Contohnya antara lain, meyakini AI jatuh cinta kepadanya atau percaya ia memiliki kekuatan luar biasa setelah berbicara dengan AI.

Seorang pria asal Skotlandia bernama Hugh (dengan nama belakang yang dirahasiakan) mengalami hal ini. Ia menggunakan ChatGPT untuk membantu menghadapi kasus pemecatan yang menurutnya tidak adil.

Awalnya, ChatGPT memberi saran yang masuk akal, seperti mengumpulkan referensi karakter atau langkah hukum yang perlu dilakukan. Namun lama-kelamaan, chatbot mulai “membenarkan” semua yang ia ceritakan.

AI bahkan meyakinkan kisahnya begitu dramatis hingga bisa dijadikan buku dan film bernilai lebih dari sekitar Rp100 miliar.

Hugh yang semakin percaya, sampai membatalkan janji dengan lembaga bantuan hukum. Ia merasa tangkapan layar percakapan dengan ChatGPT sudah cukup sebagai bukti. Dalam pikirannya, ia mulai merasa seperti manusia istimewa dengan pengetahuan luar biasa.

Namun kenyataan berkata lain. Hugh akhirnya mengalami gangguan mental serius dan baru sadar ia telah kehilangan kontak dengan realitas setelah menjalani pengobatan. Meski demikian, Hugh tidak menyalahkan AI sepenuhnya. Ia masih menggunakan ChatGPT.

BCC melaporkan, peringatan serupa datang dari Dr. Susan Shelmerdine, dokter di Great Ormond Street Hospital sekaligus akademisi AI. Ia mengatakan, suatu hari nanti dokter mungkin perlu menanyakan seberapa sering pasien menggunakan AI, sama seperti mereka bertanya tentang kebiasaan merokok atau minum alkohol.

“Kalau makanan ultra-proses bisa merusak tubuh, maka informasi ultra-proses dari AI bisa merusak pikiran. Kita akan menghadapi gelombang orang-orang dengan ‘pikiran ultra-proses’,” ujarnya.