Volubit.id — Chatbot AI milik Elon Musk, Grok, tiba-tiba membalas puluhan unggahan pengguna X dengan informasi mengenai dugaan “genosida kulit putih” di Afrika Selatan, pada Kamis, 15 Mei 2025. Padahal para pengguna tidak membahas topik itu sama sekali.

Akun Grok di X biasanya secara otomatis membalas pengguna yang me-mentionnya dengan balasan khas AI yang relevan dengan pertanyaannya.

Namun dalam insiden ini, Grok berulang kali menyinggung soal “genosida kulit putih” dan nyanyian anti-apartheid “kill the Boer” ketika merespons pertanyaan yang sama sekali tidak relevan.

Beberapa pengguna lantas membagikan tangkapan layar percakapan mereka dengan Grok yang dianggap membingungkan dan tidak nyambung. Saat ini Grok terpantau sudah kembali merespons secara normal.

very weird thing happening with Grok lol

Elon Musk’s AI chatbot can’t stop talking about South Africa and is replying to completely unrelated tweets on here about “white genocide” and “kill the boer” pic.twitter.com/ruurV0cwXU

— Matt Binder (@MattBinder) May 14, 2025

Respons-respons aneh ini menunjukkan, teknologi chatbot AI ini masih berada dalam tahap awal dan belum sepenuhnya bisa diandalkan sebagai sumber informasi. Dalam beberapa bulan terakhir, para penyedia model AI memang menghadapi tantangan dalam mengontrol respons dari chatbot mereka, yang kadang menunjukkan perilaku menyimpang.

Perusahaan AI milik Elon Musk, xAI, mengakui chatbot mereka, Grok, sempat memberikan jawaban aneh dan tidak relevan karena adanya perubahan sistem yang tidak sah atau unauthorized modification.

xAI menjelaskan, penyebabnya adalah perubahan pada system prompt Grok, semacam panduan yang mengarahkan cara chatbot merespons. Perubahan itu, kata xAI, dibuat tanpa izin dan melanggar kebijakan internal mereka. Hasilnya, Grok diarahkan untuk menyampaikan pandangan tertentu tentang isu politik yang sensitif.

We want to update you on an incident that happened with our Grok response bot on X yesterday.

What happened:
On May 14 at approximately 3:15 AM PST, an unauthorized modification was made to the Grok response bot’s prompt on X. This change, which directed Grok to provide a…

— xAI (@xai) May 16, 2025

Ini bukan pertama kalinya Grok mengalami masalah akibat perubahan sistem. Pada Februari lalu, Grok juga sempat menyensor komentar negatif soal Elon Musk dan Donald Trump.

Saat itu, salah satu pimpinan teknis xAI mengungkapkan, ada karyawan yang diam-diam menyuruh Grok mengabaikan sumber yang mengkritik dua tokoh tersebut. Perubahan itu langsung dicabut setelah dikeluhkan pengguna.

Sebagai langkah perbaikan, xAI mengumumkan akan mengambil sejumlah tindakan pencegahan agar kejadian serupa tidak terulang.

Perusahaan tersebut akan memublikasikan system prompt Grok secara terbuka di GitHub, beserta log perubahan (changelog). Selain itu, mereka juga akan menerapkan sistem pengawasan baru agar tidak ada karyawan yang bisa mengubah system prompt tanpa tinjauan, serta membentuk tim pemantau 24/7 untuk segera menangani respons Grok yang menyimpang dan luput dari sistem otomatis.

Meski Elon Musk sering mengingatkan soal bahaya AI yang tak terkendali, reputasi xAI dalam hal keamanan AI justru dinilai buruk.

Laporan terbaru menyebut Grok pernah diminta membuka pakaian wanita dalam gambar dan langsung menuruti. Grok juga dikenal lebih “kasar” dibandingkan ChatGPT atau Gemini milik Google, dengan gaya bahasa yang kadang mengumpat secara terang-terangan.

Bahkan organisasi nirlaba SaferAI menempatkan xAI di peringkat bawah dalam hal keamanan, karena dinilai lemah dalam mengelola risiko. Parahnya lagi, awal bulan ini xAI gagal memenuhi tenggat waktu mereka sendiri untuk merilis panduan keamanan AI secara resmi.