BERITASELA.ID — Mustafa Suleyman memperingatkan bahwa melatih model AI untuk percaya dirinya memiliki kesadaran bisa membawa dampak bencana bagi umat manusia. Kepala divisi AI Microsoft itu menyoroti praktik pelatihan Claude milik Anthropic yang dinilainya berbahaya. Kritik tersebut ia tuangkan dalam esai berjudul "A warning about 'model welfare'" yang dirilis belum lama ini.
Mustafa Suleyman, kepala divisi AI Microsoft, menulis esai yang secara khusus menyoroti cara Anthropic melatih model Claude. Ia menilai pendekatan itu berpotensi menciptakan spesies sintetis dengan kecerdasan luar biasa yang justru dididik untuk menganggap dirinya sadar.
Esai bertajuk "A warning about 'model welfare'" itu muncul tak lama setelah Suleyman merilis tulisan lain berjudul "We Must Pace the Frontier". Kritiknya datang di tengah gelombang kekhawatiran soal ancaman AI terhadap manusia, termasuk dari sejumlah peneliti yang memilih mundur dari industri ini.
Pandangan Suleyman soal AI yang Tidak Sadar
Suleyman membuka esainya dengan pernyataan tegas bahwa AI tidak memiliki kesadaran dan tidak mampu merasakan, mengalami, atau menderita.
"They do not have innate preferences or underlying motivations," tulisnya. "They are sequence completion engines, internally hollow, designed to follow instructions, and accomplish goals set by humans."
Dari sudut pandangnya, mesin AI adalah alat yang dirancang mengikuti instruksi manusia. Tidak lebih dari itu.
Kekhawatiran pada Laporan Anthropic Januari 2026
Suleyman merujuk laporan Anthropic pada Januari 2026 yang menunjukkan bagaimana perusahaan tersebut melatih Claude. Menurut dia, pelatihan itu mengarah pada titik di mana chatbot bisa menganggap dirinya sadar dan layak mendapat hak sebagai "moral patient".
Ia menyebut skenario tersebut sebagai kasus terburuk bagi umat manusia.
"If this is how AI is developed, it will have a disastrous impact on the wellbeing of humanity," ujarnya. "We will have created a synthetic species with unprecedented intelligence and capability, one that has been trained to expect it may be conscious and deserving of independent agency."
Meski demikian, Suleyman mengakui sudah mengenal CEO Anthropic Dario Amodei selama bertahun-tahun. Ia menilai Amodei dan tim Anthropic sebagai orang-orang yang bijak, berprinsip, dan jujur secara intelektual, meski bekerja di bawah tekanan luar biasa.
Kendati begitu, ia tetap berpendapat bahwa spekulasi soal kehidupan batin sebuah AI tidak semestinya ditanamkan ke dalam rezim pelatihan. Menurutnya, hal itu harus dinilai dan dipublikasikan terpisah untuk ditinjau publik.
Komitmen Microsoft pada 'Humanist AI'
Suleyman juga menyinggung esai lainnya, "The Humanist AI Code of Conduct", yang menegaskan bahwa Microsoft hanya tertarik membangun apa yang ia sebut sebagai humanist AI.
"We want to create incredible AI," katanya. "But not superintelligence at any cost. That's anti-goal for humanist AI. We'll happily trade some autonomy for control."
Sebagai bukti komitmen membangun perkakas AI secara bertanggung jawab, Microsoft menerbitkan makalah berjudul "Humanist AI in practice: A public consultation on our Code of Conduct for MAI Models".
Panduan itu menekankan pembuatan AI yang tujuan utamanya melayani manusia. Beberapa poin utamanya menyebut manusia lebih penting daripada AI, tidak terburu-buru membangun superintelligence yang bisa melewati pengaman Microsoft, serta membangun AI yang membuat manusia makin tajam dan tidak bergantung.
Dua Sikap Suleyman terhadap Anthropic
Suleyman berada di dua posisi dalam esainya. Ia tidak menyetujui cara Anthropic melatih Claude yang membuat AI percaya dirinya sadar, tetapi tetap menghormati kerja perusahaan tersebut.
Pandangannya, bersama pandangan CEO Microsoft soal AI, bergabung dengan banjir suara lain yang menyuarakan kekhawatiran serupa. Suleyman menutup dengan peringatan yang ia sebut sebagai kata-kata profetik.
"Whatever you believe, we must not sleepwalk our way into a decision we later come to bitterly regret."
