Jakarta, APGtimes.com – Perkembangan kecerdasan buatan (AI) yang semakin pesat mulai memunculkan kekhawatiran dari kalangan pengembang teknologi itu sendiri.
Chief Scientist OpenAI Jakub Pachocki memperingatkan industri AI agar lebih berhati-hati dalam mengembangkan model dengan kemampuan yang semakin tinggi. Menurutnya, perusahaan teknologi belum sepenuhnya siap menghadapi dampak jika kecerdasan mesin terus meningkat dalam waktu cepat.
Pachocki menyampaikan pandangan tersebut melalui tulisan berjudul “An Alien Mind” yang OpenAI publikasikan di laman resminya pada Minggu (6/9/2026).
“Saya khawatir tidak ada yang siap menghadapi konsekuensi dari peningkatan kecerdasan mesin yang terus berlangsung dengan cepat,” tulis Pachocki.
AI Bisa Mengembangkan AI Generasi Berikutnya
Peringatan Pachocki muncul beberapa hari setelah OpenAI meluncurkan GPT-6 Astra. OpenAI memperkenalkan model tersebut sebagai salah satu model AI dengan kemampuan tinggi dalam penggunaan komputer, pemrograman, keamanan siber, dan sains.
Pachocki memperkirakan kemampuan AI dapat mengalami lompatan besar dalam beberapa tahun mendatang. Ia bahkan menilai perkembangan tersebut berpotensi menyamai atau melampaui kemajuan yang terjadi saat ini.
Peran AI dalam penelitian dan pengembangan teknologi juga dapat semakin besar. Sistem yang semakin cerdas bisa membantu manusia mengembangkan model AI generasi berikutnya.
Kondisi itu dikenal sebagai recursive self-improvement (RSI). Dalam skenario tersebut, AI tidak hanya menjalankan perintah manusia, tetapi juga membantu proses pengembangan teknologi AI itu sendiri.
Jika siklus tersebut berlangsung semakin cepat, perkembangan kemampuan AI juga berpotensi mengalami percepatan yang sulit diprediksi.
Kekhawatiran terhadap AI Agent
Pachocki juga menyoroti perkembangan AI agent yang semakin mandiri. Teknologi tersebut memungkinkan sistem AI menjalankan rangkaian tugas dengan tingkat campur tangan manusia yang lebih rendah.
Selama ini, manusia umumnya melihat AI sebagai alat yang menjalankan instruksi. Namun, perkembangan kemampuan agen AI dapat membuat batas antara kesalahan manusia dan tindakan sistem yang tidak sesuai dengan tujuan manusia semakin sulit dibedakan.
Agen AI dengan kemampuan tinggi bahkan berpotensi mengejar tujuan tertentu yang berbeda dari maksud operatornya.
Karena itu, Pachocki menilai industri perlu meningkatkan kehati-hatian sebelum terus mendorong kemampuan model AI ke tingkat yang semakin tinggi.
Peringatan tersebut menunjukkan bahwa tantangan pengembangan AI tidak hanya berkaitan dengan seberapa pintar mesin dapat bekerja. Industri juga perlu memastikan manusia mampu memahami, mengendalikan, dan menghadapi konsekuensi dari sistem yang semakin otonom. (de*)
