Chuzhou, APGtimes.com – Seorang petani berusia 67 tahun di Chuzhou, China, kehilangan seluruh tanaman wijen di lahan seluas 10 hektare setelah mengikuti rekomendasi chatbot AI untuk mengatasi gulma dan hama.
Petani bernama Wu tersebut telah menggunakan aplikasi AI untuk membantu aktivitas pertanian selama sekitar satu tahun. Awalnya ia meragukan kemampuan chatbot, tetapi kepercayaannya meningkat setelah beberapa rekomendasi AI sebelumnya membantu pekerjaannya.
Lambat laun, Wu menganggap chatbot tersebut memiliki pengetahuan yang sangat luas dan sulit melakukan kesalahan. Namun, keyakinan itu justru membawa kerugian besar ketika ia menghadapi serangan gulma dan hama di lahannya.
Petani Ikuti Resep Pestisida dari AI
Wu kemudian meminta chatbot AI memberikan rekomendasi campuran pestisida untuk mengatasi gulma dan hama.
Chatbot memberikan instruksi lengkap mengenai bahan kimia dan takaran yang perlu digunakan. Wu kemudian mengikuti rekomendasi tersebut tanpa terlebih dahulu berkonsultasi dengan penyuluh atau ahli pertanian.
Setelah mencampurkan bahan sesuai petunjuk chatbot, Wu menyemprotkan cairan tersebut ke seluruh lahan seluas 10 hektare.
Namun, hasilnya justru berujung petaka. Sehari setelah penyemprotan, bukan hanya gulma yang mati. Tanaman wijen milik Wu juga ikut rusak dan mati.
Laporan tersebut pertama kali mendapat perhatian setelah media Taiwan CTWANT memberitakan kejadian itu.
AI Diduga Memberikan Rekomendasi Berbahaya
Wu kemudian kembali bertanya kepada chatbot mengenai penyebab tanaman wijennya mati. Chatbot menyebut salah satu bahan kimia dalam campuran tersebut sebagai penyebabnya.
Sejumlah ahli pertanian kemudian menjelaskan bahwa bahan tersebut memiliki fungsi sebagai herbisida untuk mengendalikan gulma berdaun lebar di lahan kedelai.
Wijen juga termasuk tanaman berdaun lebar. Karena itu, penggunaan herbisida tersebut tanpa metode aplikasi yang tepat dapat ikut merusak tanaman wijen.
Para ahli juga menilai penggunaan herbisida seharusnya mengikuti aturan penggunaan dan target penyemprotan yang jelas. Penyemprotan ke seluruh lahan tanpa memastikan kecocokan bahan dapat membahayakan tanaman utama.
Wu mengaku chatbot tidak memberikan peringatan mengenai risiko tersebut.
Menariknya, sejumlah pembaca yang mengikuti laporan kejadian itu menduga salah satu nama bahan kimia yang disebut chatbot mungkin merupakan hasil halusinasi AI. Dugaan tersebut muncul karena mereka mempertanyakan keberadaan bahan kimia tersebut.
AI Sudah Sering Menghasilkan Kesalahan
Kasus Wu bukan satu-satunya contoh ketika pengguna mengalami kerugian setelah mempercayai AI tanpa melakukan verifikasi.
Sebelumnya, sejumlah pengguna melaporkan kejadian ketika agen AI melakukan tindakan yang tidak sesuai dengan perintah. Beberapa kasus bahkan menimbulkan kerugian pada data dan keuangan.
Salah satu kasus melibatkan seorang programmer yang kehilangan direktori profil setelah model AI melakukan kesalahan ketika menjalankan proses pencadangan.
Kasus lain juga terjadi pada seorang pejabat di bidang AI Meta yang harus menghentikan agen AI untuk mencegah sistem tersebut menghapus seluruh kotak masuk email.
Selain itu, sebuah perusahaan pernah mengeluarkan biaya hingga 1,8 juta dollar AS setelah menggunakan Claude untuk pekerjaan coding sederhana.
Kasus petani di China memiliki dampak yang berbeda. Kesalahan rekomendasi AI tersebut tidak hanya menyangkut data atau uang, tetapi juga berdampak langsung pada tanaman dan mata pencaharian petani.
Peristiwa ini menjadi pengingat bahwa pengguna tetap perlu memeriksa informasi dari chatbot, terutama ketika menyangkut bahan kimia, kesehatan, keselamatan, pertanian, atau keputusan yang dapat menimbulkan dampak nyata. (rn*)
