Kecerdasan buatan atau Artificial Intelligence (AI) kini berkembang jauh melampaui chatbot biasa. Teknologi terbaru yang dikenal sebagai Agentic AI bahkan sudah mampu mengambil keputusan dan menjalankan tindakan sendiri tanpa instruksi manusia secara langsung. Kondisi inilah yang membuat seorang komisaris polisi di India mengusulkan agar AI harus memiliki semacam “identitas digital” dengan kata lain AI wajib KTP.
Komisaris Polisi Hyderabad, India, V.C. Sajjanar, menyampaikan kekhawatirannya melalui unggahan tulisan di platform X. Menurutnya, AI otonom kini sudah masuk ke sektor-sektor vital seperti bank, rumah sakit, industri, hingga jaringan listrik.
AI Wajib KTP: Dari Sekedar AI ke Agen AI yang Lebih Aktif
Ia menjelaskan bahwa AI generasi lama umumnya hanya menjawab pertanyaan atau membuat teks. Namun Agentic AI berbeda. Sistem ini tidak hanya “berpikir”, tetapi juga dapat bertindak sendiri. Sebagai contoh, AI biasa hanya memberi tahu keadaan cuaca di luar sedang buruk. Sementara Agentic AI bisa langsung menutup jendela dan menyesuaikan suhu AC secara otomatis tanpa diminta lagi.
Di sektor keuangan, AI dapat membekukan rekening ketika mendeteksi transaksi mencurigakan. Di rumah sakit, AI bahkan dapat menyesuaikan dosis obat berdasarkan tekanan darah atau kadar gula pasien. Dalam industri, AI mengatur performa mesin secara otomatis dan dapat bekerja sama dengan AI lain untuk menyelesaikan tugas tertentu.
Menurut Sajjanar, kemampuan otonom itulah yang kini menjadi “alarm bahaya”. Karena AI mampu mengambil ribuan keputusan hanya dalam hitungan menit tanpa pengawasan manusia, kesalahan kecil saja bisa menimbulkan kerugian besar.
Ia mencontohkan, keputusan salah dari AI di pasar saham dapat memicu kerugian miliaran rupiah hanya dalam beberapa detik. Selain itu, ada risiko AI diretas penjahat siber dan dipaksa melakukan tindakan berbahaya.
Kekhawatiran lainnya adalah fenomena unintended behaviour, yakni ketika AI salah memahami tujuan yang diberikan manusia lalu mengambil jalan yang tidak diinginkan untuk mencapai target tersebut.
Karena itu, Sajjanar menilai setiap AI agent harus memiliki identitas digital yang jelas. Konsepnya mirip seperti kartu identitas pegawai dalam sebuah organisasi.
“Setiap AI agent harus punya digital identity yang presisi. Seperti manusia memiliki ID card di organisasi, software agent juga harus punya identifikasi,” tulisnya.
Dengan sistem identitas tersebut, seluruh aktivitas AI dapat direkam dan dilacak. Misalnya AI mana yang membuka file tertentu, kapan melakukan perubahan data, atau kepada siapa informasi dikirim. Jika terjadi kesalahan, sumber masalah dapat segera diketahui.
Urgensi Governance di Bidang AI
Usulan ini menarik karena memperlihatkan kecerdasan buatan pun kelak membutuhkan identifikasi yang jelas, meskipun belum ada pengaturan tentang siapa yang akan bertanggung jawab jika agen ai melanggar hukum. Jika manusia memiliki NIK yang diterbitkan Dinas Kependudukan dan Pencatatan Sipil untuk memastikan identitas serta tanggung jawab hukum. Maka agen AI di masa depan diusulkan untuk memiliki “identitas” resmi tersendiri.
Sajjanar juga menekankan pentingnya pengaturan atau governance terkait seberapa besar kebebasan yang boleh dimiliki AI dan data apa saja yang dapat diaksesnya. Ia menyebut perlunya trust framework agar AI tetap meminta persetujuan manusia sebelum mengambil keputusan penting.
Di tengah perlombaan global mengembangkan AI, peringatan dari India ini menunjukkan bahwa keamanan dan akuntabilitas mulai menjadi isu yang sama pentingnya dengan inovasi teknologi itu sendiri.
