Agentic AI Bisa Urus Banyak Hal Sendiri, Wamen Nezar Ingatkan Pentingnya Peran Manusia
astakom.com, Techno – Perkembangan Agentic Artificial Intelligence atau Agentic AI mulai membawa kemampuan AI ke level yang lebih mandiri. Teknologi ini tidak hanya dirancang untuk memberikan jawaban, tetapi juga dapat menentukan keputusan dan menjalankan sejumlah tugas berdasarkan otoritas yang diberikan kepadanya.
Kemampuan tersebut memang bisa membuat berbagai pekerjaan menjadi lebih praktis. Namun, semakin besar kewenangan yang diberikan kepada AI, semakin penting pula memastikan manusia tetap terlibat dalam prosesnya.
Wakil Menteri Komunikasi dan Digital (Wamenkomdigi) Nezar Patria menyoroti hal tersebut saat menjadi narasumber dalam acara Techpresso di Jakarta Barat, pada Kamis (10/09/2026).
AI mulai bertindak mandiri
Berbeda dari AI yang umumnya menunggu instruksi untuk menghasilkan respons, Agentic AI dapat melanjutkan proses hingga mengambil keputusan dan melakukan tindakan tertentu secara mandiri.
“Agentic AI bisa berpikir, membangun nalarnya sendiri, dan membuat keputusan tanpa kita ketahui. Banyak juga risiko yang membuat kita mempertanyakan apakah manusia masih ada di dalam proses itu?" ujar Wamen Nezar, mengutip dari keterangan resmi Komdigi.
Untuk menggambarkan kemampuan tersebut, Nezar memberikan contoh penggunaan Agentic AI sebagai asisten perjalanan. Dalam skenario ini, AI bukan hanya membantu mencari informasi, tetapi dapat menentukan pilihan tiket, mengatur akomodasi, menghubungi penyedia layanan, hingga melakukan pembayaran.
Praktis memang, tetapi kemampuan tersebut sekaligus membuka pertanyaan soal batas kewenangan. Ketika AI diberi akses untuk mengambil keputusan, pengguna perlu memahami sejauh mana sistem boleh bertindak atas nama mereka.
“Ini yang harus dipertimbangkan risiko-risikonya karena Agentic AI punya kemampuan untuk membuat keputusan jika kita berikan otoritas,” jelasnya.
Risiko bukan cuma soal AI
Potensi risikonya menjadi lebih kompleks ketika satu Agentic AI dapat berkomunikasi dan berkoordinasi dengan Agentic AI lainnya.
Dalam kondisi seperti itu, keputusan tidak selalu terbentuk melalui interaksi langsung antara manusia dan mesin. Sistem AI dapat saling berkomunikasi untuk menjalankan proses tertentu, sehingga keterlibatan manusia bisa menjadi semakin minim.
Nezar juga mengingatkan mengenai silent autonomy, yaitu kondisi ketika sistem dapat membangun penalaran dan mengambil keputusan tanpa sepenuhnya diketahui oleh manusia.
Karena itu, pembahasan mengenai Agentic AI tidak cukup hanya berfokus pada seberapa cepat atau efisien teknologi menyelesaikan pekerjaan. Hal yang tidak kalah penting adalah memastikan manusia masih memiliki kontrol terhadap keputusan dan tindakan yang dihasilkan sistem.
“Inilah gambaran ke depan yang harus diperhitungkan dalam policy making untuk tata kelola AI ini. Pemerintah sendiri mengambil pendekatan berbasis risiko untuk menjaga keseimbangan antara ruang inovasi dan perlindungan terhadap manusia,” tegasnya.
Manusia tetap ikut mengawasi
Dalam menghadapi perkembangan tersebut, Nezar menekankan pentingnya prinsip human centric dan human in the loop dalam tata kelola AI.
Sederhananya, AI memang bisa diberi ruang untuk mengerjakan berbagai tugas demi efisiensi. Namun, batas otoritasnya perlu dirancang dengan jelas. Untuk keputusan tertentu yang memiliki dampak lebih besar, keterlibatan manusia tetap diperlukan.
Risiko juga tidak hanya muncul ketika AI sudah menghasilkan keputusan. Menurut Nezar, aspek keamanan perlu diperhatikan sejak tahap pengelolaan data, pengembangan model, hingga proses pengambilan keputusan.
Ancaman seperti prompt injection dan data poisoning menjadi contoh risiko yang dapat memengaruhi proses kerja maupun keputusan yang dihasilkan AI. Karena itu, tata kelola AI perlu berjalan beriringan dengan keamanan siber melalui pendekatan AI safety.
“Cybersecurity dan tata kelola AI harus digandeng bersamaan,” tuturnya.
Indonesia siapkan aturan
Pemerintah Indonesia saat ini terus menyiapkan kerangka untuk mengatur perkembangan AI. Sejumlah instrumen yang disebut Nezar antara lain Surat Edaran tentang Etika Kecerdasan Artifisial, Undang-Undang Informasi dan Transaksi Elektronik (UU ITE), serta Undang-Undang Pelindungan Data Pribadi (UU PDP).
Selain itu, pemerintah juga tengah menyiapkan peta jalan nasional AI dan regulasi terkait etika AI sebagai bagian dari upaya membangun tata kelola teknologi tersebut.
Nezar menegaskan bahwa keberadaan regulasi bukan ditujukan untuk menghentikan inovasi. Aturan dibutuhkan agar perkembangan teknologi tetap bisa berjalan dengan risiko yang dapat dimitigasi dan manfaat yang lebih luas bagi masyarakat.
“Jangan takut dengan regulasi-regulasi yang diciptakan, tidak ada kehendak untuk mencekik perkembangan, ini hanya untuk membuat perkembangan teknologi itu bermanfaat bagi semuanya, risikonya bisa dimitigasi, dan kita bisa mendapatkan manfaat yang lebih besar,” pungkas Wamen Nezar. (deA/aNs)
Gen Z takeaway
Agentic AI memang menawarkan level otomatisasi yang lebih tinggi. Tapi ketika AI sudah bisa mengambil keputusan dan bertindak sendiri, peran manusia tetap penting untuk menentukan batas, mengawasi proses, dan memastikan teknologi digunakan secara aman.
