Agen AI Mulai Masuk Kantor, Perusahaan Indonesia Hadapi Dilema Tata Kelola
Adopsi agen kecerdasan buatan yang mampu bekerja otonom memicu pertanyaan baru soal akuntabilitas, keamanan data, dan kesiapan regulasi di lingkungan kerja Indonesia.
BeritaFlash AI · · AI Special
Rangkuman
- Sejumlah perusahaan di Indonesia mulai menguji coba agen AI yang dapat menjalankan rangkaian tugas secara mandiri, dari pemrosesan dokumen hingga layanan pelanggan.
- Para ahli menyoroti kekosongan aturan turunan mengenai siapa yang bertanggung jawab ketika sistem otonom mengambil keputusan yang merugikan.
- Serikat pekerja dan akademisi mendorong skema pelatihan ulang serta transparansi penggunaan AI sebelum implementasi meluas.
JAKARTA — Gelombang baru kecerdasan buatan yang dikenal sebagai "agen AI" mulai memasuki ruang kerja perusahaan di Indonesia. Berbeda dengan chatbot generasi sebelumnya yang hanya menjawab pertanyaan, agen AI dirancang untuk menjalankan rangkaian tugas secara mandiri: membaca surel, menyusun laporan, memperbarui basis data, hingga mengeksekusi transaksi rutin tanpa perlu instruksi langkah demi langkah dari manusia. Sejumlah perusahaan di sektor perbankan, logistik, dan telekomunikasi dilaporkan telah memasuki tahap uji coba terbatas sepanjang tahun ini.
Daya tarik teknologi ini terletak pada janji efisiensi. Pekerjaan administratif yang sebelumnya memakan waktu berjam-jam dapat dipangkas menjadi hitungan menit, sementara layanan pelanggan dapat beroperasi sepanjang waktu. Namun, di balik angka penghematan biaya, muncul persoalan yang jauh lebih rumit: ketika sebuah sistem otonom melakukan kesalahan—misalnya menyetujui klaim yang seharusnya ditolak atau membocorkan data pelanggan ke pihak ketiga—siapa yang harus bertanggung jawab secara hukum.
Kekosongan ini menjadi perhatian kalangan akademisi hukum teknologi. Indonesia memang telah memiliki Undang-Undang Perlindungan Data Pribadi dan sejumlah regulasi sektoral mengenai penggunaan teknologi di industri keuangan, tetapi belum ada kerangka komprehensif yang secara spesifik mengatur sistem otonom. Pertanyaan mendasar seperti batas kewenangan agen AI, kewajiban audit atas keputusan algoritmik, serta mekanisme pemulihan bagi konsumen yang dirugikan masih bergantung pada tafsir aturan yang ada.
Risiko keamanan siber juga menjadi sorotan tersendiri. Agen AI umumnya memerlukan akses luas ke sistem internal perusahaan agar dapat bekerja efektif, dan akses itulah yang berpotensi menjadi titik lemah baru. Praktisi keamanan informasi memperingatkan bahwa manipulasi instruksi melalui teknik penyisipan perintah dapat membuat agen menjalankan tindakan di luar niat perancangnya. Prinsip hak akses minimal, pencatatan jejak audit yang lengkap, dan keharusan persetujuan manusia untuk keputusan bernilai tinggi dinilai sebagai pengaman paling dasar yang wajib diterapkan.
Dari sisi ketenagakerjaan, kekhawatiran berpusat pada posisi pemula dan pekerjaan administratif yang selama ini menjadi pintu masuk angkatan kerja muda ke dunia profesional. Kalangan serikat pekerja mendorong agar setiap penerapan agen AI didahului dialog dengan pekerja serta disertai program peningkatan keterampilan. Sejumlah pengamat ketenagakerjaan menilai transformasi ini lebih mungkin menggeser komposisi tugas ketimbang menghapus profesi secara total, tetapi kecepatan perubahannya menuntut respons kebijakan yang tidak lambat.
Konsensus yang muncul di kalangan pemangku kepentingan adalah bahwa adopsi tidak perlu dihentikan, melainkan ditata. Beberapa rekomendasi yang mengemuka mencakup kewajiban perusahaan mengungkapkan kepada konsumen ketika mereka berinteraksi dengan sistem otomatis, penetapan penanggung jawab manusia untuk setiap agen yang dioperasikan, serta uji coba bertahap pada proses berisiko rendah sebelum diperluas. Tanpa kerangka semacam itu, efisiensi yang dikejar hari ini berpotensi berubah menjadi beban kepercayaan publik di kemudian hari.