Ketika Algoritma Masuk ke Ruang Keputusan Publik
Oleh: Bagus Gede Ari Rama, S.H., M.H
Beberapa waktu terakhir saya mulai menyadari satu perubahan yang berlangsung begitu pelan hingga sering luput dari perhatian. Ketika mengurus berbagai layanan publik, kita semakin jarang berhadapan dengan petugas di balik loket dan semakin sering berinteraksi dengan sistem digital yang bekerja secara otomatis. Awalnya saya menganggap perubahan itu sekadar konsekuensi dari modernisasi birokrasi. Namun semakin pesat perkembangan Artificial Intellgence (AI), semakin sering pula muncul pertanyaan yang mengganggu pikiran saya: bolehkah mesin ikut menentukan hak warga negara? Pertanyaan itu terasa semakin relevan ketika APJII mencatat lebih dari 221 juta penduduk Indonesia telah terhubung ke internet pada 2024 atau sekitar 79,5 persen dari total populasi. Di sisi lain, pemerintah terus mendorong transformasi digital melalui Strategi Nasional Kecerdasan Artifisial 2020–2045. AI bukan lagi sekadar teknologi masa depan; perlahan ia mulai menjadi bagian dari cara negara memberikan pelayanan kepada masyarakat.
Tidak dapat dimungkiri, AI menawarkan banyak manfaat. Pelayanan publik berpotensi menjadi lebih cepat, biaya administrasi lebih efisien, dan pengambilan keputusan dinilai lebih objektif karena bertumpu pada data. Dalam birokrasi yang selama ini sering dikritik lambat dan berbelit, janji tersebut tentu menggoda. Namun semakin saya mengikuti perkembangan AI, semakin saya merasa bahwa persoalan utamanya bukan terletak pada kecanggihan teknologinya, melainkan pada kesiapan hukum kita. Negara hukum tidak dibangun semata-mata untuk menghasilkan keputusan yang cepat, melainkan keputusan yang adil, transparan, dan dapat dipertanggungjawabkan. Ketika algoritma mulai digunakan untuk membantu menentukan izin usaha, bantuan sosial, kepatuhan perpajakan, atau layanan publik lainnya, ukuran keberhasilannya tidak lagi cukup hanya efisiensi. Yang dipertaruhkan adalah perlindungan hak warga negara.
Algoritma Bukan Pemegang Mandat Konstitusional
Selama ini hukum administrasi bertumpu pada asumsi bahwa setiap keputusan pemerintah dibuat oleh manusia yang memiliki kewenangan, pertimbangan, dan tanggung jawab hukum. AI tidak memenuhi ketiga unsur tersebut. Ia mampu mengolah jutaan data dan menghasilkan rekomendasi yang kompleks, tetapi tidak memiliki kesadaran moral maupun kehendak hukum. Saya beberapa kali membayangkan bagaimana jika suatu hari seorang pelaku UMKM kehilangan kesempatan memperoleh izin usaha karena algoritma menilai usahanya berisiko tinggi, atau seorang warga dicoret dari daftar penerima bantuan sosial karena sistem membaca datanya tidak sesuai. Situasi seperti itu bukan lagi sekadar persoalan teknis. Pertanyaan yang segera muncul adalah kepada siapa warga harus meminta penjelasan? Apakah pejabat yang menandatangani keputusan benar-benar memahami alasan di balik rekomendasi AI, atau hanya mempercayainya karena sistem dianggap lebih objektif daripada manusia?
Menurut saya, di sinilah persoalan hukumnya menjadi sangat serius. Hukum mengenal pertanggungjawaban manusia, bukan pertanggungjawaban algoritma. Ketika keputusan administratif semakin dipengaruhi AI, risiko yang muncul bukan hanya bias data, melainkan juga responsibility gap, yaitu keadaan ketika tidak ada satu pun pihak yang benar-benar dapat dimintai pertanggungjawaban karena semua berlindung di balik sistem otomatis. Kekhawatiran tersebut bukan tanpa alasan. Indonesia memang telah menerbitkan Surat Edaran Menteri Komunikasi dan Digital Nomor 9 Tahun 2025 tentang Etika Kecerdasan Artifisial sebagai pedoman awal pemanfaatan AI yang bertanggung jawab. Namun, instrumen tersebut masih bersifat etis dan belum memberikan kepastian mengenai akuntabilitas hukum apabila keputusan berbasis AI menimbulkan kerugian bagi warga negara. Sementara itu, penggunaan AI terus berkembang lebih cepat daripada pembentukan regulasinya.
Pengalaman berbagai negara menunjukkan bahwa persoalan ini tidak boleh menunggu hingga sengketa bermunculan. Uni Eropa melalui EU AI Act memilih membangun kerangka hukum berbasis risiko dengan mewajibkan transparansi, dokumentasi, audit, serta human oversight terhadap penggunaan AI pada sektor berisiko tinggi, termasuk pelayanan publik. Pendekatan tersebut menunjukkan bahwa yang harus dilindungi bukan hanya keamanan teknologinya, tetapi juga hak warga negara yang terdampak oleh keputusan berbasis AI. Indonesia seharusnya mulai bergerak ke arah yang sama. Jangan sampai kita terlalu sibuk mengejar inovasi digital, tetapi terlambat membangun pagar hukum yang justru menjadi fondasi utama negara hukum.
Menjaga Negara Hukum di Era Keputusan Berbasis AI
Karena itu, saya berpandangan bahwa Indonesia tidak perlu menunggu lahirnya undang-undang AI yang komprehensif untuk mulai membangun tata kelola yang lebih bertanggung jawab. Salah satu langkah yang dapat dilakukan adalah menerapkan regulatory sandbox bagi penggunaan AI di sektor publik sehingga setiap sistem dapat diuji dalam ruang terbatas sebelum digunakan secara luas. Di saat yang sama, pejabat publik harus tetap menjadi pihak yang memikul tanggung jawab penuh atas setiap keputusan yang dibuat dengan bantuan AI. Prinsip human oversight tidak boleh berhenti sebagai slogan dalam dokumen kebijakan, tetapi harus diwujudkan dalam bentuk kemampuan nyata untuk memahami cara kerja sistem, mengoreksi apabila terjadi kesalahan, dan berani mengabaikan rekomendasi AI ketika bertentangan dengan hukum maupun rasa keadilan.
Saya percaya AI akan menjadi bagian penting dari masa depan pelayanan publik Indonesia. Menolak teknologi bukanlah pilihan yang realistis, tetapi menerima teknologi tanpa menyiapkan pagar hukumnya juga bukan langkah yang bijaksana. Negara boleh memanfaatkan AI untuk meningkatkan kualitas pelayanan publik dan efisiensi birokrasi, tetapi negara tidak boleh menyerahkan penentuan hak warga negara kepada mesin yang tidak memiliki empati, tidak memahami keadilan, dan tidak pernah dapat dimintai pertanggungjawaban. Pada akhirnya, yang dipertaruhkan bukan sekadar kualitas layanan pemerintahan, melainkan kepercayaan masyarakat terhadap negara hukum. Teknologi memang mampu mempercepat pengambilan keputusan, tetapi hanya manusia yang memiliki tanggung jawab moral dan konstitusional untuk memastikan bahwa setiap keputusan negara tetap berpihak pada keadilan.
