● Jika tidak diaudit, AI akan merugikan banyak pihak.
● AI bukan hanya bisa meniru karya, tapi bisa mencelakakan masyarakat.
● Aturan audit AI penting untuk memberikan jaminan keamanan dan keadilan terhadap semua pihak.
Penggunaan kecerdasan buatan (AI) kini sudah menjadi bagian tak terpisahkan dari kehidupan manusia. AI amat praktis, tapi justru karena itulah penggunaannya sering kebablasan. Maka dari itu, penting untuk mengaudit audit sistem kerja internal AI sebagai bagian dari transparansi, akuntabilitas, dan keamanan teknologi.
AI bisa menghasilkan output (luaran) yang bias dan bisa membawa sejumlah risiko serius terhadap hak-hak dasar, kesehatan, hingga keselamatan nyawa manusia.
Di sektor bisnis misalnya, AI amat memudahkan penggunanya menciptakan konsep iklan hanya dengan perintah teks saja. Namun, tak jarang hasil karya AI meniru karya orang lain, tidak memiliki karakteristik, dan tidak orisinil.
Dalam kasus tertentu seperti penilaian kelayakan kredit (credit scoring), luaran AI bisa bias dan berpotensi mendiskriminasi kelompok tertentu serta menghalangi mereka untuk memperoleh hak-hak dasar.
Risiko lainnya adalah kegagalan sistem yang bisa berujung kecelakaan. Di sektor transportasi, kasus-kasus kecelakaan mobil otonom yang sedang berjalan dalam mode otomatis menunjukkan bagaimana kegagalan sistem AI dapat berujung fatal.
Selain itu, subset AI tertentu seperti large language model (LLM) juga rentan berhalusinasi—kondisi AI yang menghasilkan informasi yang tidak akurat, bahkan bersifat tuduhan. Hal ini berpotensi menyuburkan penyebaran misinformasi, khususnya di kalangan masyarakat dengan literasi digital rendah.
Urgensi audit AI dan aturan mainnya
Risiko-risiko tersebut menunjukkan kebutuhan mendesak akan mekanisme yang dapat memastikan AI bekerja secara transparan, akuntabel, dan aman. Salah satu mekanisme yang saat ini mulai diadopsi secara global adalah audit terhadap sistem kerja internal AI.
Audit terhadap sistem kerja internal AI meliputi berbagai pemeriksaan terhadap komponen-komponen AI, mulai dari data sebagai input, algoritma, hingga luaran yang dihasilkan.
Idealnya, audit dilakukan terhadap seluruh siklus hidup AI, mulai dari perancangan hingga penggunaannya oleh masyarakat. Sebab, risiko-risiko yang telah dijelaskan sebelumnya bisa muncul di setiap tahapan dalam pengembangan AI. Misalnya, bias bisa muncul akibat data yang tidak representatif, desain algoritma yang diskriminatif, atau faktor-faktor lainnya.
Sayangnya, hingga saat ini, Indonesia belum memiliki regulasi yang secara khusus mewajibkan audit AI.
UU ITE sebagai landasan hukum penyelenggaraan sistem elektronik memang memuat beberapa ketentuan yang sejatinya dapat menjadi entry point bagi pelaksanaan audit AI. Namun, ketentuan-ketentuan tersebut bersifat sangat umum untuk sistem elektronik.
Meskipun AI tergolong ke dalam sistem elektronik, AI memiliki karakteristik khusus dengan segala kerumitan teknologi di dalamnya, sehingga ketentuan dalam UU ITE tidak bisa menjangkau AI secara spesifik.
Read more: AI bisa mengancam seniman dan melanggar hak cipta: Perlu diregulasi, bukan dilarang
Demikian pula dengan UU Perlindungan Konsumen yang mengatur hak konsumen atas keamanan dan kejelasan informasi bagi pengguna. Aturan ini bisa menjadi landasan bagi pelaksanaan audit AI, namun tetap belum cukup tanpa ketentuan operasional pelaksanaannya.
Hal yang sama terjadi pada UU PDP yang mengatur prinsip dan kewajiban transparansi dalam pemrosesan data pribadi. Karena data pribadi bisa menjadi input dalam sistem AI, regulasi ini relevan sebagai landasan.
Layaknya yang terjadi pada UU Perlindungan Konsumen, prinsip dan kewajiban transparansi tersebut juga tidak cukup kuat menjadi landasan audit AI tanpa ketentuan operasional yang secara spesifik mewajibkannya.
Potensi konflik dengan pelindungan HKI
Audit penting untuk menjamin AI yang adil dan aman. Tapi, proses ini juga bisa berbenturan dengan kepentingan perusahaan AI, khususnya dalam hal perlindungan hak kekayaan intelektual (HKI).
Sebab, AI dan berbagai komponennya dapat menjadi subjek pelindungan hak kekayaan intelektual. Misalnya, dataset dan algoritma merupakan rahasia dagang yang dilindungi secara ketat oleh penyelenggara AI untuk mempertahankan tingkat kompetitifnya. Maka, tak heran bila pelaku usaha enggan membuka akses informasi yang dianggap vital tersebut.
Read more: Kontroversi nilai humanis dunia periklanan: Pelajaran dari iklan natal AI Coca-Cola
Dalam situasi demikian, muncul konflik antara kepentingan publik atas transparansi, akuntabilitas, dan keamanan AI dan kepentingan privat atas pelindungan HKI.
Meskipun menurut doktrin hukum pada umumnya kepentingan publik berada di atas kepentingan privat, hak pelaku usaha tetap harus dihormati. Untuk itu, perlu keseimbangan menemukan titik temu antara kepentingan keduanya.
Audit independen pihak ketiga dan register hasil audit
Merujuk pada praktik global seperti Uni Eropa dalam EU AI Act dan EU Digital Services Act serta Cina dalam Algorithmic Recommendations Provisions, Indonesia perlu mengatur kewajiban audit AI secara lebih spesifik.
Tidak semua AI perlu diaudit. Hanya AI yang berisiko tinggi, seperti yang menyangkut hak-hak dasar, kesehatan, atau keselamatan nyawa manusia, yang wajib diaudit. Oleh karena itu, perlu klasifikasi sistem AI berdasarkan risikonya—dari tinggi hingga rendah—agar pengawasannya proporsional.
Pemerintah sebaiknya tidak menjadi auditor langsung. Selain agar hasil audit lebih independen, kapasitas dan sumber daya pemerintah juga terbatas saat ini. Audit mesti dilakukan oleh pihak ketiga independen yang telah tersertifikasi.
Untuk menjamin kerahasiaan dan perlindungan usaha penyelenggara AI, regulasi tersebut juga harus memuat duty of confidentiality—kewajiban menjaga kerahasiaan informasi dalam hubungan profesional—dari pihak yang terlibat dalam audit.
Tak kalah penting, pemerintah juga harus menyediakan sistem register hasil audit seperti algorithm registry yang diterapkan di Cina untuk menjamin transparansi.
Tidak semua informasi terkait hasil audit perlu diumumkan ke publik. Informasi yang bersifat rahasia tetap harus dijaga.
Dengan cara ini, kepentingan publik atas keamanan dan transparansi AI bisa diseimbangkan dengan kepentingan usaha, tanpa mengorbankan salah satunya.