AI Mengambil Keputusan, Direksi Menanggung Akibatnya

Ketika sebuah keputusan kredit yang disusun agen AI berujung sengketa, satu-satunya pihak yang bisa dimintai tanggung jawab menurut kerangka yang berlaku adalah manusia yang menandatanganinya — dan sejauh ini belum jelas siapa yang mendokumentasikan di titik mana manusia itu melakukan override.

Pertanyaan ini bukan sekadar soal teknis. Di balik gempuran adopsi kecerdasan buatan dalam alur kerja korporasi, ada pergeseran tanggung jawab hukum di era AI yang belum sepenuhnya terpetakan: AI tidak dapat memikul tanggung jawab atas outputnya, sementara volume keputusan berbantuan mesin terus meningkat. Seluruh residu tanggung jawab jatuh pada pengurus — dan biaya dokumentasi serta proteksi hukum yang mengikutinya berpotensi menjadi hambatan masuk baru bagi pemain kecil di jasa keuangan.

Tanggung Jawab yang Tidak Bisa Didelegasikan

Riset McKinsey Global Institute tentang kemitraan keterampilan di era AI menunjukkan bahwa manusia, agen, dan robot akan semakin sering bekerja berdampingan untuk memfasilitasi alur kerja. Namun ada satu hal yang tidak berubah: kecerdasan buatan tidak dapat menetapkan aspirasi, membuat keputusan sulit, membangun kepercayaan di antara pemangku kepentingan, atau memikul tanggung jawab atas hasilnya.

"AI models can analyze and create structure around arguments, but they don't ultimately bear any responsibility for their outputs," tulis McKinsey. Sebaliknya, pemimpin di dunia fisik harus bertanggung jawab kepada karyawan, dewan, investor, mitra bisnis, dan pemangku kepentingan penting lainnya.

Implikasi praktisnya langsung: ketika algoritma menyarankan penolakan kredit, menyusun strategi penagihan, atau mengoptimalkan kampanye pemasaran, keputusan akhir — dan konsekuensi hukumnya — tetap melekat pada direksi atau pejabat yang mengesahkannya. Pertanyaannya kemudian: apakah dokumentasi rantai keputusan itu cukup rinci untuk membuktikan bahwa manusia benar-benar melakukan penilaian, bukan sekadar meneruskan rekomendasi mesin?

Dari Praktik Baik Menjadi Kebutuhan Defensif

Konsekuensi logis dari tanggung jawab yang tidak bisa didelegasikan adalah perubahan status dokumentasi. Apa yang dulu dianggap sebagai praktik baik — mencatat siapa memberi konteks, apa batasan (guardrails) yang dipasang, di mana manusia melakukan override terhadap saran AI — kini berubah menjadi kebutuhan defensif.

Ini menciptakan permintaan baru. Perusahaan memerlukan audit model AI, kebijakan penggunaan AI internal yang tertulis jelas, dan kemungkinan penyesuaian polis asuransi tanggung jawab direksi dan pejabat. Vendor AI pun terdorong memosisikan diri sebagai mitra bertanggung jawab lewat fitur jejak audit, bukan sekadar penjual lisensi.

Sektor jasa keuangan Indonesia sudah berada di bawah pengawasan ketat soal keputusan berbasis algoritma — dalam kredit, penagihan, dan pemasaran. Bila tanggung jawab tetap melekat pada pengurus, biaya kepatuhan dan proteksi hukum akan naik. Pertanyaan yang belum terjawab: apakah kenaikan biaya ini akan menjadi hambatan masuk baru bagi pemain kecil?

Tata Kelola AI sebagai Komponen Risiko Korporasi

Yang menarik, pergeseran ini tidak hanya soal teknologi. Riset McKinsey menunjukkan bahwa ketegasan (decisiveness), akuntabilitas, dan kemampuan menunjukkan penilaian yang baik tidak hanya membuka kepercayaan dan loyalitas di seluruh tim, tetapi juga menjadi prediktor kunci kemampuan perusahaan menciptakan nilai jangka panjang.

Dengan kata lain, kapasitas keputusan pemimpin mulai diperlakukan sebagai eksposur risiko korporasi — bukan lagi sekadar isu pribadi. Jika lebih dari separuh C-suite di empat pasar maju (Amerika Serikat, Inggris, Jerman, dan Jepang) melaporkan tingkat stres yang sangat tinggi, bahkan melampaui puncak pandemi, maka dewan komisaris punya alasan untuk memformalkan mekanisme peredam: rencana suksesi yang lebih eksplisit, penunjukan deputi atau co-lead, pendelegasian kewenangan keputusan ke komite eksekutif, dan protokol cuti atau kesehatan direksi.

Di Indonesia, tekanan ini masuk lewat jalur yang sudah ada: laporan tahunan, komite nominasi dan remunerasi, serta uji kelayakan pengurus di sektor jasa keuangan. Key person risk yang selama ini hanya dicatat sebagai kalimat boilerplate berpotensi berubah menjadi item yang dinilai analis dan pemeringkat.

Siapa yang Bertanggung Jawab atas Keputusan Berbantuan AI?

Pertanyaan ini belum sepenuhnya terjawab di Indonesia. Kerangka tanggung jawab hukum yang berlaku saat ini masih menempatkan pengurus sebagai pihak yang bertanggung jawab atas output sistem otomatis — tetapi belum ada pedoman atau surat edaran regulator yang secara spesifik mengatur tata kelola AI perusahaan dalam pengambilan keputusan lembaga jasa keuangan.

Begitu pula dengan polis asuransi tanggung jawab direksi. Belum jelas apakah produk yang dipasarkan di Indonesia sudah memuat klausul atau pengecualian terkait AI, dan bagaimana penetapan harganya. Broker dan penanggung cenderung enggan membuka informasi komersial semacam ini.

Yang bisa diamati adalah perubahan struktur organisasi. Beberapa bank besar dan perusahaan pembiayaan mulai membentuk jabatan atau unit khusus AI governance atau model risk di struktur mereka. Sebagian emiten juga mulai mengungkapkan kebijakan penggunaan AI internal dalam laporan tahunan atau laporan keberlanjutan — meski masih dalam bentuk pernyataan umum, bukan dokumentasi rantai keputusan yang bisa diaudit.

Pergeseran Model Kepemimpinan: Dari Komando ke Konteks

Riset McKinsey tentang kemitraan keterampilan di era AI menyarankan bahwa CEO dan pemimpin C-suite lainnya tidak akan selalu menjadi orang paling pintar di ruangan. Akibatnya, pendekatan komando dan kontrol tradisional kemungkinan akan gagal. Jauh lebih penting bagi para pemimpin untuk menciptakan konteks di mana tim mereka dapat berhasil menavigasi perubahan proses yang diinformasikan AI, perubahan peran, dan gangguan bisnis internal dan eksternal lainnya.

Pemimpin perlu memberikan tim seperangkat batasan (nilai-nilai yang jelas dan hak keputusan) dan menetapkan definisi baru tentang kualitas sambil menumbuhkan rasa kepercayaan dan kolaborasi saat tantangan baru muncul dan kondisi bisnis berkembang.

Pergeseran ini punya konsekuensi struktural. Jika kepemimpinan berpindah dari komando-dan-kontrol ke penetapan konteks dan guardrails bagi tim yang bekerja berdampingan dengan agen AI, fungsi klasik manajer menengah — meneruskan instruksi, mengonsolidasi laporan, mengawasi eksekusi — kehilangan sebagian alasan eksistensinya.

Konsekuensi logisnya: rentang kendali melebar, struktur organisasi memipih, dan biaya per keputusan turun di atas kertas. Namun beban penilaian yang dulu tersaring berlapis kemungkinan turun ke supervisor lini yang tidak mendapat akses coaching, alokasi waktu pemulihan, maupun kewenangan formal. Dengan kata lain, stres tidak hilang; ia berpindah ke lapisan yang paling tidak terdokumentasi dalam survei eksekutif.

Biaya Kepatuhan sebagai Hambatan Masuk

Kembali ke pertanyaan awal: ketika sebuah keputusan kredit yang disusun agen AI berujung sengketa, siapa yang bertanggung jawab?

Jawabannya jelas secara hukum: pengurus yang menandatangani. Tetapi jawabannya belum jelas secara operasional: apakah ada dokumentasi yang cukup untuk membuktikan bahwa keputusan itu diambil dengan penilaian manusia yang independen, bukan sekadar meneruskan output mesin?

Membangun dokumentasi semacam itu memerlukan investasi: sistem audit model, pelatihan pengurus tentang batas kemampuan AI, kebijakan penggunaan AI yang tertulis dan diperbarui secara berkala, serta kemungkinan penyesuaian polis asuransi tanggung jawab direksi. Bagi bank besar atau perusahaan pembiayaan yang sudah punya unit kepatuhan dan tata kelola yang mapan, biaya ini bisa diserap. Bagi pemain kecil, biaya ini bisa menjadi hambatan masuk baru.

Ini bukan sekadar spekulasi. Sektor jasa keuangan Indonesia sudah berada di bawah pengawasan ketat soal keputusan berbasis algoritma. Jika regulator menerbitkan pedoman tata kelola AI dalam pengambilan keputusan — dan belum ada indikasi kapan atau apakah itu akan terjadi — biaya kepatuhan akan naik lebih jauh.

Pertanyaan yang Masih Terbuka

Artikel ini tidak menawarkan jawaban final, karena memang belum ada. Yang bisa dilakukan adalah memetakan pertanyaan-pertanyaan yang perlu dijawab:

Pertama, apakah kerangka tanggung jawab hukum Indonesia benar-benar menempatkan pengurus sebagai pihak bertanggung jawab atas output sistem otomatis? Ini perlu konfirmasi dari ahli hukum korporasi dan regulator.

Kedua, apakah sudah terbit pedoman atau surat edaran regulator soal tata kelola AI perusahaan dalam pengambilan keputusan lembaga jasa keuangan? Jika sudah, apa isinya? Jika belum, kapan akan terbit?

Ketiga, apakah polis tanggung jawab direksi yang dipasarkan di Indonesia sudah memuat klausul atau pengecualian terkait AI, dan bagaimana penetapan harganya? Ini perlu ditanyakan ke broker dan penanggung.

Keempat, seberapa luas adopsi agen AI dalam keputusan bernilai material di bank dan perusahaan pembiayaan Indonesia? Ini perlu data penggunaan dari perusahaan, bukan klaim vendor.

Kelima, apakah ada inventarisasi jabatan atau unit AI governance atau model risk di struktur bank dan perusahaan pembiayaan, serta pengungkapan kebijakan penggunaan AI internal di laporan tahunan?

Tanpa jawaban atas pertanyaan-pertanyaan ini, kita hanya bisa menyimpulkan satu hal: AI mengambil keputusan, tetapi direksi yang menanggung akibatnya — dan dokumentasi yang membuktikan bahwa direksi benar-benar mengambil keputusan, bukan sekadar meneruskan rekomendasi mesin, masih menjadi area abu-abu yang perlu diperjelas.