Meskipun perusahaan jasa keuangan terus mempercepat adopsi AI, kematangan tata kelola masih tertinggal. Kerangka kerja lama seputar model, data, dan teknologi tidak dirancang untuk lanskap AI saat ini: model probabilistik, ketergantungan pihak ketiga yang tidak jelas, dan, semakin banyak, sistem agen otonom. Akibatnya, perusahaan yang berupaya meningkatkan AI menggunakan pendekatan tata kelola tradisional mungkin menghadapi risiko yang sulit dideteksi, diukur, atau dikendalikan.
Tata kelola AI yang lemah dapat berdampak langsung pada pengambilan keputusan investasi yang salah informasi, kerentanan keamanan, dan pada akhirnya, masalah keuangan dan keuangan kerugian reputasi. Sebaliknya, perusahaan yang membangun kerangka tata kelola yang efektif dapat menyelaraskan AI dengan tujuan bisnis, mengelola risiko kerugian, dan menciptakan keunggulan kompetitif yang lebih tahan lama.
Untuk mengatasi tantangan ini, saya mengusulkan kerangka tata kelola AI dua tingkat yang mengintegrasikan pengawasan tingkat program dengan kontrol khusus kasus penggunaan. Sama seperti pendekatan investasi top-down dan bottom-up yang saling melengkapi, struktur ini memungkinkan konsistensi dalam skala besar dan presisi dalam pelaksanaannya.
Komponen tingkat program berpusat pada tiga tindakan inti:
- Menemukan aset AI Anda untuk mengaturnya secara efektif
- Mendirikan struktur dan mekanisme tata kelola tingkat perusahaan
- Fokus tata kelola tingkat perusahaan pada beberapa domain penting
Menemukan: Langkah mendasarnya adalah membangun inventarisasi aset, kasus penggunaan, dan agen AI yang komprehensif. Hal ini akan berfungsi sebagai landasan bagi proses tata kelola baik di tingkat program maupun tingkat kasus penggunaan dan harus dikaitkan dengan mekanisme dan alat tata kelola dan manajemen risiko yang menyeluruh di perusahaan. Menatap masa depan, penerapan beberapa proses kelembagaan dan organisasi yang sama dalam mengelola agen AI menjadi sangat penting seperti yang biasa kita terapkan dalam mengelola manusia, dan hal ini hampir tidak mungkin dilakukan tanpa adanya inventarisasi ini.
Mendirikan: Mekanisme pengawasan termasuk dalam kategori ini termasuk kebijakan dan prosedur, pernyataan selera risiko, rantai otoritas dan eskalasi, serta pembuatan program literasi AI bagi perusahaan. Elemen-elemen ini menentukan “aturan jalan” dan bertindak sebagai garis pertahanan pertama terhadap tekanan internal dan eksternal yang pasti akan muncul selama penerapan AI.
Fokus: Pesatnya perkembangan kerangka dan pengendalian tata kelola AI dapat menciptakan kesan bahwa tata kelola yang efektif memerlukan pendekatan “mendidih lautan”. Dalam praktiknya, hal ini tidak layak dan tidak perlu. Tata kelola AI harus secara sengaja dibatasi dan diselaraskan dengan profil risiko spesifik organisasi, model operasi, dan prioritas strategis. Tujuannya bukan kelengkapan, tapi efektivitas.