Mengapa Manajemen Risiko di Era AI Menjadi Semakin Penting?

Artificial intelligence (AI) bukan lagi sekadar teknologi untuk eksperimen. Perusahaan mulai menggunakannya untuk menganalisis data, membuat prediksi, melayani pelanggan, mendukung keputusan bisnis, hingga mengotomatisasi berbagai proses operasional.

Masalahnya, ketika perusahaan menggunakan AI untuk mengambil keputusan, perusahaan juga memperkenalkan jenis risiko baru yang sebelumnya mungkin tidak muncul dalam proses bisnis konvensional.

Bayangkan sebuah bank menggunakan AI untuk menilai calon debitur. Jika data yang digunakan ternyata bias, hasil penilaian dapat ikut bias. Atau ketika karyawan memasukkan informasi perusahaan yang bersifat rahasia ke dalam layanan AI publik, risiko kebocoran data dapat muncul tanpa disadari.

Karena itu, pertanyaannya bukan lagi:

“Apakah perusahaan perlu menggunakan AI?”

Melainkan:

“Bagaimana perusahaan dapat menggunakan AI tanpa menciptakan risiko baru yang tidak mampu dikendalikan?”

Pertanyaan tersebut membuat manajemen risiko di era AI menjadi bagian penting dari tata kelola perusahaan modern.

World Economic Forum dalam Global Risks Report 2026 bahkan menempatkan adverse outcomes of AI technologiessebagai salah satu risiko teknologi yang semakin mendapat perhatian. Dalam horizon 10 tahun, risiko tersebut naik hingga peringkat kelima. Pada saat yang sama, misinformation/disinformation dan cyber insecurity juga menjadi perhatian utama.

Intinya

Perusahaan yang hanya mengejar manfaat AI tanpa memperkuat risk management berpotensi menghadapi:

• keputusan bisnis yang keliru;
• kebocoran atau penyalahgunaan data;
• serangan siber yang lebih kompleks;
• bias dalam algoritma;
• ketidakjelasan tanggung jawab ketika AI melakukan kesalahan;
• masalah kepatuhan dan regulasi;
• reputasi perusahaan yang rusak.

AI dapat mempercepat bisnis, tetapi tanpa governance dan risk management yang memadai, AI juga dapat mempercepat terjadinya risiko.

Apa yang Berubah dalam Manajemen Risiko Ketika AI Digunakan?

Secara prinsip, manajemen risiko tetap memiliki proses yang sama: mengidentifikasi, menganalisis, mengevaluasi, menangani, memantau, dan mengomunikasikan risiko.

Namun, karakter risikonya berubah.

AI memiliki kemampuan untuk memproses data dalam jumlah besar dan menghasilkan keputusan atau rekomendasi dalam waktu sangat singkat. Akibatnya, satu kesalahan pada sistem dapat berdampak lebih luas dan terjadi lebih cepat.

NIST melalui Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile menekankan bahwa risiko AI perlu dipertimbangkan sepanjang siklus hidup AI, mulai dari desain, pengembangan, penggunaan hingga evaluasi.

Dengan demikian, perusahaan tidak cukup hanya menambahkan “AI risk” sebagai satu baris di risk register.

Perusahaan perlu memahami bagaimana AI mengubah sumber, karakter, probabilitas, dampak, dan kecepatan munculnya risiko.

5 Tantangan Manajemen Risiko di Era AI

1. AI Hallucination dan Keputusan yang Tidak Akurat

Generative AI dapat menghasilkan jawaban yang terlihat meyakinkan meskipun informasi tersebut salah.

Inilah salah satu tantangan terbesar.

AI tidak selalu memberikan jawaban dalam bentuk “saya tidak tahu”. Dalam kondisi tertentu, AI dapat menghasilkan informasi yang terdengar logis tetapi tidak memiliki dasar yang benar.

Jika output tersebut digunakan untuk:

• analisis investasi;
• laporan manajemen;
• keputusan kredit;
• legal review;
• risk assessment;
• laporan keberlanjutan;
• atau keputusan strategis,

maka kesalahan kecil dapat berubah menjadi risiko bisnis.

Solusinya: perusahaan perlu menerapkan human oversight, validasi output, sumber data yang jelas, serta batasan penggunaan AI berdasarkan tingkat risiko keputusan.

2. Data Privacy dan Kebocoran Informasi

AI membutuhkan data.

Semakin banyak data yang digunakan, semakin penting perusahaan memahami bagaimana data tersebut dikumpulkan, diproses, disimpan, dan digunakan.

Risiko dapat muncul ketika karyawan menggunakan AI tanpa memahami apakah data yang dimasukkan bersifat:

• publik;
• internal;
• confidential;
• personal;
• atau highly sensitive.

Karena itu, perusahaan membutuhkan AI usage policy yang menjelaskan secara jelas data apa yang boleh dan tidak boleh dimasukkan ke sistem AI.

3. Bias dalam Algoritma

AI belajar dari data.

Jika data historis mengandung bias, model AI dapat mereproduksi bahkan memperkuat bias tersebut.

Contohnya, sistem AI yang digunakan dalam proses recruitment dapat memberikan rekomendasi yang tidak adil apabila data historis yang digunakan untuk melatih sistem memiliki pola diskriminatif.

Karena itu, model validation dan bias assessment perlu menjadi bagian dari pengendalian risiko AI.

4. Cyber Risk Menjadi Lebih Kompleks

AI tidak hanya digunakan oleh perusahaan.

Pelaku kejahatan siber juga menggunakan AI.

AI dapat membantu menghasilkan phishing yang lebih meyakinkan, melakukan rekayasa sosial, mempercepat pembuatan malware, atau mengotomatisasi berbagai aktivitas serangan.

Artinya, perusahaan perlu melihat AI bukan hanya dari sisi technology risk, tetapi juga dari perspektif cyber risk, operational risk, third-party risk, dan business continuity.

World Economic Forum pada Global Risks Report 2026 menempatkan cyber insecurity sebagai salah satu risiko teknologi utama dalam horizon dua tahun.

5. Tidak Jelas Siapa yang Bertanggung Jawab

Ini adalah masalah governance yang sering terlupakan.

Ketika seorang karyawan menggunakan AI untuk membuat analisis dan hasilnya salah, siapa yang bertanggung jawab?

Apakah:

• pengguna?
• tim IT?
• vendor AI?
• data scientist?
• manajemen?
• atau perusahaan?

Tanpa struktur governance yang jelas, perusahaan dapat mengalami accountability gap.

Karena itu, setiap penggunaan AI yang material sebaiknya memiliki owner, kontrol, approval, monitoring, dan mekanisme eskalasi yang jelas.

Manajemen Risiko AI Tidak Cukup Hanya Ditangani oleh Tim IT

Salah satu kesalahan umum adalah menganggap risiko AI sebagai masalah teknologi semata.

Padahal, AI dapat memengaruhi hampir seluruh fungsi perusahaan.

Karena itu, AI risk management harus menjadi tanggung jawab lintas fungsi, bukan hanya IT.

Risk management, compliance, legal, cybersecurity, internal audit, HR, business unit, dan manajemen perlu memiliki pemahaman yang sama mengenai risiko AI.

Bagaimana Cara Mengatasi Risiko AI di Perusahaan?

Solusinya bukan menghentikan penggunaan AI.

Justru sebaliknya.

Perusahaan perlu membangun sistem yang memungkinkan AI digunakan secara produktif sekaligus terkendali.

Berikut kerangka praktis yang dapat diterapkan.

1. Identifikasi Seluruh Use Case AI

Mulailah dengan pertanyaan sederhana:

“Di mana saja AI digunakan di organisasi kita?”

Buat inventarisasi seluruh penggunaan AI, baik yang resmi maupun yang dilakukan secara informal oleh karyawan.

Contohnya:

• chatbot customer service;
• AI untuk membuat laporan;
• AI untuk analisis data;
• AI dalam recruitment;
• AI untuk fraud detection;
• AI untuk marketing;
• AI dalam credit scoring;
• generative AI untuk pekerjaan administratif.

Tanpa mengetahui di mana AI digunakan, perusahaan tidak mungkin mengelola risikonya secara menyeluruh.

2. Buat AI Risk Register

Setelah use case ditemukan, masukkan risiko AI ke dalam risk register.

Minimal, risk register dapat mencakup:

1. AI use case;
2. tujuan penggunaan;
3. pemilik risiko;
4. jenis data;
5. risiko yang mungkin muncul;
6. kemungkinan;
7. dampak;
8. risk rating;
9. existing control;
10. mitigation plan;
11. Key Risk Indicator;
12. monitoring frequency.

Pendekatan ini membuat AI tidak berdiri sendiri sebagai proyek teknologi, tetapi menjadi bagian dari enterprise risk management.

3. Klasifikasikan AI Berdasarkan Tingkat Risiko

Tidak semua penggunaan AI memiliki risiko yang sama.

AI untuk membuat caption media sosial tentu berbeda dengan AI yang digunakan untuk:

• menentukan kelayakan kredit;
• mendeteksi fraud;
• menentukan kandidat pekerjaan;
• memberikan rekomendasi investasi;
• atau mendukung keputusan medis.

Karena itu, perusahaan dapat menggunakan pendekatan risk-based AI governance.

Semakin besar dampak sebuah AI terhadap pelanggan, karyawan, keuangan, atau reputasi perusahaan, semakin ketat pula kontrol yang diperlukan.

4. Terapkan Human-in-the-Loop

Untuk keputusan berisiko tinggi, jangan biarkan AI menjadi satu-satunya pengambil keputusan.

Gunakan prinsip:

AI recommends → Human reviews → Organization decides.

Dengan demikian, AI menjadi alat bantu pengambilan keputusan, bukan pengganti akuntabilitas manusia.

5. Perkuat Kompetensi SDM

Teknologi berkembang jauh lebih cepat daripada kemampuan organisasi untuk mengendalikannya.

Karena itu, perusahaan membutuhkan SDM yang memahami dua hal sekaligus:

business + risk.

Profesional risk management tidak harus menjadi programmer.

Namun, mereka perlu memahami:

• bagaimana AI digunakan;
• sumber data;
• risiko model;
• bias;
• privacy;
• cybersecurity;
• third-party risk;
• AI governance;
• dan bagaimana memasukkan risiko tersebut ke dalam ERM.

NIST sendiri menempatkan AI Risk Management Framework sebagai pendekatan untuk membantu organisasi memasukkan pertimbangan trustworthiness ke dalam desain, pengembangan, penggunaan, dan evaluasi AI.

Bagaimana dengan Perusahaan di Indonesia?

Konteks Indonesia juga semakin relevan.

Pada 29 April 2025, Otoritas Jasa Keuangan (OJK) meluncurkan Tata Kelola Kecerdasan Artifisial Perbankan Indonesia sebagai panduan bagi sektor perbankan dalam mengembangkan dan menggunakan AI secara bertanggung jawab.

OJK menekankan pentingnya pengelolaan risiko dan prinsip kehati-hatian karena perkembangan AI bersifat dinamis. Panduan tersebut juga melengkapi berbagai kebijakan transformasi digital dan ketahanan digital perbankan yang telah ada.

Hal ini menunjukkan bahwa arah pengelolaan AI di sektor keuangan Indonesia tidak hanya berbicara tentang inovasi, tetapi juga governance, risk management, security, dan responsible use.

Bagi perusahaan perbankan, BUMN, perusahaan jasa keuangan, maupun organisasi yang sedang memperluas penggunaan AI, ini menjadi sinyal penting:

AI governance dan risk management perlu dipersiapkan sebelum penggunaan AI berkembang tanpa kendali.

Hubungan AI Governance dengan ISO 31000

Perusahaan tidak selalu perlu membuat sistem manajemen risiko yang sepenuhnya baru hanya karena menggunakan AI.

Justru, salah satu pendekatan yang lebih praktis adalah mengintegrasikan risiko AI ke dalam kerangka manajemen risiko yang sudah ada.

Prinsip ISO 31000 dapat digunakan sebagai fondasi untuk:

Context → Risk Identification → Risk Analysis → Risk Evaluation → Risk Treatment → Monitoring & Review → Communication & Consultation

AI kemudian ditempatkan sebagai salah satu sumber risiko baru yang perlu dianalisis dalam konteks organisasi.

Pendekatan ini membantu perusahaan menghindari silo antara:

AI Governance ↔ IT Risk ↔ Cyber Risk ↔ Operational Risk ↔ Enterprise Risk Management

Dengan kata lain, tujuan akhirnya bukan membuat “AI risk management” yang terpisah, tetapi membangun enterprise risk management yang mampu memahami risiko akibat penggunaan AI.

Checklist Kesiapan Manajemen Risiko AI

Perusahaan dapat melakukan pemeriksaan awal dengan pertanyaan berikut:

•  Apakah perusahaan sudah menginventarisasi seluruh penggunaan AI?
•  Apakah setiap AI use case memiliki risk owner?
•  Apakah perusahaan memiliki kebijakan penggunaan AI?
•  Apakah data yang digunakan AI sudah diklasifikasikan?
•  Apakah ada mekanisme validasi output AI?
•  Apakah penggunaan AI berisiko tinggi memiliki human oversight?
•  Apakah risiko bias sudah dinilai?
•  Apakah vendor AI sudah melalui third-party risk assessment?
•  Apakah AI risk sudah masuk ke risk register?
•  Apakah ada Key Risk Indicator yang dipantau?
•  Apakah insiden AI memiliki mekanisme pelaporan dan eskalasi?
•  Apakah karyawan sudah mendapatkan awareness dan training?

Jika sebagian besar jawabannya masih “belum”, perusahaan kemungkinan belum memiliki AI risk management yang matang.

Jadi, Apa Solusi yang Paling Realistis?

Perusahaan tidak perlu menunggu sampai terjadi insiden untuk mulai membangun manajemen risiko AI.

Langkah yang lebih realistis adalah membangun kemampuan secara bertahap:

Tahap 1 — Awareness

Manajemen dan karyawan memahami peluang serta risiko AI.

Tahap 2 — Assessment

Perusahaan mengidentifikasi AI use case dan melakukan risk assessment.

Tahap 3 — Governance

Perusahaan menetapkan policy, risk owner, approval, control, dan accountability.

Tahap 4 — Integration

AI risk diintegrasikan dengan ERM, GRC, cybersecurity, compliance, dan internal control.

Tahap 5 — Continuous Improvement

Model, data, kontrol, dan kebijakan dievaluasi secara berkala mengikuti perkembangan teknologi dan regulasi.

Dengan pendekatan tersebut, perusahaan tidak hanya menjadi AI adopter, tetapi juga menjadi responsible AI organization.

Saatnya Membangun Risk Management yang Siap Menghadapi AI

AI memberikan peluang besar untuk meningkatkan efisiensi, produktivitas, kualitas analisis, dan pengambilan keputusan.

Namun, semakin besar ketergantungan perusahaan terhadap AI, semakin besar pula kebutuhan terhadap manajemen risiko yang adaptif.

Risiko AI tidak dapat diselesaikan hanya dengan membeli software, membuat kebijakan, atau menyerahkan semuanya kepada tim IT.

Perusahaan membutuhkan kombinasi:

People + Process + Technology + Governance.

Di sinilah penguatan kompetensi menjadi penting.

ESGSolusi.id melalui program pelatihan manajemen risiko, GRC, ESG risk management, dan corporate trainingmembantu organisasi membangun kompetensi yang lebih siap menghadapi kompleksitas risiko modern.

Program manajemen risiko ESGSolusi mencakup pendekatan berbasis ISO 31000:2018, Enterprise Risk Management, BSMR, Certified Risk Associate (CRA), hingga Certified Risk Professional (CRP).

Pelatihan Sertifikasi Manajemen Risiko ESGSolusi dapat menjadi salah satu langkah bagi profesional yang ingin memperkuat kompetensi manajemen risiko secara terstruktur.

Untuk kebutuhan perusahaan, ESGSolusi juga menyediakan corporate/in-house training yang dapat disesuaikan dengan tingkat kesiapan, kebutuhan industri, risiko, dan konteks organisasi.

Karena pada akhirnya, tujuan manajemen risiko bukan membuat perusahaan takut menggunakan teknologi.

Tujuannya adalah membuat perusahaan mampu berinovasi dengan lebih berani karena risikonya dipahami, dikendalikan, dan dipantau.

FAQ: Manajemen Risiko di Era AI

Apa yang dimaksud dengan manajemen risiko di era AI?

Manajemen risiko di era AI adalah proses mengidentifikasi, menganalisis, mengevaluasi, menangani, dan memantau risiko yang muncul dari penggunaan artificial intelligence dalam organisasi. Risikonya dapat mencakup bias, kesalahan model, kebocoran data, cybersecurity, compliance, operational risk, hingga reputasi.

Apa risiko terbesar penggunaan AI bagi perusahaan?

Tidak ada satu risiko yang selalu menjadi yang terbesar. Risikonya bergantung pada use case. Namun, beberapa risiko utama meliputi kesalahan output AI, data privacy, bias algoritma, cybersecurity, ketergantungan terhadap vendor, serta kurangnya accountability.

Apakah AI risk harus masuk ke risk register perusahaan?

Sebaiknya ya, terutama untuk AI use case yang memiliki dampak signifikan terhadap operasional, pelanggan, keuangan, kepatuhan, atau reputasi. Dengan memasukkannya ke risk register, perusahaan dapat menentukan risk owner, kontrol, risk treatment, dan mekanisme monitoring.

Apakah ISO 31000 dapat digunakan untuk mengelola risiko AI?

Ya. ISO 31000 dapat menjadi fondasi proses manajemen risiko organisasi, sedangkan risiko spesifik AI perlu dianalisis berdasarkan karakteristik teknologi, data, model, use case, serta dampaknya terhadap stakeholder.

Apakah perusahaan perlu memberikan pelatihan manajemen risiko AI?

Pelatihan dapat membantu meningkatkan kemampuan karyawan dan risk professional dalam memahami AI-related risks, melakukan risk assessment, memperkuat governance, serta mengintegrasikan risiko AI ke dalam enterprise risk management.

Apa langkah pertama membangun AI risk management?

Langkah pertama adalah mengidentifikasi dan menginventarisasi seluruh penggunaan AI dalam organisasi. Setelah itu, perusahaan dapat melakukan risk assessment, menentukan risk owner, mengembangkan control, dan mengintegrasikannya ke dalam framework manajemen risiko yang sudah ada.

Referensi Utama

• NIST — Artificial Intelligence Risk Management Framework dan Generative Artificial Intelligence Profile.
• Otoritas Jasa Keuangan — Tata Kelola Kecerdasan Artifisial Perbankan Indonesia.
• World Economic Forum — Global Risks Report 2026.
• Google Search Central — Creating Helpful, Reliable, People-First Content.
• Google Search Central — AI features and your website.
• Google Search Central — Optimizing your website for generative AI features on Google Search.

Artikel Terkait

RISK Series COSO ERM vs ISO 31000: Kerangka Manajemen Risiko Mana yang Tepat untuk Bisnis Anda?

RISK Series OJK Terbitkan Aturan Baru untuk Perkuat Manajemen Risiko di BPR dan BPRS

ESG Series Integrasi ESG dalam Manajemen Risiko: Membangun Keberlanjutan dan Resiliensi Perusahaan