Masalah terbesar AI bukan ketika AI menjadi seperti manusia. Masalahnya justru ketika manusia mulai menyadari bahwa untuk beberapa pekerjaan bukan lagi membutuhkan manusia.
Artificial Intelligent (AI). AI banyak dipakai untuk membantu membuat keputusan manusia. Pernahkan kita melihat paradox:
Sebuah sistem diciptakan oleh manusia, Model AI dilatih dengan data oleh manusia, parameter risiko ditentukan oleh manusia. Kebijakan bisnis dibuat oleh manusia, parameter pengawasan dibuat oleh manusia. Kemudian manusia membuat mesin itu berjalan untuk membantunya mengambil keputusan. Kalau sistemnya salah (dan manusia bingung), manusia bilang “kata sistem”. Kemudian, pernah gak kepikiran trus “sistem akan berkata atas nama siapa?”.
Pedoman Tata Kelola AI. Menariknya, ketika OJK menerbitkan Pedoman Tata Kelola AI Perbankan Indonesia, fokusnya bukan hanya pada kecanggihan teknologi. Justru yang banyak dibahas adalah tata kelola, akuntabilitas, pengawasan manusia, dan manajemen risiko. Seolah regulator ingin mengingatkan bahwa ketika organisasi mulai menggunakan AI, pertanyaan terpenting bukanlah “seberapa pintar sistem ini?”, melainkan “siapa yang bertanggung jawab atas keputusan yang dihasilkannya?”
Patuh biar utuh. Selama ini fungsi kepatuhan membantu memastikan manusia mematuhi aturan. Di era AI, fungsi yang sama juga harus membantu memastikan bahwa aturan, nilai, dan prinsip organisasi tetap hadir ketika sebagian keputusan mulai dibantu oleh mesin.
Tantangan. Mungkin masalah terbesar AI bukanlah ketika mesin mulai berpikir seperti manusia. Atau mungkin masalah terbesar justru muncul ketika manusia mulai berhenti berpikir karena terlalu percaya pada mesin.
Sebab pada akhirnya, ketika sesuatu berjalan baik, kita dengan bangga mengatakan bahwa itu hasil kerja tim. Tetapi ketika sesuatu berjalan salah (dan kita dibuat bingung), kita sering tergoda mengatakan: “Itu kata sistem.” Padahal jika sistem bisa menjawab, mungkin ia akan balik bertanya: “Kata siapa?”
Di era AI sekarang ini, jangan-jangan yang hilang bukan pekerjaan kita, melainkan tanggung jawab kita.
