Malaysia bersedia membentang rang undang-undang AI, tumpuan beralih kepada akauntabiliti lembaga
Menjelang pembentangan rang undang-undang tadbir urus kecerdasan buatan di Malaysia pada awal 2027, perhatian semakin tertumpu kepada bagaimana institusi menetapkan tanggungjawab apabila sistem AI mempengaruhi keputusan material. Perbahasan itu melangkaui pematuhan undang-undang semata-mata, kerana isu terasnya ialah sama ada lembaga pengarah, pengurusan dan organisasi benar-benar bersedia menyelia risiko yang timbul daripada penggunaan teknologi tersebut.
Sorotan
- Kerajaan Malaysia dijangka membentangkan Rang Undang-Undang Tadbir Urus Kecerdasan Buatan berasaskan risiko di Dewan Rakyat pada awal 2027.
- Pengarah dan lembaga syarikat tetap bertanggungjawab terhadap risiko AI, dengan penekanan pada pengawasan, akauntabiliti dan usaha wajar di bawah Akta Syarikat 2016 dan Seksyen 17A Akta SPRM.
- Suruhanjaya Sekuriti Malaysia dan Bank Negara Malaysia menegaskan bahawa pengawasan AI dan pendedahan tadbir urus syarikat mesti menjadi tumpuan utama lembaga, tidak boleh diserah kepada algoritma.
Rangka kerja AI dan persoalan tanggungjawab lembaga
Seperti yang dilaporkan oleh The Edge Malaysia, kerajaan sedang menyediakan Rang Undang-Undang Tadbir Urus Kecerdasan Buatan yang menurut Menteri Digital Gobind Singh Deo dijangka dibentangkan di Dewan Rakyat pada awal 2027. Rang undang-undang itu bertujuan mengambil pendekatan berasaskan risiko merentas sektor dan melengkapi undang-undang sedia ada, manakala kertas perundingan Julai mencadangkan prinsip tadbir urus kebangsaan, pengawasan berpusat dan kewajipan yang berkadar dengan tahap risiko.Perbincangan mengenai akauntabiliti AI turut menjadi tema berulang pada Financial Lines Forum sulung di Kuala Lumpur. Dalam ucapan khasnya, Tan Sri Abdul Rashid Hussain berkata kegagalan tadbir urus lazimnya bukan berlaku kerana ketiadaan peraturan, sebaliknya dalam ruang yang tidak dicapai oleh peraturan, sambil mengaitkan isu itu dengan persoalan sama ada lembaga melihat risiko tetapi tidak bertindak.
Kertas perundingan itu dengan jelas menyatakan bahawa tanggungjawab terhadap AI perlu kekal pada manusia yang boleh dikenal pasti, bukannya pada sistem AI itu sendiri. Bagi syarikat yang menggunakan AI, ini meletakkan bilik lembaga sebagai pusat penelitian, terutamanya apabila teknologi itu sudah mempengaruhi kelulusan kredit, penandaan transaksi serta maklumat yang disampaikan kepada pelanggan dan pesakit.
Di bawah Akta Syarikat 2016, pengarah mempunyai kewajipan penjagaan, kemahiran dan ketekunan yang munasabah. Rencana itu berhujah bahawa kewajipan tersebut tidak menjadikan pengarah bertanggungjawab secara peribadi terhadap setiap kesilapan sistem, tetapi menjadikan pengawasan mereka terhadap risiko material sebagai perkara yang wajar disemak.
Seksyen 216 Akta Syarikat, walaupun merujuk kepada delegasi kuasa kepada individu dan bukannya sistem, menyediakan analogi penting tentang keperluan menilai kuasa yang diserahkan, asas penyerahan itu dan perlindungan yang diwujudkan. Dalam konteks AI, persoalan lembaga kekal sama, iaitu apakah kuasa yang diberikan kepada sistem, atas alasan apa dan dengan kawalan bagaimana.
Implikasi tadbir urus kepada syarikat dan pengawal selia
Rencana itu menggariskan beberapa contoh yang menunjukkan bagaimana risiko AI boleh muncul dari luar atau dari dalam organisasi. Pada awal 2024, seorang pekerja di pejabat Arup di Hong Kong diperdaya melalui sidang video prarakaman yang menggunakan deepfake untuk menyamar sebagai pengurusan kanan dan meluluskan pemindahan kira-kira US$25 juta, manakala pada tahun yang sama tribunal Kanada memutuskan Air Canada bertanggungjawab terhadap maklumat tambang kematian yang mengelirukan yang dibekalkan oleh chatbot laman webnya.Kedua-dua kes itu mengukuhkan hujah bahawa organisasi tidak boleh melepaskan tanggungjawab kepada teknologi. Rencana itu juga menarik amaran daripada Seksyen 17A Akta SPRM, yang meletakkan beban kepada pengarah dan pegawai untuk menunjukkan mereka telah menjalankan usaha wajar, sekali gus menunjukkan bahawa alasan seperti "saya tidak tahu" atau "algoritma yang melakukannya" tidak mencukupi dengan sendirinya.
Abdul Rashid mencadangkan empat soalan utama untuk lembaga, iaitu di mana AI digunakan, siapa yang bertanggungjawab, bagaimana organisasi mengetahui jika sesuatu silap berlaku, dan sama ada keputusan sistem boleh dijelaskan kepada pengawal selia, pelanggan atau mahkamah. Lembaga, menurut rencana itu, perlu menuntut jawapan yang boleh diuji daripada pihak pengurusan dan bukan sekadar menerima jaminan umum.
Pengawal selia Malaysia juga sudah mula menekankan isu yang sama. Suruhanjaya Sekuriti Malaysia dalam perundingan Julainya mencadangkan jangkaan yang lebih jelas terhadap pengawasan teknologi oleh lembaga dan pendedahan syarikat tersenarai mengenai penggunaan serta tadbir urus AI, sementara gabenor Bank Negara Malaysia dalam ucapan 8 Julai kepada industri perbankan menegaskan bahawa AI "terletak kukuh dalam agenda lembaga" dan bahawa "tanggungjawab tidak boleh didelegasikan kepada algoritma".
Rencana itu seterusnya menyenaraikan beberapa pertimbangan praktikal, termasuk menamakan pegawai kanan yang boleh dikenal pasti bagi penggunaan berisiko tinggi, memastikan pembekal mendedahkan batasan material, menjadikan pengawasan manusia benar-benar berkesan, menilai kecergasan dan kesesuaian pengarah secara berterusan, serta memahami had perlindungan insurans D&O. Ia juga menekankan keperluan menyediakan laluan semakan manusia yang bermakna bagi individu yang terkesan oleh keputusan AI, termasuk keupayaan mendapatkan alasan berguna, membetulkan maklumat yang tidak tepat dan memperoleh pertimbangan semula oleh pihak yang berkuasa mengubah keputusan.
Pada akhirnya, hujah utama rencana itu ialah undang-undang hanya menetapkan rangka kerja, manakala integriti, keberanian dan tabiat mempersoalkan andaian perlu dibina dalam budaya institusi. Dengan rang undang-undang itu dijangka dibentangkan awal tahun depan, mesejnya ialah lembaga tidak perlu menunggu perundangan baharu untuk mula membuktikan bahawa mereka memahami, mencabar dan menyelia penggunaan AI secara bertanggungjawab.
Sebagai peringatan, kami pernah melaporkan mengenai penurunan nilai bon Zetrix AI kepada sifar yang menekan NAV dana AmanahRaya.
Berita Terkini Malaysia
- Forex
- Crypto