Platform media sosial tidak ambil serius isu kandungan AI – Fahmi

KUALA LUMPUR – Sebahagian platform media sosial didapati tidak mengambil serius masalah keselamatan dalam talian khususnya melibatkan kandungan yang dihasilkan melalui kecerdasan buatan (AI)

Menteri Komunikasi, Datuk Fahmi Fadzil berkata, perkara itu dikesan berdasarkan pengamatan kementerian, Suruhanjaya Komunikasi dan Multimedia (MCMC) dan beliau sendiri.

“Ini kita lihat apabila Yang di-Pertuan Agong, Sultan Ibrahim menjadi mangsa penipuan ‘deepfake’ (palsu asli).

“Kandungannya seolah-olah Yang di-Pertuan Agong menjual saham pelaburan. Begitu juga seolah-olah Perdana Menteri menjual saham pelaburan,” katanya pada sidang Dewan Negara di sini hari ini.

Beliau menjawab soalan tambahan
Senator Rita Sarimah Patrick Insol adakah platform media sosial telah melakukan yang secukupnya untuk menangani penipuan menggunakan teknologi AI.

Fahmi berkata, Akta Keselamatan Dalam Talian 2025 (Akta 866) yang dijangka akan berkuat kuasa bermula hujung tahun ini atau awal 2026 akan dapat mengatasi itu itu.

Menurut beliau, semua pemegang lesen media sosial dan platform pemesejan dalam talian akan diarahkan mengguna pakai label dijana oleh AI atau dipertingkatkan oleh AI dibawah akta itu.

Terdahulu, Fahmi berkata, penyebaran pelbagai maklumat tidak benar, penipuan, penyalahgunaan platform, unsur provokasi serta ancaman keselamatan di media sosial memerlukan perhatian serius.

Kata beliau, perkembangan pesat kandungan dijana teknologi AI mempercepatkan penciptaan dan penyebaran kandungan yang bersifat manipulatif.

Jelasnya, ia sekali gus meningkatkan potensi penyebaran maklumat yang boleh mengelirukan pengguna serta menggugat keharmonian awam.

“Bagi tempoh 1 Januari 2024 sehingga 31 Ogos 2025, penyedia platform media sosial telah mengambil tindakan penurunan terhadap 1,346 kandungan penipuan yang dimanipulasi menggunakan AI berikutan permohonan MCMC.

“Namun, tindakan penurunan kandungan juga tertakluk kepada penilaian dan pertimbangan penyedia perkhidmatan media sosial berdasarkan garis panduan komuniti masing-masing dan aplikasi undang-undang tempatan yang relevan,” katanya.

Justeru, kata beliau, pelabelan kandungan yang dijana secara automatik menggunakan teknologi AI akan membantu pengguna mengenal pasti kandungan yang berpotensi mengelirukan, manipulatif atau tidak sahih.

Ujar beliau, langkah itu selaras dengan usaha mengurangkan risiko penyebaran maklumat tidak tepat atau kandungan memudaratkan di platform dalam talian.

“Bagi memastikan ketelusan dan akauntabiliti penyedia perkhidmatan dalam memenuhi obligasi keselamatan dalam talian, penyedia perkhidmatan hendaklah menyediakan suatu pelan keselamatan dalam talianmengenai pematuhan mereka terhadap Akta 866,” katanya. – KOSMO! ONLINE