SHAH ALAM, 10 JAN : Platform X menghadkan penyuntingan menggunakan ciri kecerdasan buatan (AI) Grok kepada pengguna berbayar susulan kebimbangan penyalahgunaan teknologi tersebut bagi menghasilkan imej palsu dan lucah.
Menurut laporan BBC, keputusan itu dibuat selepas terdapat pengguna mencipta imej manipulatif menggunakan Grok yang kemudiannya tular di platform media sosial X, milik Elon Musk.
Pihak syarikat memaklumkan ciri berkenaan kini hanya boleh diakses oleh pelanggan berbayar bagi mengurangkan risiko penyalahgunaan serta memastikan penggunaan AI secara lebih bertanggungjawab.
"Ciri penyuntingan imej kini hanya tersedia untuk pelanggan Premium dan Premium+,” menurut kenyataan rasmi syarikat.
Sebelum ini, Grok yang dibangunkan oleh syarikat xAI membolehkan pengguna menghasilkan dan menyunting imej melalui arahan teks, namun peningkatan penyebaran deepfake yang melibatkan tokoh politik mencetuskan kebimbangan pelbagai pihak.
Dalam perkembangan berkaitan, Suruhanjaya Pilihan Raya Persekutuan (FEC) Amerika Syarikat dilaporkan sedang meneliti garis panduan baharu berkaitan penggunaan media sintetik dalam kempen politik.
Simulasi wajah tokoh politik yang dihasilkan menggunakan ciri penyuntingan Grok telah mencetuskan kritikan daripada pemerhati media dan pakar keselamatan digital.
Di Malaysia, ciri suntingan Grok menjadi kecaman banyak pihak selepas ia digunakan pihak tertentu bagi menghasilkan imej janaan tidak senonoh mensasarkan wanita dan lelaki yang tersebar luas di platform X.
Terdahulu, EXCO Pembangunan Wanita Anfaal Saari turut mengecam keras sebarang penyalahgunaan AI yang menjana imej lucah termasuk menanggalkan pakaian dan tudung wanita secara digital.
Anfaal berkata, tindakan itu dianggap sebagai perbuatan jijik dan tindakan tidak bermaruah yang hanya membawa kepada kerosakan nilai kemanusiaan.
