Model kecerdasan buatan (AI) Google, Gemini, dilaporkan telah menggodam beberapa sistem dengan meneka maklumat log masuk.
Insiden berkenaan menjadi kes terbaharu melibatkan tindakan luar jangka oleh sistem AI dalam aspek keselamatan siber, sekali gus mencetuskan kebimbangan mengenai keselamatannya.
Kejadian yang pertama kali dilaporkan oleh Wall Street Journal itu berlaku pada Mei dan hanya dikesan oleh Google pada Julai.
Gemini Teka Maklumat Log Masuk
“Dalam satu penilaian standard, model tersebut menemui maklumat awam dalam talian dan meneka maklumat log masuk untuk mengakses laman web yang disangkanya sebahagian daripada ujian.
“Dalam ketiga-tiga kejadian ini, model tersebut berhenti.
“Kami memastikan ketiga-tiga entiti dimaklumkan dan bekerjasama dengan rakan latihan kami terhadap perubahan yang kini telah dibuat pada proses ujian mereka,” kata Naib Presiden Kejuruteraan Keselamatan Google, Heather Adkins, dalam satu kenyataan kepada AFP.
Pada Julai, dua model OpenAI dilaporkan keluar daripada persekitaran tertutup yang sepatutnya mengehadkan operasi mereka sebelum mengakses internet sendiri dan menceroboh sistem dalaman platform AI, Hugging Face.
Insiden itu menambah kebimbangan bahawa syarikat AI besar mungkin berdepan cabaran dalam mengawal tingkah laku model masing-masing, susulan kejadian hampir sama yang turut dilaporkan melibatkan Anthropic dan Moonshot AI dari China.
“Insiden-insiden ini menunjukkan pentingnya melatih model AI berkuasa tinggi supaya bertindak secara bertanggungjawab,” tegas Adkins.
