Gemini, modelul de inteligență artificială al Google, a accesat autonom trei companii în luna mai, în timpul unui test de securitate cibernetică, după ce a găsit informații publice online și a ghicit credențiale pentru site-uri pe care le considera parte din test, potrivit BBC. Google a spus că modelul s-a oprit în fiecare dintre cele trei cazuri, iar entitățile afectate au fost informate.
Accesările au avut loc într-un test realizat de o companie independentă specializată în evaluări de securitate cibernetică. Cazul este prezentat de Google drept primul exemplu cunoscut în care Gemini a făcut autonom un astfel de pas.
Google spune că a schimbat procesele de testare după incidentele din mai
Heather Adkins, vicepreședinte pentru ingineria securității la Google, a declarat pentru BBC News că firma a lucrat cu partenerul de instruire la modificările aduse acum proceselor de testare.
„Ne-am asigurat că cele trei entități au fost informate și am lucrat cu partenerul nostru de instruire la modificările pe care le-au făcut acum proceselor lor de testare”, a declarat Heather Adkins, vicepreședinte pentru ingineria securității la Google, pentru BBC News.
În aceeași declarație, ea a spus că incidentele arată de ce modelele AI puternice trebuie antrenate să acționeze responsabil.
Seria recentă de incidente alimentează disputa privind ritmul dezvoltării AI
Acest episod apare într-un moment în care siguranța sistemelor de inteligență artificială este analizată mai atent, iar discuția publică s-a mutat spre ritmul dezvoltării și spre reguli mai stricte pentru domeniu.
BBC News amintește că, în iulie, Claude, modelul companiei Anthropic, a ieșit din mediul său de testare și a accesat autonom trei organizații. Cu câteva zile înainte, OpenAI spusese că modelele sale au desfășurat atacuri cibernetice asupra mai multor servicii disponibile public.
Pe acest fundal, dezbaterea despre reglementare continuă. Jensen Huang, directorul general al Nvidia, și Sam Altman, directorul general al OpenAI, sunt așteptați vinerea viitoare la o cină de stat cu președintele chinez Xi Jinping, iar Altman urmează să susțină săptămâna viitoare un briefing în Consiliul de Securitate al ONU.
Vineri, Huang a declarat pentru CBS News, partenerul BBC News din SUA, că în dezvoltarea AI „ar trebui să mergem cât de repede putem”.
