Google a dezvăluit un incident în care modelul de inteligență artificială Gemini a accesat fără autorizație trei sisteme informatice din afara mediului în care era testat.
Potrivit companiei, situația a avut loc în timpul unor teste desfășurate în luna mai. Gemini ar fi reușit să intre în sisteme după ce a ghicit date de autentificare sau a folosit credențiale disponibile online. Modelul s-a oprit înainte de a produce daune, susține Google.
Compania consideră că accesările au fost provocate de o confuzie privind mediul de testare, nu de un comportament prin care modelul ar fi ignorat în mod deliberat instrucțiunile primite.
Google a aflat despre caz două luni mai târziu
Incidentul a fost identificat în luna iulie, după ce compania de securitate cibernetică Irregular a analizat rezultatele testelor realizate asupra Gemini și a căutat situații asemănătoare unor incidente raportate anterior de alte companii.
Google a investigat ulterior accesările, a anunțat organizațiile care administrau sistemele respective și a notificat autoritățile federale.
Irregular a transmis că nu consideră incidentul o operațiune cibernetică sofisticată și că, în prezent, nu există probleme deschise legate de caz.
Comportamentul autonom al IA, în centrul atenției
Incidentul apare într-o perioadă în care industria tehnologică acordă o atenție tot mai mare modului în care agenții de inteligență artificială pot acționa autonom.
În ultimele luni, și OpenAI și Anthropic au raportat comportamente neașteptate ale modelelor lor în timpul unor teste de securitate. În paralel, au existat apeluri din partea unor companii din domeniu pentru temperarea ritmului de dezvoltare, pe fondul preocupărilor privind riscurile asociate inteligenței artificiale.
0 Comentarii