România și alte 22 de țări cer reguli mai stricte pentru AI: „Trebuie să rămână sub controlul oamenilor”

România s-a alăturat unui grup de 22 de țări care cer reguli mai stricte pentru cele mai avansate sisteme de inteligență artificială. Declarația a fost adoptată la New York, în marja Adunării Generale a ONU, iar unul dintre principalele obiective este ca dezvoltarea AI să rămână sub controlul oamenilor.

Lideri și oficiali din peste 20 de state, alături de președinta Comisiei Europene, Ursula von der Leyen, au solicitat un control mai strict asupra așa-numitelor „modele de frontieră” ale inteligenței artificiale.

Semnatarii avertizează că sistemele avansate de AI pot genera riscuri serioase de securitate dacă dezvoltarea lor ajunge să depășească posibilitatea companiilor care le creează de a le controla. Potrivit documentului, companiile ar urma să fie obligate să efectueze teste înainte de lansarea modelelor AI de frontieră. Sunt propuse, de asemenea, evaluări independente ale acestor sisteme.

Ce măsuri sunt propuse pentru controlul AI

Declarația solicită stabilirea unor standarde comune pentru dezvoltarea inteligenței artificiale. Companiile ar urma să respecte reguli de transparență și să raporteze incidentele grave provocate de sistemele AI. Un alt punct important este propunerea privind crearea unei instituții internaționale dedicate inteligenței artificiale. Aceasta ar putea stabili standarde, verifica respectarea regulilor și convoca reuniuni atunci când sistemele AI depășesc anumite praguri de risc.

Documentul a fost semnat de Ursula von der Leyen, dar și de reprezentanți ai unor state precum Norvegia, Finlanda, Australia, Canada, Danemarca, Olanda și Spania. Printre semnatari se află și președinta Republicii Moldova, Maia Sandu. Statele Unite și China nu se numără printre țările care au semnat declarația. Deocamdată, nici Marea Britanie, Franța sau Italia nu figurează printre semnatari.

Inițiativa rămâne deschisă și altor state care doresc să se alăture. Declarația internațională are la bază două principii: inteligența artificială trebuie să rămână sub control uman, iar dezvoltarea acesteia trebuie să respecte dreptul internațional.