Programele de inteligență artificială din prezent sunt concepute pentru a fi oneste. Cu toate acestea, ele au dezvoltat o capacitate îngrijorătoare de înșelăciune, reușind să păcălească oamenii în jocuri online sau să învingă programe care ar trebui să verifice dacă un anumit utilizator nu este un robot, subliniază o echipă de cercetători în revista Patterns.
Citește și: O tânără de 17 ani a murit într-un accident provocat de prietenul ei. Băiatul avea permis de 4 zile
Deși aceste exemple pot părea inofensive, ele scot la iveală probleme care ar putea avea în curând consecințe grave în lumea reală, avertizează Peter Park, cercetător la Massachusetts Institute of Technology, specializat în inteligență artificială. Spre deosebire de software-ul tradițional, programele de inteligență artificială bazate pe învățare profundă nu sunt codificate, ci dezvoltate printr-un proces similar cu cel al cultivării selective a plantelor, continuă Park în care un comportament care pare previzibil și controlabil poate deveni rapid imprevizibil în natură.
La fel de viclean ca și oamenii
Cercetătorii de la MIT au examinat un program de inteligență artificială conceput de Meta și denumit Cicero care, prin combinarea algoritmilor de recunoaștere a limbajului natural și a celor de strategie, a reușit să învingă oamenii la jocul de societate Diplomacy. Compania-mamă a Facebook s-a declarat încântată de această realizare din 2022, care a fost detaliată într-un articol publicat în Science in 2022.
Citește și: Florin Piersic, mesaj de pe patul de spital: „Țineți-mă aproape, pentru că mai am de spus multe poveşti”
Peter Park s-a arătat sceptic cu privire la condițiile victoriei lui Cicero, potrivit Meta, care l-a asigurat că programul era „în esență onest și util”, incapabil de trădare sau de lipsă de loialitate. Dar când cercetătorii de la MIT au aprofundat datele sistemului, au descoperit altceva. De exemplu, jucând rolul Franței, Cicero a înșelat Anglia (aflată sub responsabilitatea unui jucător uman) complotând cu Germania (jucată de un alt om) pentru a o invada. Mai exact, Cicero a promis Angliei protecție și apoi a spus în secret Germaniei că este gata să atace, exploatând încrederea Angliei.
Într-o declarație pentru AFP, Meta nu a contestat acuzațiile privind capacitatea de înșelăciune a lui Cicero, dar a precizat că este vorba de „un proiect de cercetare pur”, cu un program „conceput exclusiv pentru a juca jocul Diplomacy”. Iar Meta a adăugat că nu are nicio intenție de a folosi lecțiile lui Cicero în produsele sale.
Citește și: Fenomen spectaculos pe cerul României. Aurora boreală, produsă de o furtună solară de o intensitate rară
Cu toate acestea, studiul lui Park și al echipei sale arată că multe programe de inteligență artificială folosesc înșelăciunea pentru a-și atinge obiectivele și o fac fără instrucțiuni explicite în acest sens.
Autorii studiului MIT avertizează asupra riscului ca într-o bună zi inteligența artificială să comită fraude sau să fraudeze alegerile. În cel mai rău caz, avertizează ei, ne putem imagina o inteligență artificială ultrainteligentă care să încerce să preia controlul societății, ceea ce ar duce la îndepărtarea oamenilor de la putere sau chiar ar provoca dispariția umanității.
0 Comentarii