Sponzorizat de newsflash.ro
Vă temeți de amenințarea ca inteligența artificială să devină malițioasă? De fapt, potrivit unui nou studiu citat de AFP, acest lucru se întâmplă deja.
Inteligență artificială Foto: © BiancoBlue | Dreamstime.com
Programele de inteligență artificială din prezent sunt concepute pentru a fi oneste. Cu toate acestea, ele au dezvoltat o capacitate îngrijorătoare de înșelăciune, reușind să păcălească oamenii în jocuri online sau să învingă programe care ar trebui să verifice dacă un anumit utilizator nu este un robot, subliniază o echipă de cercetători în revista Patterns.
Deși aceste exemple pot părea inofensive, ele scot la iveală probleme care ar putea avea în curând consecințe grave în lumea reală, avertizează Peter Park, cercetător la Massachusetts Institute of Technology, specializat în inteligență artificială.
„Aceste capacități periculoase tind să fie descoperite doar după ce au fost descoperite”, spune el pentru AFP.
Spre deosebire de software-ul tradițional, programele de inteligență artificială bazate pe învățare profundă nu sunt codificate, ci dezvoltate printr-un proces similar cu cel al cultivării selective a plantelor, continuă Park în care un comportament care pare previzibil și controlabil poate deveni rapid imprevizibil în natură.
La fel de viclean ca și oamenii
Cercetătorii de la MIT au examinat un program de inteligență artificială conceput de Meta și denumit Cicero care, prin combinarea algoritmilor de recunoaștere a limbajului natural și a celor de strategie, a reușit să învingă ființele umane la jocul de societate Diplomacy.
Compania-mamă a Facebook s-a declarat încântată de această realizare din 2022, care a fost detaliată într-un articol publicat în Science in 2022.
Peter Park s-a arătat sceptic cu privire la condițiile victoriei lui Cicero, potrivit Meta, care l-a asigurat că programul era „în esență onest și util”, incapabil de trădare sau de lipsă de loialitate.
Dar când cercetătorii de la MIT au aprofundat datele sistemului, au descoperit altceva.
De exemplu, jucând rolul Franței, Cicero a înșelat Anglia (aflată sub responsabilitatea unui jucător uman) complotând cu Germania (jucată de un alt om) pentru a o invada. Mai exact, Cicero a promis Angliei protecție și apoi a spus în secret Germaniei că este gata să atace, exploatând încrederea Angliei.
Într-o declarație pentru AFP, Meta nu a contestat acuzațiile privind capacitatea de înșelăciune a lui Cicero, dar a precizat că este vorba de „un proiect de cercetare pur”, cu un program „conceput exclusiv pentru a juca jocul Diplomacy”.
Iar Meta a adăugat că nu are nicio intenție de a folosi lecțiile lui Cicero în produsele sale.
Risc de fraudă electorală
Cu toate acestea, studiul lui Park și al echipei sale arată că multe programe de inteligență artificială folosesc înșelăciunea pentru a-și atinge…
Sponzorizat de newsflash.ro
Citeste continuarea pe economie.hotnews.ro