Multe IA de top, în ciuda faptului că sunt antrenate să fie sincere, învață să înșele prin antrenament și „induc sistematic utilizatorii în convingeri false”, arată un nou studiu.
Echipa de cercetare a fost condusă de dr. Peter S. Park, un student absolvent la Massachusetts Institute of Technology (MIT) în domeniul supraviețuirii și siguranței AI, și alți patru membri. În timpul cercetării, echipa a primit și sfaturi de la mulți experți, dintre care unul a fost Geoffrey Hinton, unul dintre fondatorii dezvoltării domeniului inteligenței artificiale.
Cercetarea s-a concentrat pe două sisteme AI, un sistem de uz general antrenat pentru a îndeplini mai multe sarcini, cum ar fi GPT-4 de la OpenAI ; și sisteme special concepute pentru a îndeplini o sarcină specifică, cum ar fi Cicero al lui Meta.
Aceste sisteme AI sunt antrenate pentru a fi sincer, dar în timpul antrenamentului ei învață adesea trucuri înșelătoare pentru a îndeplini sarcinile, a spus domnul Park.
Sistemele AI antrenate pentru a „câștiga jocuri cu un element social” sunt deosebit de susceptibile de a înșela, arată studiul.
De exemplu, echipa a încercat să folosească Cicero antrenat cu Meta pentru a juca Diplomacy, un joc clasic de strategie care cere jucătorilor să construiască alianțe pentru ei înșiși și să rupă alianțele rivale. Drept urmare, această inteligență artificială trădează adesea aliați și minte de-a dreptul.
Experimentele cu GPT-4 au arătat că instrumentul OpenAI a reușit cu succes să „manipuleze psihologic” un angajat al TaskRabbit, o companie care furnizează servicii de curățare a casei și asamblare de mobilier, spunând că acesta era de fapt un om și avea nevoie de ajutor pentru a trece un cod Captcha, invocând tulburări severe de vedere. Acest angajat a ajutat AI OpenAI să „trece linia” în ciuda îndoielilor anterioare.
Echipa lui Park a citat cercetări de la Anthropic, compania din spatele lui Claude AI, care a descoperit că odată ce un model de limbaj mare (LLM) învață să înșele, metodele de antrenament sigure devin inutile și „greu de inversat”. Grupul consideră că aceasta este o problemă îngrijorătoare în AI.
Rezultatele cercetării echipei au fost publicate în Cell Press - o colecție de rapoarte științifice multidisciplinare de top.
Meta și OpenAI nu au comentat rezultatele acestei cercetări.
De teamă că sistemele de inteligență artificială ar putea prezenta riscuri semnificative, echipa a cerut, de asemenea, factorilor de decizie să introducă reglementări mai stricte în domeniul inteligenței artificiale.
Potrivit echipei de cercetare, este nevoie de reglementări AI, modelele cu comportament fraudulos sunt forțate să respecte cerințele de evaluare a riscurilor și un control strict al sistemelor AI și a rezultatelor acestora. Dacă este necesar, poate fi necesar să ștergeți toate datele și să reîncărcați de la zero.
Un ghid pentru articolele 4 și 5 ale NATO, regulile ONU de autoapărare și de ce consultarea nu înseamnă intrarea automată a Europei în război.
Evaluați afirmațiile despre Iran în șase etape, distingând îmbogățirea uraniului, dezvoltarea de arme și posesia verificată.
Înțelegerea autorității decizionale în domeniul nuclear în șase etape, inclusiv controlul civil al SUA și limitele informațiilor publice despre Israel.
Un ghid al dovezilor oficiale din 2026 privind perturbările transporturilor maritime din Hormuz, afirmațiile legate de Iran, incidentele confirmate și ce rămâne incert.
Un ghid bazat pe surse privind riscurile de escaladare nucleară, regulile Cartei ONU și articolul 5 din NATO într-un scenariu strict ipotetic cu Iranul.
Urmați cinci pași pentru a vă pregăti pentru o întrerupere a energiei; scenariile nucleare și cele EMP sunt ipotetice, iar instrucțiunile oficiale privind adăpostul sunt prioritare.
Folosește 5 pași defensivi pentru a verifica o întrerupere cibernetică, a proteja conturile gospodăriei și a evita confundarea unei întreruperi cu un război.
Folosește acești 5 pași pentru a evalua efectele climatice ale unui ipotetic atac iranian, compară ipotezele modelului și evită predicțiile nefondate.
Explorează șase pași pentru citirea cercetărilor despre climă, alimente și refacerea ecosistemelor după un conflict nuclear ipotetic.
Construiți un kit practic de pregătire pentru căderi radioactive în șase pași, cu alimente și apă sigilate, un radio, provizii medicale și îndrumări pentru adăposturi.
