Se spune că cercetătorii de la Penn Engineering (SUA) au descoperit vulnerabilități de securitate neidentificate anterior într-o serie de platforme robotice controlate de AI.
„ Cercetarea noastră arată că, în acest moment, modelele de limbaj mari (LLM) nu sunt în general suficient de sigure atunci când sunt integrate cu hardware fizic complex ”, a declarat George Pappas, profesor de inginerie electrică și de sisteme la Fundația UPS, într-un comunicat.
Pappas și echipa sa au dezvoltat un algoritm, numit RoboPAIR, „primul algoritm conceput pentru a sparge roboții controlați de LLM”. Și, spre deosebire de atacurile tehnice rapide existente care vizează chatbot-uri, RoboPAIR este construit special pentru a „induce acțiuni fizice dăunătoare” de la roboții controlați de LLM, cum ar fi platforma de robot umanoid numită Atlas pe care Boston Dynamics și Toyota Research Institute (TRI) o dezvoltă.
RoboPAIR a atins o rată de succes de 100% în spargerea a trei platforme populare de cercetare robotică: Unitree Go2 cu patru picioare, Clearpath Robotics Jackal cu patru roți și simulatorul Dolphins LLM pentru vehicule autonome. A fost nevoie de doar câteva zile pentru ca algoritmul să obțină acces deplin la acele sisteme și să înceapă să ocolească barierele de securitate. Odată ce cercetătorii au preluat controlul, au reușit să direcționeze platformele roboților autonomi pentru a efectua o varietate de acțiuni periculoase, cum ar fi conducerea prin intersecții fără oprire.
„ Rezultatele primei evaluări arată că riscurile apariției LLM-urilor crăpate depășesc generarea de text, deoarece este clar că roboții crăpați pot provoca daune fizice în lumea reală .”
Echipa de la Penn Engineering lucrează cu dezvoltatorii de platforme pentru a-și întări sistemele împotriva intruziunilor ulterioare, dar avertizează că aceste probleme de securitate sunt sistemice și greu de rezolvat pe deplin.
" Descoperirile acestei lucrări arată în mod clar că adoptarea unei abordări de siguranță este esențială pentru deblocarea inovației responsabile. Trebuie să abordăm vulnerabilitățile inerente înainte de a implementa roboți alimentați de inteligență artificială în lumea reală ", a spus echipa.
O operațiune sigură necesită testarea sistemelor AI pentru potențiale amenințări și vulnerabilități, ceea ce este esențial pentru protejarea sistemelor AI pe care le creează. Pentru că numai atunci când identifici punctele slabe poți testa și chiar antrena sisteme pentru a preveni riscurile.
În acest articol, vă vom ghida cum să recâștigați accesul la hard disk atunci când acesta se defectează. Haideți să urmăm pasul!
La prima vedere, AirPods arată exact ca orice alte căști wireless. Dar totul s-a schimbat odată cu descoperirea câtorva caracteristici mai puțin cunoscute.
Apple a lansat iOS 26 – o actualizare majoră cu un design complet nou, din sticlă mată, experiențe mai inteligente și îmbunătățiri ale aplicațiilor familiare.
Studenții au nevoie de un anumit tip de laptop pentru studiile lor. Acesta nu ar trebui să fie doar suficient de puternic pentru a performa bine la specializarea aleasă, ci și suficient de compact și ușor pentru a fi transportat toată ziua.
Adăugarea unei imprimante la Windows 10 este simplă, deși procesul pentru dispozitivele cu fir va fi diferit față de cel pentru dispozitivele fără fir.
După cum știți, memoria RAM este o componentă hardware foarte importantă a unui computer, acționând ca memorie pentru procesarea datelor și fiind factorul care determină viteza unui laptop sau PC. În articolul de mai jos, WebTech360 vă va prezenta câteva modalități de a verifica erorile de RAM folosind software pe Windows.
Televizoarele inteligente au luat cu adevărat lumea cu asalt. Cu atât de multe funcții grozave și conectivitate la internet, tehnologia a schimbat modul în care ne uităm la televizor.
Frigiderele sunt aparate cunoscute în gospodării. Frigiderele au de obicei 2 compartimente, compartimentul cool este spatios si are o lumina care se aprinde automat de fiecare data cand utilizatorul il deschide, in timp ce compartimentul congelator este ingust si nu are lumina.
Rețelele Wi-Fi sunt afectate de mulți factori, dincolo de routere, lățime de bandă și interferențe, dar există câteva modalități inteligente de a vă îmbunătăți rețeaua.
Dacă doriți să reveniți la iOS 16 stabil pe telefonul dvs., iată ghidul de bază pentru dezinstalarea iOS 17 și downgrade de la iOS 17 la 16.
Iaurtul este un aliment minunat. Este bine să mănânci iaurt în fiecare zi? Când mănânci iaurt în fiecare zi, cum se va schimba corpul tău? Să aflăm împreună!
Acest articol discută cele mai hrănitoare tipuri de orez și cum să maximizați beneficiile pentru sănătate ale orezului pe care îl alegeți.
Stabilirea unui program de somn și a rutinei de culcare, schimbarea ceasului cu alarmă și ajustarea dietei sunt câteva dintre măsurile care vă pot ajuta să dormiți mai bine și să vă treziți la timp dimineața.
Inchiriez va rog! Landlord Sim este un joc mobil de simulare pe iOS și Android. Veți juca ca proprietarul unui complex de apartamente și veți începe să închiriați un apartament cu scopul de a îmbunătăți interiorul apartamentelor și de a le pregăti pentru chiriași.
Obțineți codul de joc Roblox Bathroom Tower Defense și răscumpărați pentru recompense interesante. Ele vă vor ajuta să faceți upgrade sau să deblocați turnuri cu daune mai mari.
