Se spune că cercetătorii de la Penn Engineering (SUA) au descoperit vulnerabilități de securitate neidentificate anterior într-o serie de platforme robotice controlate de AI.
„ Cercetarea noastră arată că, în acest moment, modelele de limbaj mari (LLM) nu sunt în general suficient de sigure atunci când sunt integrate cu hardware fizic complex ”, a declarat George Pappas, profesor de inginerie electrică și de sisteme la Fundația UPS, într-un comunicat.
Pappas și echipa sa au dezvoltat un algoritm, numit RoboPAIR, „primul algoritm conceput pentru a sparge roboții controlați de LLM”. Și, spre deosebire de atacurile tehnice rapide existente care vizează chatbot-uri, RoboPAIR este construit special pentru a „induce acțiuni fizice dăunătoare” de la roboții controlați de LLM, cum ar fi platforma de robot umanoid numită Atlas pe care Boston Dynamics și Toyota Research Institute (TRI) o dezvoltă.
RoboPAIR a atins o rată de succes de 100% în spargerea a trei platforme populare de cercetare robotică: Unitree Go2 cu patru picioare, Clearpath Robotics Jackal cu patru roți și simulatorul Dolphins LLM pentru vehicule autonome. A fost nevoie de doar câteva zile pentru ca algoritmul să obțină acces deplin la acele sisteme și să înceapă să ocolească barierele de securitate. Odată ce cercetătorii au preluat controlul, au reușit să direcționeze platformele roboților autonomi pentru a efectua o varietate de acțiuni periculoase, cum ar fi conducerea prin intersecții fără oprire.
„ Rezultatele primei evaluări arată că riscurile apariției LLM-urilor crăpate depășesc generarea de text, deoarece este clar că roboții crăpați pot provoca daune fizice în lumea reală .”
Echipa de la Penn Engineering lucrează cu dezvoltatorii de platforme pentru a-și întări sistemele împotriva intruziunilor ulterioare, dar avertizează că aceste probleme de securitate sunt sistemice și greu de rezolvat pe deplin.
" Descoperirile acestei lucrări arată în mod clar că adoptarea unei abordări de siguranță este esențială pentru deblocarea inovației responsabile. Trebuie să abordăm vulnerabilitățile inerente înainte de a implementa roboți alimentați de inteligență artificială în lumea reală ", a spus echipa.
O operațiune sigură necesită testarea sistemelor AI pentru potențiale amenințări și vulnerabilități, ceea ce este esențial pentru protejarea sistemelor AI pe care le creează. Pentru că numai atunci când identifici punctele slabe poți testa și chiar antrena sisteme pentru a preveni riscurile.
Televizoarele inteligente au luat cu adevărat lumea cu asalt. Cu atât de multe funcții grozave și conectivitate la internet, tehnologia a schimbat modul în care ne uităm la televizor.
Frigiderele sunt aparate cunoscute în gospodării. Frigiderele au de obicei 2 compartimente, compartimentul cool este spatios si are o lumina care se aprinde automat de fiecare data cand utilizatorul il deschide, in timp ce compartimentul congelator este ingust si nu are lumina.
Rețelele Wi-Fi sunt afectate de mulți factori, dincolo de routere, lățime de bandă și interferențe, dar există câteva modalități inteligente de a vă îmbunătăți rețeaua.
Dacă doriți să reveniți la iOS 16 stabil pe telefonul dvs., iată ghidul de bază pentru dezinstalarea iOS 17 și downgrade de la iOS 17 la 16.
Iaurtul este un aliment minunat. Este bine să mănânci iaurt în fiecare zi? Când mănânci iaurt în fiecare zi, cum se va schimba corpul tău? Să aflăm împreună!
Acest articol discută cele mai hrănitoare tipuri de orez și cum să maximizați beneficiile pentru sănătate ale orezului pe care îl alegeți.
Stabilirea unui program de somn și a rutinei de culcare, schimbarea ceasului cu alarmă și ajustarea dietei sunt câteva dintre măsurile care vă pot ajuta să dormiți mai bine și să vă treziți la timp dimineața.
Inchiriez va rog! Landlord Sim este un joc mobil de simulare pe iOS și Android. Veți juca ca proprietarul unui complex de apartamente și veți începe să închiriați un apartament cu scopul de a îmbunătăți interiorul apartamentelor și de a le pregăti pentru chiriași.
Obțineți codul de joc Roblox Bathroom Tower Defense și răscumpărați pentru recompense interesante. Ele vă vor ajuta să faceți upgrade sau să deblocați turnuri cu daune mai mari.
Să învățăm despre structura, simbolurile și principiile de funcționare ale transformatoarelor în cel mai precis mod.
De la o calitate mai bună a imaginii și a sunetului la controlul vocal și multe altele, aceste funcții bazate pe inteligență artificială fac televizoarele inteligente mult mai bune!
Inițial, oamenii aveau mari speranțe în DeepSeek. Fiind un chatbot AI comercializat ca un concurent puternic pentru ChatGPT, acesta promite capacități și experiențe inteligente de chat.
Este ușor să ratezi detalii importante atunci când notezi alte elemente esențiale, iar încercarea de a lua notițe în timpul conversației poate fi distragerea atenției. Fireflies.ai este soluția.
Axolot Minecraft va fi un asistent excelent pentru jucători atunci când operează sub apă, dacă știu să le folosească.
Un loc liniștit: configurația Road Ahead este foarte apreciată, așa că va trebui să luați în considerare configurația înainte de a decide să descărcați.
