Cerebras lansează cea mai rapidă tehnologie de inferență AI din lume, performanță de 20 ori mai mare decât NVIDIA

Cerebras Systems tocmai a anunțat oficial Cerebras Inference, care este considerată cea mai rapidă soluție de inferență AI din lume. Această Cerebras Inference oferă performanțe de până la 1.800 de jetoane pe secundă pentru modelele Llama 3.1 8B (8 miliarde de parametri) și 450 de jetoane pe secundă pentru Llama 3.1 70B, ceea ce este de aproape 20 de ori mai rapid decât soluțiile de inferență AI bazate pe GPU NVIDIA, inclusiv soluțiile de inferență AI bazate pe GPU-uri NVIDIA, inclusiv soluțiile de inferență AI la scară largă Microsoft Azure.

Pe lângă performanța sa incredibilă, prețul serviciului acestei noi soluții de inferență este, de asemenea, foarte ieftin, la o fracțiune din prețul platformelor populare de cloud GPU. De exemplu, un client poate obține un milion de jetoane pentru doar 10 cenți, oferind astfel o performanță de preț de 100 de ori mai mare pentru sarcinile de lucru AI.

Precizia de 16 biți a Cerebras și viteza de inferență de 20 ori mai mare le vor permite dezvoltatorilor să construiască aplicații AI de înaltă generație de înaltă generație, fără a compromite viteza sau costul. Acest raport revoluționar preț/performanță este posibil de sistemul Cerebras CS-3 și de procesorul AI Wafer Scale Engine 3 (WSE-3). CS-3 oferă de 7.000 de ori mai multă lățime de bandă de memorie decât Nvidia H100, rezolvând provocarea tehnică a lățimii de bandă a memoriei pentru IA generativă.

Cerebras lansează cea mai rapidă tehnologie de inferență AI din lume, performanță de 20 ori mai mare decât NVIDIA

Cerebras Inference este disponibilă în prezent la următoarele trei niveluri:

  • Nivelul gratuit oferă acces gratuit la API și limite generoase de utilizare pentru oricine se înscrie.
  • Nivelul pentru dezvoltatori este conceput pentru implementări flexibile, fără server, oferind utilizatorilor puncte finale API la o fracțiune din costul alternativelor existente pe piață, cu modelele Llama 3.1 8B și 70B la prețuri de doar 10 cenți și, respectiv, 60 de cenți per milion de jetoane.
  • Planurile Enterprise Tier oferă modele ajustate, acorduri personalizate de nivel de servicii și asistență dedicată. Ideale pentru sarcinile de lucru persistente, companiile pot accesa Cerebras Inference prin cloud-ul privat gestionat de Cerebras sau on-premise.

Cu performanță record, prețuri competitive și acces deschis la API, Cerebras Inference stabilește un nou standard pentru dezvoltarea și implementarea LLM deschisă. Fiind singura soluție capabilă să ofere atât antrenament de mare viteză, cât și inferență, Cerebras deschide posibilități complet noi pentru AI.

Cu tendințele AI care evoluează rapid și NVIDIA deține în prezent o poziție dominantă pe piață, apariția unor companii precum Cerebras și Groq semnalează o potențială schimbare în dinamica întregii industrii. Pe măsură ce cererea pentru soluții de inferență AI mai rapide și mai rentabile crește, soluții precum Cerebras Inference sunt bine poziționate pentru a risca dominația NVIDIA, în special în spațiul de inferență.

Lasă un comentariu

Afaceri secundare care chiar dau roade în 2026: 7 opțiuni realiste și compromisurile de știut

Afaceri secundare care chiar dau roade în 2026: 7 opțiuni realiste și compromisurile de știut

Compară activități secundare realiste pentru 2026 în funcție de costul de pornire, comisioane, flexibilitate și controlul veniturilor, cu îndrumări actuale privind impozitele și escrocheriile din surse oficiale.

Ergonomia muncii la distanță în 2026: Modernizați-vă biroul de acasă fără a cumpăra prea mult

Ergonomia muncii la distanță în 2026: Modernizați-vă biroul de acasă fără a cumpăra prea mult

Îmbunătățiți-vă ergonomia biroului de acasă cu îndrumările OSHA și NIOSH actuale privind potrivirea scaunului, înălțimea monitorului, configurarea laptopului, iluminarea și mișcarea.

De ce este importantă inteligența emoțională în leadership - și cum să o construim

De ce este importantă inteligența emoțională în leadership - și cum să o construim

Află de ce contează inteligența emoțională în leadership, unde ajută cel mai mult, cum să o consolidezi și cum să-ți dai seama dacă abordarea ta funcționează.

Cum să faci tranziția către o carieră în tehnologie fără diplomă: O foaie de parcurs axată pe rezultate pentru 2026

Cum să faci tranziția către o carieră în tehnologie fără diplomă: O foaie de parcurs axată pe rezultate pentru 2026

O foaie de parcurs practică pentru a intra în domeniul tehnologiei fără diplomă: alege un rol accesibil, dezvoltă abilități pregătite pentru angajare, demonstrează-le prin proiecte și folosește feedback-ul de la angajare pentru a te îmbunătăți.

Building a Personal Brand on LinkedIn in 2026: What Still Works, What Changed, and What to Ignore

Building a Personal Brand on LinkedIn in 2026: What Still Works, What Changed, and What to Ignore

Build a credible LinkedIn personal brand in 2026 with current profile, content, newsletter, analytics, verification, and visibility guidance from LinkedIn.

Demisii discrete vs. concedieri discrete în 2026: Ce se schimbă cu adevărat la locul de muncă

Demisii discrete vs. concedieri discrete în 2026: Ce se schimbă cu adevărat la locul de muncă

Demisiile discrete și concedierile discrete sunt etichete atrăgătoare, nu diagnostice. Aflați ce se verifică, ce depinde de context și ce pot face angajații și managerii în continuare.

Ascensiunea executivului fracțional: Când conducerea cu jumătate de normă în funcții de conducere are sens

Ascensiunea executivului fracțional: Când conducerea cu jumătate de normă în funcții de conducere are sens

Directorii executivi fracționari oferă funcții de conducere fără angajare cu normă întreagă. Învață când funcționează modelul, ce să ceri și riscurile de gestionat.

Cum să negociezi o mărire de salariu în timpul evaluărilor performanței din trimestrul 4: Un ghid practic pentru deciziile din 2026

Cum să negociezi o mărire de salariu în timpul evaluărilor performanței din trimestrul 4: Un ghid practic pentru deciziile din 2026

Pregătiți o cerere de mărire salarială mai convingătoare pentru trimestrul 4, incluzând date salariale actuale, opțiuni de sincronizare, compromisuri salariale și scenarii pentru rezultate afirmative, parțiale sau negative.

6 High-Income Skills You Can Start Learning Before 2026 Ends

6 High-Income Skills You Can Start Learning Before 2026 Ends

Choose a high-income skill you can realistically start before 2026 ends, with current pay data, learning priorities, and a practical self-check.

Stăpânirea programului de lucru hibrid: un cadru practic care chiar rezistă

Stăpânirea programului de lucru hibrid: un cadru practic care chiar rezistă

Construiește un program de lucru hibrid în jurul sarcinilor, suprapunerii echipei și rezultatelor măsurabile. Vezi modele, semne de avertizare și când să-ți ajustezi planul.