Cerebras lansează cea mai rapidă tehnologie de inferență AI din lume, performanță de 20 ori mai mare decât NVIDIA

Cerebras Systems tocmai a anunțat oficial Cerebras Inference, care este considerată cea mai rapidă soluție de inferență AI din lume. Această Cerebras Inference oferă performanțe de până la 1.800 de jetoane pe secundă pentru modelele Llama 3.1 8B (8 miliarde de parametri) și 450 de jetoane pe secundă pentru Llama 3.1 70B, ceea ce este de aproape 20 de ori mai rapid decât soluțiile de inferență AI bazate pe GPU NVIDIA, inclusiv soluțiile de inferență AI bazate pe GPU-uri NVIDIA, inclusiv soluțiile de inferență AI la scară largă Microsoft Azure.

Pe lângă performanța sa incredibilă, prețul serviciului acestei noi soluții de inferență este, de asemenea, foarte ieftin, la o fracțiune din prețul platformelor populare de cloud GPU. De exemplu, un client poate obține un milion de jetoane pentru doar 10 cenți, oferind astfel o performanță de preț de 100 de ori mai mare pentru sarcinile de lucru AI.

Precizia de 16 biți a Cerebras și viteza de inferență de 20 ori mai mare le vor permite dezvoltatorilor să construiască aplicații AI de înaltă generație de înaltă generație, fără a compromite viteza sau costul. Acest raport revoluționar preț/performanță este posibil de sistemul Cerebras CS-3 și de procesorul AI Wafer Scale Engine 3 (WSE-3). CS-3 oferă de 7.000 de ori mai multă lățime de bandă de memorie decât Nvidia H100, rezolvând provocarea tehnică a lățimii de bandă a memoriei pentru IA generativă.

Cerebras lansează cea mai rapidă tehnologie de inferență AI din lume, performanță de 20 ori mai mare decât NVIDIA

Cerebras Inference este disponibilă în prezent la următoarele trei niveluri:

  • Nivelul gratuit oferă acces gratuit la API și limite generoase de utilizare pentru oricine se înscrie.
  • Nivelul pentru dezvoltatori este conceput pentru implementări flexibile, fără server, oferind utilizatorilor puncte finale API la o fracțiune din costul alternativelor existente pe piață, cu modelele Llama 3.1 8B și 70B la prețuri de doar 10 cenți și, respectiv, 60 de cenți per milion de jetoane.
  • Planurile Enterprise Tier oferă modele ajustate, acorduri personalizate de nivel de servicii și asistență dedicată. Ideale pentru sarcinile de lucru persistente, companiile pot accesa Cerebras Inference prin cloud-ul privat gestionat de Cerebras sau on-premise.

Cu performanță record, prețuri competitive și acces deschis la API, Cerebras Inference stabilește un nou standard pentru dezvoltarea și implementarea LLM deschisă. Fiind singura soluție capabilă să ofere atât antrenament de mare viteză, cât și inferență, Cerebras deschide posibilități complet noi pentru AI.

Cu tendințele AI care evoluează rapid și NVIDIA deține în prezent o poziție dominantă pe piață, apariția unor companii precum Cerebras și Groq semnalează o potențială schimbare în dinamica întregii industrii. Pe măsură ce cererea pentru soluții de inferență AI mai rapide și mai rentabile crește, soluții precum Cerebras Inference sunt bine poziționate pentru a risca dominația NVIDIA, în special în spațiul de inferență.

Lasă un comentariu

Ar fi Europa atrasă într-un ipotetic război nuclear SUA-Israel-Iran? Regulile NATO explicate

Ar fi Europa atrasă într-un ipotetic război nuclear SUA-Israel-Iran? Regulile NATO explicate

Un ghid pentru articolele 4 și 5 ale NATO, regulile ONU de autoapărare și de ce consultarea nu înseamnă intrarea automată a Europei în război.

Ar putea Iranul să aibă deja arme nucleare? Cum să interpretăm dovezile

Ar putea Iranul să aibă deja arme nucleare? Cum să interpretăm dovezile

Evaluați afirmațiile despre Iran în șase etape, distingând îmbogățirea uraniului, dezvoltarea de arme și posesia verificată.

Autoritatea Nucleară a SUA și Israelului: Ce explică de fapt sursele publice

Autoritatea Nucleară a SUA și Israelului: Ce explică de fapt sursele publice

Înțelegerea autorității decizionale în domeniul nuclear în șase etape, inclusiv controlul civil al SUA și limitele informațiilor publice despre Israel.

Strâmtoarea Hormuz în 2026: Ce spun sursele oficiale despre perturbările transportului maritim

Strâmtoarea Hormuz în 2026: Ce spun sursele oficiale despre perturbările transportului maritim

Un ghid al dovezilor oficiale din 2026 privind perturbările transporturilor maritime din Hormuz, afirmațiile legate de Iran, incidentele confirmate și ce rămâne incert.

Un ipotetic atac nuclear americano-israelian asupra Iranului ar provoca un al Treilea Război Mondial?

Un ipotetic atac nuclear americano-israelian asupra Iranului ar provoca un al Treilea Război Mondial?

Un ghid bazat pe surse privind riscurile de escaladare nucleară, regulile Cartei ONU și articolul 5 din NATO într-un scenariu strict ipotetic cu Iranul.

Cum să te pregătești pentru o ipotetică pană de curent legată de EMP: 5 pași pentru civili

Cum să te pregătești pentru o ipotetică pană de curent legată de EMP: 5 pași pentru civili

Urmați cinci pași pentru a vă pregăti pentru o întrerupere a energiei; scenariile nucleare și cele EMP sunt ipotetice, iar instrucțiunile oficiale privind adăpostul sunt prioritare.

Cum să evaluezi perturbările cibernetice fără a presupune că a fost vorba de Al Treilea Război Mondial: Un ghid în 5 pași

Cum să evaluezi perturbările cibernetice fără a presupune că a fost vorba de Al Treilea Război Mondial: Un ghid în 5 pași

Folosește 5 pași defensivi pentru a verifica o întrerupere cibernetică, a proteja conturile gospodăriei și a evita confundarea unei întreruperi cu un război.

Iarnă nucleară: Cum să evaluăm efectele climatice globale ale unui ipotetic atac al Iranului

Folosește acești 5 pași pentru a evalua efectele climatice ale unui ipotetic atac iranian, compară ipotezele modelului și evită predicțiile nefondate.

Cât timp ar putea dura până și-ar reveni Pământul după un ipotetic război nuclear?

Cât timp ar putea dura până și-ar reveni Pământul după un ipotetic război nuclear?

Explorează șase pași pentru citirea cercetărilor despre climă, alimente și refacerea ecosistemelor după un conflict nuclear ipotetic.

Listă de verificare pentru pregătirea pentru căderi nucleare: provizii esențiale și pași pentru adăpost

Listă de verificare pentru pregătirea pentru căderi nucleare: provizii esențiale și pași pentru adăpost

Construiți un kit practic de pregătire pentru căderi radioactive în șase pași, cu alimente și apă sigilate, un radio, provizii medicale și îndrumări pentru adăposturi.