Foxconn anunță Large Language Model (LLM) rafinat de la Metas Llama 3.1

Foxconn, compania cea mai cunoscută pentru fabricarea iPhone-urilor și a altor produse hardware Apple, tocmai a surprins pe toată lumea anunțând primul său model de limbă mare (LLM), numit FoxBrain, care este destinat să fie utilizat pentru a îmbunătăți producția și managementul lanțului de aprovizionare.

Producătorul taiwanez spune că FoxBrain a fost instruit cu doar 120 de GPU-uri H100 ale Nvidia. Acest LLM este dezvoltat practic pe baza arhitecturii Meta Llama 3.1, cu 70 de miliarde de parametri prin distilare. Conceptul de rafinament LLM implică utilizarea unui model „părinte” și formarea unui model „copil” pe baza răspunsurilor acestuia. Foxconn a recunoscut, de asemenea, că LLM-ul lor nu este la fel de bun ca modelul rafinat al DeepSeek (China), dar performanța generală este foarte apropiată de standardele de clasă mondială.

Vorbind despre această realizare, dr. Yung-Hui Li, directorul Centrului de Cercetare a Inteligenței Artificiale de la Institutul de Cercetare Hon Hai (Foxconn), a spus:

În ultimele luni, îmbunătățirea capacităților de raționament și utilizarea eficientă a GPU-urilor a devenit treptat o tendință majoră în domeniul AI. Modelul nostru FoxBrain a adoptat o strategie de antrenament foarte eficientă, concentrându-se pe optimizarea procesului de antrenament, mai degrabă decât pe acumularea orbește de putere de calcul.

Prin metode de instruire atent concepute și prin optimizarea resurselor, am reușit să construim un model AI local cu capacități puternice de raționament.”

Foxconn anunță Large Language Model (LLM) rafinat de la Meta's Llama 3.1

Foxconn nu numai că asamblează produse Apple, ci produce și serverele AI ale Nvidia. Împreună cu 120 de GPU-uri H100, FoxBrain este extins folosind rețeaua Quantum-2 InfiniBand a Nvidia, iar antrenamentul durează doar aproximativ 4 săptămâni (pentru un cost de calcul total de 2.688 de zile GPU). Foxconn a generat 98 de miliarde de jetoane de date pre-training de înaltă calitate în chineză tradițională, cu o lungime a ferestrei de context de până la 128.000 de jetoane.

Parteneriatul dintre Foxconn și Nvidia nu este nou, iar cele două companii lucrează și la alte proiecte, inclusiv construirea celei mai mari unități de producție de GPU Blackwell din lume.

Nvidia a furnizat Foxconn și supercomputerul Taipei-1 pentru a finaliza procesul de pre-formare a modelului. Foxconn a spus că FoxBrain va deveni un „motor cheie” pentru modernizarea celor trei platforme principale ale companiei: Smart Manufacturing, Smart Electric Vehicles și Smart Cities.

Sign up and earn $1000 a day ⋙

Leave a Comment

Diferența dintre televizorul obișnuit și Smart TV

Diferența dintre televizorul obișnuit și Smart TV

Televizoarele inteligente au luat cu adevărat lumea cu asalt. Cu atât de multe funcții grozave și conectivitate la internet, tehnologia a schimbat modul în care ne uităm la televizor.

De ce congelatorul nu are lumină, dar frigiderul are?

De ce congelatorul nu are lumină, dar frigiderul are?

Frigiderele sunt aparate cunoscute în gospodării. Frigiderele au de obicei 2 compartimente, compartimentul cool este spatios si are o lumina care se aprinde automat de fiecare data cand utilizatorul il deschide, in timp ce compartimentul congelator este ingust si nu are lumina.

2 moduri de a remedia congestionarea rețelei care încetinește conexiunea Wi-Fi

2 moduri de a remedia congestionarea rețelei care încetinește conexiunea Wi-Fi

Rețelele Wi-Fi sunt afectate de mulți factori, dincolo de routere, lățime de bandă și interferențe, dar există câteva modalități inteligente de a vă îmbunătăți rețeaua.

Cum să downgrade de la iOS 17 la iOS 16 fără a pierde date folosind Tenorshare Reiboot

Cum să downgrade de la iOS 17 la iOS 16 fără a pierde date folosind Tenorshare Reiboot

Dacă doriți să reveniți la iOS 16 stabil pe telefonul dvs., iată ghidul de bază pentru dezinstalarea iOS 17 și downgrade de la iOS 17 la 16.

Ce se întâmplă cu organismul când mănânci iaurt în fiecare zi?

Ce se întâmplă cu organismul când mănânci iaurt în fiecare zi?

Iaurtul este un aliment minunat. Este bine să mănânci iaurt în fiecare zi? Când mănânci iaurt în fiecare zi, cum se va schimba corpul tău? Să aflăm împreună!

Ce tip de orez este cel mai bun pentru sănătate?

Ce tip de orez este cel mai bun pentru sănătate?

Acest articol discută cele mai hrănitoare tipuri de orez și cum să maximizați beneficiile pentru sănătate ale orezului pe care îl alegeți.

Cum să te trezești la timp dimineața

Cum să te trezești la timp dimineața

Stabilirea unui program de somn și a rutinei de culcare, schimbarea ceasului cu alarmă și ajustarea dietei sunt câteva dintre măsurile care vă pot ajuta să dormiți mai bine și să vă treziți la timp dimineața.

Sfaturi pentru a juca Rent Please! Proprietar Sim pentru începători

Sfaturi pentru a juca Rent Please! Proprietar Sim pentru începători

Inchiriez va rog! Landlord Sim este un joc mobil de simulare pe iOS și Android. Veți juca ca proprietarul unui complex de apartamente și veți începe să închiriați un apartament cu scopul de a îmbunătăți interiorul apartamentelor și de a le pregăti pentru chiriași.

Cele mai recente coduri de apărare a turnului de baie și cum să introduceți codurile

Cele mai recente coduri de apărare a turnului de baie și cum să introduceți codurile

Obțineți codul de joc Roblox Bathroom Tower Defense și răscumpărați pentru recompense interesante. Ele vă vor ajuta să faceți upgrade sau să deblocați turnuri cu daune mai mari.

Structura, simbolurile și principiile de funcționare ale transformatoarelor

Structura, simbolurile și principiile de funcționare ale transformatoarelor

Să învățăm despre structura, simbolurile și principiile de funcționare ale transformatoarelor în cel mai precis mod.

4 moduri prin care AI face televizoarele inteligente mai bune

4 moduri prin care AI face televizoarele inteligente mai bune

De la o calitate mai bună a imaginii și a sunetului la controlul vocal și multe altele, aceste funcții bazate pe inteligență artificială fac televizoarele inteligente mult mai bune!

De ce ChatGPT este mai bun decât DeepSeek

De ce ChatGPT este mai bun decât DeepSeek

Inițial, oamenii aveau mari speranțe în DeepSeek. Fiind un chatbot AI comercializat ca un concurent puternic pentru ChatGPT, acesta promite capacități și experiențe inteligente de chat.

Faceți cunoștință cu Fireflies.ai: Secretarul AI gratuit care vă scutește de ore de muncă

Faceți cunoștință cu Fireflies.ai: Secretarul AI gratuit care vă scutește de ore de muncă

Este ușor să ratezi detalii importante atunci când notezi alte elemente esențiale, iar încercarea de a lua notițe în timpul conversației poate fi distragerea atenției. Fireflies.ai este soluția.

Cum să crești Axolotl Minecraft, îmblânziți Minecraft Salamander

Cum să crești Axolotl Minecraft, îmblânziți Minecraft Salamander

Axolot Minecraft va fi un asistent excelent pentru jucători atunci când operează sub apă, dacă știu să le folosească.

A Quiet Place: The Road Ahead Configurația jocului PC

A Quiet Place: The Road Ahead Configurația jocului PC

Un loc liniștit: configurația Road Ahead este foarte apreciată, așa că va trebui să luați în considerare configurația înainte de a decide să descărcați.