IBM a dezvoltat cu succes o nouă tehnologie optică care poate sprijini formarea modelelor AI la „viteza luminii”, economisind în același timp energie semnificativă. IBM spune că, prin aplicarea acestor noi descoperiri la centrele de date, antrenamentul cu economie de energie a unui model AI tipic este echivalent cu consumul anual de energie a 5.000 de gospodării din SUA.
În timp ce centrele de date se conectează la lumea exterioară folosind cabluri de fibră optică, în interior, cablajul de cupru este încă materialul predominant folosit, conform IBM. Aceste fire de miez de cupru care conectează acceleratoarele GPU petrec mult timp așteptând date de la alte dispozitive în timp ce folosesc energie, ceea ce crește semnificativ costurile de operare. Comentând noua tehnologie optică de transmisie a datelor, Dario Gil, Senior Vice President și Director de Cercetare la IBM, a spus:
Pe măsură ce inteligența artificială creează o nevoie de mai multă putere și putere de procesare, centrele de date trebuie să evolueze, iar tehnologia optică generică poate ajuta centrele de date la scară largă să se adapteze mai bine la cerințele viitoare. Cu această descoperire, procesoarele viitorului vor comunica în același mod în care cablurile de fibră optică transportă date în și din centrele de date, inaugurând o nouă eră a comunicațiilor mai rapide și mai durabile, care pot face față unor sarcini masive de AI.

IBM își prezintă noul prototip de tehnologie co-pachet optică (CPO) într-o lucrare tehnică . În esență, prin creșterea semnificativă a lățimii de bandă în centrele de date, timpul de nefuncționare a GPU-ului poate fi minimizat, accelerând procesarea AI.
IBM promite cu încredere că această tehnologie poate ajuta la scurtarea timpului de instruire pentru modelele lingvistice mari (LLM) de la trei luni la trei săptămâni. În același timp, creșterea eficienței energetice va reduce consumul de energie și va reduce costurile asociate cu formarea LLM.