În ianuarie, Microsoft a anunțat planurile de a aduce versiuni optimizate pentru NPU ale modelului DeepSeek-R1 direct pe computerele Copilot+ care rulează pe procesoare Qualcomm Snapdragon X. Până în februarie, DeepSeek-R1-Distill-Qwen-1.5B a fost lansat pentru prima dată în AIToolkit pentru VSCode.
Astăzi, compania Redmond a anunțat oficial disponibilitatea modelelor sale rafinate DeepSeek R1 7B și 14B pentru platforma de calcul Copilot+ prin Azure AI Foundry. Capacitatea de a rula modele 7B și 14B direct pe dispozitivul Copilot+ va permite dezvoltatorilor să construiască aplicații AI mai puternice, care nu erau posibile înainte.
Deoarece aceste modele rulează pe NPU, utilizatorii se pot aștepta la o performanță stabilă a AI, cu un impact redus asupra duratei de viață a bateriei și a performanței termice a computerului. În plus, CPU și GPU vor fi eliberate pentru a efectua alte sarcini mai importante pe sistem.
Microsoft subliniază că a folosit Aqua, un instrument intern de cuantizare automată, pentru a cuantifica toate variantele modelului DeepSeek până la int4. Cu toate acestea, viteza de procesare a simbolurilor a modelului este destul de scăzută. Microsoft raportează doar 8 jetoane/secundă cu modelul 14B și aproape 40 de jetoane/secundă cu modelul 1.5B. Microsoft spune că continuă să optimizeze pentru îmbunătățirea vitezei. Pe măsură ce Microsoft continuă să îmbunătățească performanța, impactul acestor modele asupra computerelor Copilot+ este de așteptat să crească semnificativ.
Dezvoltatorii interesați pot descărca și rula variantele 1.5B, 7B și 14B ale modelului DeepSeek pe computerele Copilot+ prin extensia AI Toolkit pentru VS Code. Modelul DeepSeek este optimizat în format ONNX QDQ și descărcat direct din Azure AI Foundry. Aceste modele vor apărea și pe viitoarele computere Copilot+ care rulează procesoare Intel Core Ultra 200V și AMD Ryzen.
Mulți oameni cred că Microsoft își asumă un risc prin parteneriatul cu DeepSeek. Integrarea DeepSeek în ecosistemul Windows ar putea pune Microsoft în probleme dacă acuzațiile de furt de tehnologie se dovedesc a fi bine întemeiate. Cu toate acestea, nu se poate nega că DeepSeek face un mare pas înainte pe piața AI. Mișcarea Microsoft semnalează un impuls către capabilități AI mai puternice pe dispozitiv, deschizând noi perspective pentru aplicațiile bazate pe AI.