Rularea modelelor lingvistice mari (LLM) local pe telefonul dvs. Android înseamnă că puteți accesa acele modele AI fără a vă baza pe servere cloud sau pe o conexiune la internet . Această configurație locală asigură confidențialitatea prin păstrarea datelor dumneavoastră în siguranță și pe dispozitiv. Odată cu progresele în hardware-ul mobil, rularea modelelor AI la nivel local a devenit o realitate. Aplicația MLC Chat facilitează experimentarea acestei tehnologii puternice chiar pe telefon.
Acest articol va explica importanța rulării LLM local pe telefoanele Android și va oferi instrucțiuni pas cu pas pentru a le instala și rula folosind aplicația MLC Chat.
De ce să rulați LLM pe telefonul Android?
LLM-urile sunt de obicei rulate pe servere cloud, deoarece necesită o putere de calcul semnificativă. În timp ce telefoanele Android au anumite limitări atunci când rulează LLM, ele deschid și câteva posibilități interesante.
Ghid pas cu pas pentru a instala și rula MLC Chat pe Android
Aplicația MLC Chat este concepută pentru a permite utilizatorilor să ruleze și să interacționeze cu modele de limbă mari (LLM) la nivel local pe o varietate de dispozitive, inclusiv telefoane mobile, fără a se baza pe servicii bazate pe cloud. Urmați pașii de mai jos pentru a rula LLM local pe dispozitivul Android.
Pasul 1: Instalați aplicația MLC Chat
Mai întâi, trebuie să descărcați APK-ul pentru aplicația MLC Chat (112 MB) de la linkul de mai jos.
Fișierul APK al aplicației MLC Chat
Odată ce APK-ul este descărcat, atingeți fișierul pentru a începe instalarea.
Pasul 2: Descărcați LLM
După instalarea cu succes a aplicației, deschideți aplicația și veți vedea o listă de masterate LLM disponibile pentru descărcare. Sunt disponibile modele de diferite dimensiuni și capacități, cum ar fi LLama-3.2, Phi-3.5 și Mistral. Selectați modelul în funcție de nevoile dvs. și faceți clic pe pictograma de descărcare de lângă acesta pentru a începe descărcarea. De exemplu, dacă folosești un telefon de gamă medie, cum ar fi Redmi Note 10, alege un model ușor, cum ar fi Qwen-2.5, pentru o performanță mai fluidă.
Pasul 3: Rulați LLM instalat
Odată ce modelul este descărcat, o pictogramă de chat va apărea lângă el. Faceți clic pe pictogramă pentru a începe modelarea.
Odată ce modelul este gata, puteți începe să tastați solicitări și să interacționați cu LLM local.
De exemplu, pe un dispozitiv precum Redmi Note 10, rularea unui model mai mic precum Qwen2.5 oferă o experiență destul de fluidă, generând aproximativ 1,4 jetoane pe secundă. Deși această performanță este mai lentă decât dispozitivele de ultimă generație, cum ar fi Galaxy S23 Ultra , încă funcționează bine pentru sarcini de bază, cum ar fi chat-urile scurte și crearea simplă de conținut.
Rularea LLM local pe dispozitive Android prin aplicația MLC Chat oferă o modalitate accesibilă și protejată de confidențialitate de a interacționa cu modelele AI. Performanța depinde în mare măsură de hardware-ul telefonului. Această soluție este ideală pentru utilizatorii care au nevoie de acces offline la modele AI, testează LLM-uri în timp real sau sunt preocupați de confidențialitate. Pe măsură ce hardware-ul mobil continuă să se îmbunătățească, capacitățile LLM locale se vor extinde, făcând din aceasta o frontieră interesantă pentru tehnologia AI.
Telefonul tău Samsung Galaxy scump nu trebuie să arate exact ca orice alt telefon de pe piață. Cu câteva modificări, îl poți face mai personal, mai elegant și mai unic.
După ce s-au plictisit de iOS, au trecut în sfârșit la telefoanele Samsung și nu regretă nicio decizie.
Schimbarea DNS pe iPhone sau schimbarea DNS pe Android te va ajuta să menții o conexiune stabilă, să crești viteza conexiunii la rețea și să accesezi site-urile web blocate.
Mulți oameni nu s-au așteptat niciodată ca cea mai slabă cameră de pe telefonul lor să devină o armă secretă pentru fotografia creativă.
Cu aplicații cu clic automat. Nu va trebui să faci prea multe atunci când te joci, folosești aplicații sau sarcini disponibile pe dispozitiv.
În funcție de nevoile tale, probabil vei primi un set de funcții exclusive Pixel care rulează pe dispozitivul tău Android existent.
Soluția nu implică neapărat ștergerea fotografiilor sau aplicațiilor preferate; One UI include câteva opțiuni care facilitează recuperarea spațiului.
Cei mai mulți dintre noi tratăm portul de încărcare al smartphone-ului ca și cum singura sa funcție ar fi să mențină bateria în funcțiune. Dar acel mic port este mult mai puternic decât își dă seama.
Dacă te-ai săturat de sfaturi generice care nu funcționează niciodată, iată câteva care ți-au transformat în liniște modul în care faci fotografii.
Dacă ești în căutarea unui smartphone nou, primul lucru la care te vei uita în mod firesc este fișa cu specificațiile tehnice. Este plină de indicii despre performanță, durata de viață a bateriei și calitatea afișajului.
Aplicația Emojimix va crea emoji-uri unice în funcție de dorințele tale, combinând 2 emoji-uri pentru a crea un emoji pe care nu l-ai mai văzut până acum.
Verifică Digital Wellbeing pe telefonul tău Samsung ca să vezi cât timp petreci pe telefon în timpul zilei!
Aplicația de apel fals te ajută să creezi apeluri de pe propriul telefon pentru a evita situațiile stânjenitoare și nedorite.
Noua aplicație Locket Widget are o versiune pentru Android, după ce utilizatorii iOS au putut folosi Locket Widget pe iPhone anterior.
În ciuda ecosistemului compact al Apple, unii oameni și-au transformat telefoanele Android în telecomenzi fiabile pentru Apple TV-ul lor.
Telefonul tău Samsung Galaxy scump nu trebuie să arate exact ca orice alt telefon de pe piață. Cu câteva modificări, îl poți face mai personal, mai elegant și mai unic.
După ce s-au plictisit de iOS, au trecut în sfârșit la telefoanele Samsung și nu regretă nicio decizie.
Interfața web a contului Apple din browser îți permite să vizualizezi informațiile personale, să modifici setările, să gestionezi abonamentele și multe altele. Dar uneori nu te poți conecta din diverse motive.
Schimbarea DNS pe iPhone sau schimbarea DNS pe Android te va ajuta să menții o conexiune stabilă, să crești viteza conexiunii la rețea și să accesezi site-urile web blocate.
Când aplicația Găsire devine inexactă sau nesigură, aplică câteva modificări pentru a o face mai precisă atunci când este cea mai mare nevoie.
Mulți oameni nu s-au așteptat niciodată ca cea mai slabă cameră de pe telefonul lor să devină o armă secretă pentru fotografia creativă.
Comunicarea în câmp apropiat (NFC) este o tehnologie wireless care permite dispozitivelor să facă schimb de date atunci când se află în imediata apropiere unul de celălalt, de obicei la câțiva centimetri.
Apple a introdus Adaptive Power, care funcționează alături de Modul de consum redus. Ambele prelungesc durata de viață a bateriei iPhone-ului, dar funcționează în moduri foarte diferite.
Cu aplicații cu clic automat. Nu va trebui să faci prea multe atunci când te joci, folosești aplicații sau sarcini disponibile pe dispozitiv.
În funcție de nevoile tale, probabil vei primi un set de funcții exclusive Pixel care rulează pe dispozitivul tău Android existent.
Soluția nu implică neapărat ștergerea fotografiilor sau aplicațiilor preferate; One UI include câteva opțiuni care facilitează recuperarea spațiului.
Cei mai mulți dintre noi tratăm portul de încărcare al smartphone-ului ca și cum singura sa funcție ar fi să mențină bateria în funcțiune. Dar acel mic port este mult mai puternic decât își dă seama.
Dacă te-ai săturat de sfaturi generice care nu funcționează niciodată, iată câteva care ți-au transformat în liniște modul în care faci fotografii.
Dacă ești în căutarea unui smartphone nou, primul lucru la care te vei uita în mod firesc este fișa cu specificațiile tehnice. Este plină de indicii despre performanță, durata de viață a bateriei și calitatea afișajului.
Când instalați o aplicație pe iPhone dintr-o altă sursă, va trebui să confirmați manual că aplicația este de încredere. Apoi, aplicația va fi instalată pe iPhone pentru utilizare.
