Un anumit startup a anunțat oficial o versiune de AI locală on-device a framework-ului său de agent AI. Această implementare înlătură dependențele de infrastructura cloud și îmbunătățește semnificativ confidențialitatea datelor; asta pentru că modelele de inteligență artificială rulează în întregime pe propriul computer al utilizatorului. Acel startup e Perplexity, în timp ce versiunea de AI locală e Portable Computer.
Anterior, sarcinile de rutină erau gestionate local de sisteme hibride pe dispozitive entry-level precum Apple Mac Mini; sarcinile foarte intensive erau pasate în cloud. Dar acel strat cloud e înlocuit de Portable Computer, direcționând direct către componentele locale sarcinile AI intensive.
Însă e nevoie de hardware de nivel enterprise pentru această tranziție. Compatibilitatea e limitată la lansare la stațiile de lucru Linux și Nvidia DGX Spark care sunt echipate cu plăci grafice Nvidia RTX.
Costul pentru așa ceva e unul substanțial de mare. Prețul de pornire al unui Mac Mini standard e de 900 de dolari, dar un sistem Nvidia DGX Spark e de aproape șase ori mai scump, la 5199 de dolari.
Beneficiile cheie și specificațiile
- Zero taxe lunare pentru jetoane: Taxele API recurente pentru cloud sunt înlocuite de o investiție hardware unică în avans.
- Opțiune de cloud hibridă: Toate sarcinile standard sunt procesate local, apelând la serverele cloud externe doar atunci când e nevoie de putere de calcul suplimentară.
- Modelele AI suportate: Sunt disponibile modele AI precum cel Qwen 3.8 27B al Alibaba și cel PPLX 27B al Perplexity; mai târziu e programat să apară un update care va oferi suport pentru Nvidia Nemotron 3.5 Lightning.
- Integrări cu aplicații: Deși asistentul AI al startup-ului rulează local offline, acesta automatizează sarcini pentru platformele de zi cu zi; de exemplu, generează cu succes rapoarte de date pentru Slack și poate comunica direct cu Google Drive, Gmail și GitHub.
Prin această lansare, e subliniată o relație profundă dintre Nvidia și Perplexity. Se vehiculează că Nvidia explorează o investiție strategică în Perplexity; astfel, evaluarea pe piață a startup-ului AI Perplexity ar putea ajunge la 30 de miliarde de dolari. În acest mod, dezvoltarea de soluții locale dedicate în sectorul tehnologiei din SUA va fi accelerată.