Abbiamo chiesto a @davidpstout (Co-Fondatore e CEO, webAI) quali siano i vantaggi di eseguire l'IA sui dispositivi. "Non c'è pranzo gratis, ma ci sono cose che i fornitori di cloud non possono fare. È intensivo in RAM, sì, ma distribuendo sui dispositivi, possiamo sbloccare maggiore accuratezza e contesto. Ma se stai ospitando per un milione di utenti su Nvidia, non puoi farlo." "Con il nostro stack, tutto è solo downstream. Pensa ai dati sulla salute, come vuoi che siano privati. Il sogno è modelli personalizzati per milioni che non lasciano mai il loro dispositivo."
6,7K