Le preguntamos a @davidpstout (cofundador y director ejecutivo de webAI) sobre las ventajas de ejecutar IA en dispositivos. "No hay almuerzo gratis, pero hay cosas que los jugadores de la nube no pueden hacer. Consume mucha RAM, sí, pero al distribuirla entre dispositivos, podemos desbloquear más precisión y contexto. Pero si estás alojando para un millón de usuarios en Nvidia, no puedes hacer eso". "Con nuestra pila, todo es solo aguas abajo. Piense en los datos de salud, como si quisiera que fueran privados. El sueño son modelos personalizados para millones de personas que nunca abandonan su dispositivo".
7.52K