La startup Tiiny AI asegura tener una respuesta con su Tiiny AI Pocket Lab, un equipo que se presenta como el superordenador de inteligencia artificial más pequeño del mundo. Con apenas 14 centímetros de largo, 8 de ancho y poco más de dos de grosor, pesa unos 300 gramos y ha sido reconocido por Guinness por su tamaño. Aun así, promete ejecutar modelos de IA que hasta hace poco solo podían funcionar en centros de datos.
El dispositivo integra un procesador ARM de 12 núcleos y una unidad de procesamiento neuronal dedicada, alcanzando alrededor de 190 TOPS, una cifra que supera ampliamente a muchos portátiles con aceleración de IA y se acerca al rendimiento de hardware especializado. Pero su característica más sorprendente es la memoria: 80 GB de RAM LPDDR5X, una capacidad superior a la de numerosos equipos profesionales.
Gracias a esa combinación de potencia y memoria, el Pocket Lab puede ejecutar modelos de lenguaje de hasta 120.000 millones de parámetros directamente en el dispositivo, sin conexión a internet. Esto permite realizar tareas complejas como análisis de texto avanzado, generación de código o razonamiento multietapa sin depender de servidores externos, algo que sus creadores describen como “inteligencia de nivel doctoral”.
Este enfoque ofrece dos ventajas clave. Por un lado, la privacidad: los datos procesados nunca abandonan el dispositivo. Por otro, la independencia de la nube, lo que abre la puerta a usar inteligencia artificial en entornos sin conectividad o en aplicaciones donde la latencia y la seguridad son críticas.lc