IA en Hardware: De la Potencia Blackwell a una PDP11 de 47 Años
NVIDIA lanza soporte de día cero para DeepSeek V4 en sus GPUs Blackwell, alcanzando velocidades récord. En contraste, un desarrollador logró correr un modelo de IA en una PDP11 de 1977. Esto muestra el increíble espectro de hardware que puede manejar inteligencia artificial.
NVIDIA está metiendo pata con sus GPUs Blackwell, que ya tienen soporte de "día cero" para DeepSeek V4, un modelo de IA bastante groso. Esto significa que desde el vamos, las Blackwell están listas para sacarle el jugo a las últimas optimizaciones en inteligencia artificial.
Estamos hablando de rendimientos de hasta 3.500 tokens por segundo en modelos de 1.6 billones de parámetros. Para que te des una idea, DeepSeek V4 viene con optimizaciones que reducen un 27% los FLOPs (operaciones de punto flotante) y un 90% el uso de caché KV al trabajar con contextos de un millón de tokens. Es decir, hace más con menos recursos, y las Blackwell están diseñadas para aprovechar eso a fondo con su arquitectura NVFP4. Para los que laburan con IA, esto es un salto gigante en eficiencia y velocidad, prometiendo acelerar tareas complejas de manera significativa.
Pero ojo, la IA no es solo la última tecnología. A veces, el ingenio puede más que la potencia bruta.
Bancá que te cuento algo que te vuela la cabeza: un desarrollador de Windows, un tipo con años de cancha, hizo correr un modelo Transformer (sí, como los que usan los LLMs modernos) en una PDP11. ¿Qué es eso? Una computadora de 1977, ¡con un CPU de 6 MHz y apenas 64 KB de RAM! Es un proyecto gloriosamente absurdo, como él mismo lo describió. Escribió el modelo en lenguaje ensamblador para la PDP-11, demostrando la flexibilidad de los principios de la inteligencia artificial. Esto demuestra que la esencia de la IA puede funcionar con recursos mínimos si se entiende la base y se aplica creatividad.
Este contraste es brutal. Por un lado, tenés la punta de lanza, la potencia cruda y optimizada para la IA más exigente, pensada para profesionales y empresas que demandan el máximo rendimiento. Por el otro, la prueba de que la inteligencia artificial es una cuestión de algoritmos y lógica que, con suficiente ingenio, puede adaptarse a hardware que hoy consideramos obsoleto. La posta es que no siempre necesitás lo último de lo último. A veces, con un buen diagnóstico de tus necesidades y el hardware adecuado, podés resolver un montón de cosas. Se trata de encontrar el equilibrio entre la potencia necesaria y la eficiencia, sin complicarse de más.
La clave no es solo tener el hardware más potente, sino el hardware inteligente para tu tarea. ¿Tu proyecto realmente necesita una Blackwell, o un equipo con menos exigencia y bien configurado ya te resuelve la papeleta? Piénsalo bien.