El auge de la IA sigue impulsando los envíos de hardware, especialmente de servidores con GPUs, que tienen una demanda muy alta.Otro ejemplo es la última hazaña de la startup de IA, Inflection AI.
El equipo de Inflection AI ha hecho un pedido de 22.000 GPUs NVIDIA H100 para construir un superordenador. Suponiendo una configuración de una única CPU Intel Xeon con ocho GPUs, el superordenador debería albergar casi 700 racks de cuatro nodos.
Ampliar y conectar 22.000 GPUs es más fácil que adquirirlas, ya que las GPUs H100 de NVIDIA se están agotando en todas partes debido a la enorme demanda de aplicaciones de IA tanto dentro como fuera de las instalaciones.
Conseguir 22.000 GPUs H100 es el mayor reto, e Inflection AI se las arregló para conseguirlas gracias a que NVIDIA invirtió en la startup. Se calcula que el superordenador costará unos mil millones de dólares y consumirá 31 megavatios de potencia. En el momento de redactar este post, la startup Inflection AI está valorada en 1.500 millones de dólares.
Vía: TechPowerUp
