A Nvidia revelou recentemente um vídeo no qual oferece ao mundo um vislumbre do seu supercomputador Eos. Esta máquina impressionante foi concebida pela empresa para ajudá-la no desenvolvimento dos seus projetos de Inteligência Artificial (IA).
O Eos é o supercomputador de IA mais rápido da empresa, estando orientado para o desenvolvimento de ferramentas avançadas de IA em escala de datacenter. Atualmente, está a ser usado pela própria Nvidia.
Eos da Nvidia é o 9º supercomputador mais rápido do mundo
Conforme a Nvidia revela no seu vídeo, o Eos é o 9º supercomputador mais rápido do mundo. Ou seja, é uma das melhores máquinas a nível mundial para o desenvolvimento e treino de ferramentas de IA, nomeadamente chatbots semelhantes ao ChatGPT.
A Nvidia utiliza todo o potencial do Eos para os seus próprios projetos relacionados com Inteligência Artificial. Tal como a empresa afirma no vídeo, "... o EOS surge para enfrentar os desafios de milhares de programadores internos da Nvidia que fazem pesquisas sobre IA, ajudando-os a resolver problemas anteriormente insolúveis".
Olhando para as especificações deste supercomputador, ele conta com 576 sistemas DGX H100, em que cada um deles contém 8 GPU´s Nvidia H100. Estas destinam-se às cargas de trabalho de IA e computação de alto desempenho (HPC).
No total, o Eos conta com 1152 processadores Intel Xeon Platinum 8480C, sendo que cada um deles possui 56 núcleos CPU. Graças às 4608 gráficas H100, este supercomputador debita um incrível desempenho de 121,4 FP64 PetaFLOPS em HPC e 18,4 FP8 ExaFLOPS em tarefas de IA.
O Eos foi desenhado com base na arquitetura DGX SuperPOD e usa a tecnologia Mellanox Quantum-2 InfiniBand da Nvidia, Isto significa velocidades de transferência de dados de até 400 Gb/s, algo crucial para o treino de grandes modelos de IA generativa.
Além do seu poderoso hardware, o Eos está equipado com um poderoso software, especificamente desenhado para o desenvolvimento e implantação de IA. Segundo a Nvidia, este pode comportar diversas tarefas, desde sistemas de IA generativa a fábrica de IA.
Algo que a Nvidia não revelou no seu vídeo foi o custo de desenvolvimento deste supercomputador. No entanto, é possível fazer uma estimativa se considerarmos que cada unidade gráfica Nvidia H100 pode variar entre os 30 mil dólares e os 40 mil dólares, dependendo do volume.