Agora, a Oracle Cloud disponibiliza servidores bare metal com GPUs Nvidia H100 para treinamento de inteligência artificial, inferência e aplicações de alta performance, com a chegada prevista das GPUs Nvidia L40S.
chsyys/Burst
Em decorrência do aumento da procura por aplicações de inteligência artificial generativa e modelos de linguagem grandes, a Oracle Cloud Infrastructure (OCI) disponibilizou as GPUs Tensor Nvidia H100 em sua plataforma OCI Compute. Em breve, as GPUs Nvidia L40S também estarão disponíveis na plataforma.
Segundo a Oracle, a OCI Compute agora disponibiliza instâncias de metal nu com GPUs Nvidia H100, impulsionadas pela arquitetura Nvidia Hopper para inteligência artificial. Isso proporciona um significativo aumento de desempenho para aplicações de AI de grande escala e computação de alto desempenho. A GPU Nvidia H100 foi desenvolvida para lidar com tarefas intensivas em recursos computacionais, como treinamento de modelos LLM.
Não. Continue lendo para descobrir o que ChatGPT e LLMs podem realmente proporcionar para a sua empresa.
Empresas que utilizam as GPUs Nvidia H100 podem ter um aumento de até 30 vezes no desempenho de inferência de IA e quatro vezes no treinamento de IA em comparação com as GPUs Nvidia Core Tensor A100, de acordo com informações da Oracle. O pacote BM.GPU H100.8 OCI inclui oito GPUs Nvidia H100, cada uma com 80GB de memória GPU HBM2.
Instâncias bare-metal equipadas com GPUs Nvidia L40S, baseadas na arquitetura Nvidia Ada Lovelace, estarão acessíveis em fase inicial no final deste ano, com disponibilidade para o público em geral prevista para o início de 2024. Essas GPUs oferecem aceleração para diversas cargas de trabalho, como inferência LLM e treinamento, computação visual e aplicações de vídeo, tornando-se uma opção versátil para o data center.
