Apresentado por Solidigm
À medida que a adoção da IA aumenta, os data centers enfrentam um gargalo crítico no armazenamento – e os HDDs tradicionais estão no centro disso. Dados que antes ficavam ociosos como arquivos frios agora estão sendo usados com frequência para construir modelos mais precisos e fornecer melhores resultados de inferência. Essa mudança de dados frios para dados quentes exige armazenamento de baixa latência e alto rendimento que possa lidar com cálculos paralelos. Os HDD continuarão a ser o carro-chefe do armazenamento frio de baixo custo, mas sem repensar o seu papel, a camada de armazenamento de alta capacidade corre o risco de se tornar o elo mais fraco na fábrica de IA.
“As cargas de trabalho modernas de IA, combinadas com as restrições do data center, criaram novos desafios para os HDDs,” diz Jeff Janukowicz, vice-presidente de pesquisa da IDC. “Embora os fornecedores de HDD estejam abordando o crescimento do armazenamento de dados oferecendo unidades maiores, isso geralmente ocorre às custas de um desempenho mais lento. Como resultado, o conceito de “SSDs nearline” está se tornando um tópico de discussão cada vez mais relevante na indústria.”
Hoje, os operadores de IA precisam maximizar a utilização da GPU, gerenciar o armazenamento conectado à rede com eficiência e dimensionar a computação – tudo isso enquanto cortam custos com energia e espaço cada vez mais escassos. Num ambiente onde cada watt e cada centímetro quadrado contam, diz Roger Corell, diretor sênior de IA e marketing de liderança da Solidigm, o sucesso requer mais do que uma atualização técnica. Exige um realinhamento mais profundo.
“Isso fala da mudança tectônica no valor dos dados para IA”, diz Corell. “É aí que entram em cena os SSDs de alta capacidade. Junto com a capacidade, eles trazem desempenho e eficiência, permitindo que pipelines de armazenamento em escala de exabytes acompanhem o ritmo implacável do tamanho do conjunto de dados. Tudo isso consome energia e espaço, por isso precisamos fazer isso da maneira mais eficiente possível para permitir maior escala de GPU neste ambiente restrito.”
Os SSDs de alta capacidade não estão apenas substituindo os HDDs – eles estão removendo um dos maiores gargalos no chão de fábrica de IA. Ao proporcionar ganhos massivos em desempenho, eficiência e densidade, os SSDs liberam a energia e o espaço necessários para aumentar ainda mais a escala da GPU. É menos uma atualização de armazenamento do que uma mudança estrutural na forma como a infraestrutura de dados é projetada para a era da IA.
HDDs versus SDDs: mais do que apenas uma atualização de hardware
Os HDDs têm designs mecânicos impressionantes, mas são compostos de muitas peças móveis que, em escala, consomem mais energia, ocupam mais espaço e falham com maior frequência do que as unidades de estado sólido. A dependência de pratos giratórios e cabeçotes mecânicos de leitura/gravação limita inerentemente as operações de entrada/saída por segundo (IOPS), criando gargalos para cargas de trabalho de IA que exigem baixa latência, alta simultaneidade e rendimento sustentado.
Os HDDs também enfrentam tarefas sensíveis à latência, pois o ato físico de buscar dados introduz atrasos mecânicos inadequados para inferência e treinamento de IA em tempo real. Além disso, os seus requisitos de energia e refrigeração aumentam significativamente sob o acesso frequente e intensivo aos dados, reduzindo a eficiência à medida que os dados aumentam e aquecem.
Em contraste, a solução de armazenamento VAST baseada em SSD reduz o uso de energia em aproximadamente US$ 1 milhão por ano e, em um ambiente de IA onde cada watt é importante, esta é uma enorme vantagem para os SSDs. Para demonstrar, a Solidigm e a VAST Data concluíram um estudo que examinou a economia do armazenamento de dados em escala de exabytes – um quatrilhão de bytes, ou um bilhão de gigabytes, com uma análise do consumo de energia de armazenamento versus HDDs durante um período de 10 anos.
Como ponto de referência inicial, você precisaria de quatro HDDs de 30 TB para igualar a capacidade de um único SSD Solidigm de 122 TB. Depois de considerar as técnicas de redução de dados do VAST possibilitadas pelo desempenho superior dos SSDs, a solução de exabyte compreende 3.738 SSDs Solidigm versus mais de 40.000 HDDs de alta capacidade. O estudo descobriu que a solução VAST baseada em SSD consome 77% menos energia de armazenamento.
Minimizando o espaço ocupado pelo data center
“Estamos enviando unidades de 122 terabytes para alguns dos principais OEMs e principais provedores de serviços de nuvem de IA do mundo,” Corell diz. “Quando você compara um SSD de 122 TB com uma configuração híbrida de HDD + SSD TLC, eles estão obtendo uma economia de nove para um no espaço ocupado pelo data center. E sim, é importante nestes enormes centros de dados que estão a construir os seus próprios reactores nucleares e a assinar acordos robustos de compra de energia com fornecedores de energia renovável, mas é cada vez mais importante à medida que se chega aos centros de dados regionais, aos centros de dados locais e até às suas implementações de ponta, onde o espaço pode ser valioso.”
Essa economia de nove para um vai além de espaço e energia – ela permite que as organizações adaptem a infraestrutura em espaços anteriormente indisponíveis, expandam a escala da GPU ou construam espaços menores.
“Se você receber uma quantidade X de terreno e uma quantidade Y de poder, você irá usá-los. Você é IA” Corell explica: “onde cada watt e cada polegada quadrada contam, então por que não usá-lo da maneira mais eficiente? Obtenha o armazenamento mais eficiente possível do planeta e permita maior escala de GPU dentro do envelope que você precisa encaixar. De forma contínua, você também economizará custos operacionais. Você terá 90% menos compartimentos de armazenamento para manter e o custo associado a isso desaparecerá.”
Outro elemento frequentemente esquecido, a (muito) maior pegada física dos dados armazenados em HDDs mecânicos resulta em uma maior pegada física de materiais de construção. Coletivamente, a produção de concreto e aço é responsável por mais de 15% das emissões globais de gases de efeito estufa. Ao reduzir a pegada física do armazenamento, os SSDs de alta capacidade podem ajudar a reduzir as emissões incorporadas de concreto e aço em mais de 80% em comparação com os HDDs. E na última fase do ciclo de vida da sustentabilidade, que é o fim da vida útil dos impulsos, haverá 90% menos impulsos para eliminação. .
Remodelando estratégias de armazenamento frio e de arquivamento
A mudança para SDD não é apenas uma atualização de armazenamento; é um realinhamento fundamental da estratégia de infraestrutura de dados na era da IA e está ganhando velocidade.
“Os grandes hiperescaladores estão tentando extrair o máximo de sua infraestrutura existente, fazendo atos não naturais, por assim dizer, com HDDs, como superprovisioná-los para perto de 90% para tentar extrair o máximo possível de IOPS por terabyte, mas eles estão começando a mudar,” Corell diz. “Assim que se voltarem para uma infraestrutura de armazenamento moderna e de alta capacidade, a indústria em geral estará nessa trajetória. Além disso, estamos começando a ver essas lições aprendidas sobre o valor do armazenamento moderno em IA aplicadas também a outros segmentos, como análise de big data, HPC e muito mais.”
Embora as soluções totalmente flash estejam sendo adotadas quase universalmente, sempre haverá lugar para HDDs, acrescenta. Os HDDs persistirão em usos como arquivamento, armazenamento frio e cenários onde as preocupações com o custo por gigabyte superam a necessidade de acesso em tempo real. Mas à medida que a economia simbólica aquece e as empresas percebem valor na monetização de dados, os segmentos de dados cada vez mais aquecidos continuarão a crescer.
Resolvendo os desafios de energia do futuro
Agora em sua 4ª geração, com mais de 122 exabytes cumulativos enviados até o momento, a tecnologia QLC (Quad-Level Cell) da Solidigm liderou a indústria no equilíbrio de maiores capacidades de unidade com eficiência de custos.
“Não pensamos no armazenamento apenas como armazenamento de bits e bytes. Pensamos em como podemos desenvolver essas unidades incríveis que são capazes de oferecer benefícios em nível de solução,” Corell diz. “A estrela brilhante é nosso recém-lançado E1.S, projetado especificamente para armazenamento denso e eficiente em configurações de armazenamento de conexão direta para o servidor GPU sem ventilador de próxima geração.”
O Solidigm D7-PS1010 E1.S é um avanço, o primeiro eSSD do setor com tecnologia de refrigeração líquida direta no chip de um lado. A Solidigm trabalhou com a NVIDIA para enfrentar os desafios duplos de gerenciamento de calor e eficiência de custos, ao mesmo tempo em que oferece o alto desempenho necessário para cargas de trabalho exigentes de IA.
“Estamos migrando rapidamente para um ambiente onde todos os componentes críticos de TI serão refrigerados a líquido diretamente no chip no lado da conexão direta,” ele diz. “Acho que o mercado precisa de olhar para a sua abordagem ao arrefecimento, porque as limitações de energia e os desafios de energia não vão diminuir durante a minha vida, pelo menos. Eles precisam aplicar uma mentalidade neocloud na forma como estão arquitetando a infraestrutura mais eficiente.”
A inferência cada vez mais complexa está empurrando uma parede de memória, o que torna a arquitetura de armazenamento um desafio de design de primeira linha, e não uma reflexão tardia. SSDs de alta capacidade, combinados com refrigeração líquida e design eficiente, estão surgindo como o único caminho para atender às crescentes demandas da IA. O mandato agora é construir infraestrutura não apenas para eficiência, mas para armazenamento que possa ser dimensionado de forma eficiente à medida que os dados crescem. As organizações que realinharem o armazenamento agora serão as que poderão escalar a IA amanhã.
Artigos patrocinados são conteúdos produzidos por uma empresa que paga pela postagem ou tem relacionamento comercial com a VentureBeat, e estão sempre claramente marcados. Para mais informações, entre em contato vendas@venturebeat.com.
