Com o tópico da Inteligência Artificial a crescer exponencialmente nos últimos anos, a consciencialização ambiental do tema tem sido cada vez mais relevante para a opinião pública.
Recentemente, com o uso de arrefecimento industrial ineficiente nos centros de dados para modelos IA, o consumo de água tem-se revelado uma preocupação crescente entre académicos e ambientalistas.
Uma garrafa de água por cada conversa com o Chat GPT
Num relatório do ano passado, produzido por académicos da UC Riverside, foi revelado que o treino de um language model à escala do GPT-3 utilizaria cerca de 700 000 litros de água, o equivalente à produção de 320 veículos elétricos Tesla.
Numa escala mais individual, o ChatGPT precisa de “beber” uma garrafa de 500ml de água para uma conversa simples de cerca de 20 a 50 perguntas e respostas, dependendo de quando e onde o ChatGPT é implementado.
Para agravar a situação, esta estimativa foi feita para um modelo de classe GPT-3 com cerca de 175 mil milhões de parâmetros, um número que se revela cada vez mais pequeno para os padrões atuais. Estima-se que o GPT-4 tenha entre 1,7 e 1,8 triliões de parâmetros e, naturalmente, com o crescimento da IA na indústria tech, estes modelos só vão aumentar de dimensão.
Quando arrefecidos a líquido, estes sistemas são normalmente circuitos fechados que perdem pouca ou nenhuma quantidade significativa de fluidos durante o funcionamento normal. O que está realmente a consumir toda a água são os manipuladores de ar dos centros de dados, conhecidos como refrigeradores evaporativos e utilizados para evitar o sobreaquecimento dos sistemas.
É importante também notar que esta é uma decisão empresarial e que nem todas as instalações utilizam refrigeradores evaporativos. Se a Meta ou a Amazon estiverem a planear instalar um centro de dados de IA no teu bairro, vão provavelmente sobrecarregar a rede elétrica local, no entanto, isso não significa necessariamente que vão consumir o abastecimento de água da cidade.
As alternativas a este método de arrefecimento
Embora existam alternativas ao arrefecimento evaporativo, muitas delas são feitas à custa de um maior consumo de energia, um bem já escasso, como a CBRE informou recentemente.
Mesmo com tarifas industriais, os custos de eletricidade aumentam rapidamente. Assim, nos mercados onde os refrigeradores evaporativos são viáveis, a tecnologia oferece uma vantagem competitiva significativa.
Em última análise, tudo se resume a isto: ou se utiliza mais energia ou se consome mais água. Se a água for mais barata e abundante do que a eletricidade, a escolha dos operadores torna-se certa.
NVIDIA com a chave para a solução?
No entanto, esta situação pode estar a mudar. É muito improvável que o ritmo da inovação da IA vá abrandar nos próximos anos, e temos visto chips a ficarem cada vez mais quentes e até mesmo a ultrapassar a marca de um quilowatt.
Para acomodar os Grace Blackwell Superchips, um superchip de IA incrivelmente denso com uma potência nominal de 2.700 W, a NVIDIA optou por arrefecimento líquido direto (DLC).
Além de ser indiscutivelmente melhor em termos de eficiência de funcionamento, o DLC é substancialmente mais eficiente em termos energéticos do que as ventoinhas utilizadas na maior parte dos casos - no entanto, a popularização desta tecnologia pode-se revelar uma grande dor de cabeça para os operadores de centros de dados, uma vez que muitas instalações mais antigas não podem ser adaptadas para acomodar esta técnica.
Embora a transição possa ser complexa, a adoção generalizada do arrefecimento líquido tem o potencial de reduzir o consumo de água a longo prazo. Isto porque o coeficiente térmico mais elevado do arrefecimento líquido permite a utilização de arrefecedores secos, que funcionam de forma muito semelhante a um radiador de automóvel, mas a uma escala industrial.
Além disso, há muito potencial para a reutilização do calor nestes casos - por exemplo, num texto publicado o ano passado pela The Next Platform, estimou-se que a formação de um modelo de dimensão GPT-3 poderia gerar calor suficiente para suportar cerca de 4,6 estufas e fazer crescer mais de um milhão de tomates.
No entanto, até vermos uma transição globalizada para sistemas de arrefecimento líquido direto, irão continuar a existir títulos que reforçam a preocupação com o consumo crescente de água em centros de dados de IA.
