Nova geração da IA pode disparar o consumo de energia dos data centers

Tudo sobre Inteligência Artificial

Os agentes de IA estão entre as apostas mais promissoras da inteligência artificial. Mas, à medida que assumem tarefas mais complexas, um problema começa a ganhar atenção: o consumo de energia.Continua após a publicidadeSegundo o TechXplore, pesquisadores descobriram que esses sistemas podem gastar até 136,5 vezes mais eletricidade por consulta do que a IA generativa convencional, colocando a eficiência energética no centro das próximas discussões sobre a tecnologia.
Uma única consulta a um agente de IA pode consumir, em média, 348,41 watts-hora em modelos de grande porte. – Imagem criada por inteligência artificial (ChatGPT / Olhar Digital)Muito além de responder perguntasOs agentes de IA representam uma evolução dos grandes modelos de linguagem. Em vez de apenas gerar respostas, conseguem planejar tarefas, utilizar ferramentas externas, executar códigos e tomar decisões ao longo de várias etapas.Foi justamente esse comportamento que levou pesquisadores do Instituto Avançado de Ciência e Tecnologia da Coreia (KAIST) a medir, pela primeira vez, o custo computacional e energético desses sistemas em condições reais de operação.O consumo cresce rapidamenteA pesquisa mostrou que o gasto energético pode ser até 136,5 vezes maior do que o registrado em sistemas tradicionais de perguntas e respostas.Isso acontece porque um agente de IA consulta repetidamente os grandes modelos de linguagem (LLMs) durante uma mesma tarefa, exigindo muito mais processamento.Entre os principais resultados estão:
consumo de energia até 136,5 vezes maior por consulta;

aumento da latência em até 153,7 vezes;

GPUs permanecendo ociosas por até 54,5% do tempo de execução;

consumo médio de 348,41 watts-hora por consulta em um modelo com 70 bilhões de parâmetros.

Este estudo é o primeiro a demonstrar quantitativamente não apenas como a IA está se tornando mais inteligente, mas também quanta eletricidade e quais custos são necessários para implementar e sustentar essa inteligência.
Minsoo Rhu, professor da Escola de Engenharia Elétrica do KAIST, em nota.

Data centers podem sentir o impacto da nova geração de agentes de IA, que exigem muito mais processamento para cada tarefa. – Imagem: Junayed graphics/ShutterstockO próximo desafio da inteligência artificialOs pesquisadores também simularam um cenário com 13,7 bilhões de solicitações diárias de agentes de IA, volume semelhante ao das pesquisas feitas atualmente no Google. Nessa situação, os data centers consumiriam cerca de 198,9 gigawatts, o equivalente a aproximadamente metade do consumo médio de energia dos Estados Unidos.Leia mais:O estudo também identificou outro gargalo: enquanto ferramentas externas executam determinadas etapas, GPUs de alto desempenho permanecem ociosas durante parte do tempo, reduzindo a eficiência do sistema.Continua após a publicidadePara a equipe do KAIST, o avanço da IA dependerá da evolução conjunta de modelos, chips de IA, data centers e infraestrutura energética.“À medida que os agentes de IA se disseminam, será cada vez mais importante adotar uma abordagem integrada de codesign que otimize não apenas a infraestrutura de data centers para IA, mas também os modelos de agentes de IA e a infraestrutura de energia”, destacou Minsoo Rhu.Os pesquisadores também disponibilizaram em código aberto as implementações dos agentes de IA e os benchmarks utilizados no estudo, o que pode acelerar novas pesquisas e contribuir para o desenvolvimento de uma infraestrutura mais sustentável.

Valdir Antonelli

Valdir Antonelli é jornalista com especialização em marketing digital e consumo.

Ver todos os artigos →