Sempre que surge uma discussão mais longa do que 40 segundos a respeito do conceito ou da utilidade das criptomoedas, a questão do consumo de energia entra na roda 1Sim, este artigo trata de questões ambientais. Se só essa posição já lhe irritou, sugiro que vá ler outra coisa..

Em 2021, um estudo da Universidade de Cambridge Concluiu que, levando em conta apenas o Bitcoin, a energia coletiva gastou em um ano para sua mineração estava na casa de 121,36TWh, mais do que a energia anual gasta em toda a Argentina, a Holanda ou os Emirados Árabes Unidos.

Eu trago a questão do Bitcoin para colocar um pouco em perspectiva a demanda energética dos grandes modelos de linguagem (LLMs), já que as criptomoedas foram tratadas como o epítome do desperdício energético dos últimos anos. Em 2020, o treinamento do GPT-3 uma somatória de 355 anos de processamento em GPUs 2Unidades de processamento gráficoou unidades de processamento gráfico. NVIDIA V100, e teve um consumo energético estimado de 284.000kWh, ou seja, só 0,0002% do custo anual de mineração de Bitcoin.

Maravilha, certo? Bem, não exatamente. Esse era apenas o começo: o GPT-3 tinha “apenas” 175 milhões de parâmetros, enquanto o GPT-4 tem 1,7 trilhão. Para treinar o GPT-4, foram utilizados 25.000 GPUs NVIDIA A100 durante aproximadamente 100 dias 3Ou seja, o equivalente a 6.850 anos de treinamento., o que por si só custou US$ 63 milhões. E isso não inclui o preço das GPUs, que custam a partir de US$ 10.000 cada — cuja fabricação e rede de distribuição também geram desgastes ambientais.

Além disso, para estimar o verdadeiro custo energético de um LLM, é preciso entrar na busca de duas outras partes bem importantes: as servidores eo volume (ou uma escala) de uso. E é aqui que a coisa passa a ficar ainda mais delicada.

De acordo com dados divulgados pela AIE 4Agência Internacional de Energiaou Agência Internacional de Energia. (PDF) em janeiro de 2024, uma pesquisa no Google consumia 0,3 watts-hora de energia. Já um pedido ao ChatGPT consumia 2,9 watts-hora, ou seja, quase 10 vezes mais.

Ainda segundo a agência, somando criptomoedas, data centers tradicionais e data centers exclusivos de IAs (sim, tudo extremamente abrangente e pouco preciso para gerar um número grande de propósito), eles corresponderam a 2% do consumo de energia global em 2022 — demanda essa que Eles previram que poderão quase dobrar até 2026, ultrapassando o consumo energético anual do Japão.

Pois bem. Na contramão disso, temos a empresa de Tim Cook e sua iniciativa maçã 2030, anunciado em julho de 2020 5Ou seja, antes do estrondo atual das IAs e de suas necessidades energéticas. e bastante destacada no evento de setembro do ano passado.

Segundo a empresa, toda a sua cadeia de suprimentos e linha de produtos terá impacto climático zero até 2030, o que parecia algo particularmente ambicioso quando o “Projeto Titan” ainda estava ativo 6Por serem mais pesados ​​do que carros com motor a combustão, a poluição originada pelo desgaste dos pneus tende a ser maior em carros elétricos. Muitos refutam os números absolutos desse estudomas independentemente da quantidade, o desgaste é objetivamente maior..

Vídeo do youtube

De qualquer forma, uma coisa que nunca ficou muito clara aqui é se os serviços oferecido pela empresa também estão contemplados na iniciativa, ou se eles ficam de fora do que ela considera neutralizar o carbono de seus produtos.

Isso porque, dada a escala de usuários de iPhones, iPads e Macs e, considerando a expectativa de passarmos a contar muito em breve com LLMs e outras manifestações de IA nativa em nossos dispositivos, praticamente teremos da noite para o dia um acréscimo gigante na demanda por esses recursos que, lembrando, chegam a custar dez vezes mais energia do que uma busca tradicional no Google.

E se você notou que eu mudei o foco de “consumo de energia” para “pegada de carbono” quando incluí a Apple na história, não foi por acidente. Essas coisas obviamente estão intimamente relacionadas. No caso da Apple, é por meio da adoção ou compra de créditos de energia limpa e renovável que ela vem tentando equilibrar o aumento da demanda que ela (e, por consequência nós) causa com seus produtos.

Nós já sabemos que, começando com o Apple Watch Série 9, a empresa estimou o quanto cada usuário gastaria com recarga, e passou a investir esse mesmo valor em iniciativas de energia renovável ao redor do mundo. Como a ideia é estender isso para o resto da linha, parece que o custo energético das IAs que rodarão localmente em nossos dispositivos estarão instalados.

Mas, e em relação aos data centers? Em setembro do ano passado, a Apple disse que eles já rodavam com energia 100% limpa. Porém, no relatório ambiental anual divulgado há algumas semanas, ela informou que é “um caminho para reduzir as emissões em 75%”, e que irá “equilibrar o resto com remoções de carbono de alta qualidade”.

São coisas bem diferentes, com base em um objetivo definido muitos anos antes de a Apple saber, por exemplo, que teria que equipar novos data centers para lidar exclusivamente com a demanda originada por recursos de IA.

Isso sem contar, é claro, o processo de treinamento que, como vimos no começo do texto, é bastante dispendioso em todos os sentidos.

É claro que daria para dizer que, com o tempo, o processo de treinar, hospedar e rodar essas IAs ficará mais barato. Isso é verdade. Mas também é verdade que esses processos serão substituídos por outros ainda mais caros, para oferecer resultados ainda mais avançados, para necessidades que ainda não são atendidas pela tecnologia atual. Na prática, treinei um GPT-3 hoje em dia custaria muito menos dinheiro, tempo e energia do que em 2020, mas seu desempenho seria irrelevante frente aos líderes do mercado.

Eu não duvido da capacidade da Apple de fazer o esforço extra para zerar o impacto que suas IAs causarão no planeta, mesmo porque ela própria costuma se gabar de ser a única que tem dinheiro suficiente para fazer isso, por mais caro que seja. Por outro lado, a chance não é zero de que ela tenha aberto mão de alguns dos seus princípios para lançar algo logo e não parecer mais tão atrás no mercado de IA generativa, na expectativa de ter tempo suficiente para zerar essas emissões até 2030.

No fundo, eu e você sabemos que usaremos os IAs da Apple, mesmo que eles queimem um galão de diesel a cada requisição. O ponto é que, depois de tantos anos tocando o bumbo do ambientalismo sempre que ele transmitiu 7Alô, carregador na caixa!, a WWDC24 será um bom teste para saber como a companhia lidará com os desafios que sequer existiam quando ela definiu a meta de 2030 não já há muito tempo no ano de 2020, especialmente quando a concorrência não passa nem perto de ligar tanto para esse assunto quanto ela ao desenvolver os próprios LLMs. Ou você se lembra de ter visto algum segmento ambiental nos últimos eventos do Google e da OpenAI? 🌳

Notas de rodapé

By admin

Leave a Reply

Your email address will not be published. Required fields are marked *