O custo exorbitante do ChatGPT e a solução da Microsoft para reduzir os gastos

O ChatGPT é um chatbot conversacional baseado em inteligência artificial (IA) desenvolvido pela OpenAI, uma empresa de tecnologia de IA co-fundada por Elon Musk. O ChatGPT é alimentado por modelos de linguagem de última geração, como o GPT-3 e GPT-4, que permitem ao sistema entender e responder a perguntas em linguagem natural com um alto grau de precisão e naturalidade.

No entanto, o ChatGPT requer uma enorme quantidade de poder computacional para lidar com a demanda global de usuários, o que gera custos operacionais exorbitantes. De acordo com o analista-chefe da empresa de pesquisa de semicondutores SemiAnalysis, Dylan Patel, o ChatGPT pode custar mais de US$ 700.000 por dia em custos operacionais e de infraestrutura para manter o sistema funcionando.

Os custos operacionais estão diretamente ligados à necessidade de servidores para hospedar a plataforma de IA. Quanto mais servidores, maior é o custo. O ChatGPT precisa de uma grande quantidade de servidores para processar o grande volume de dados que ele processa diariamente. Patel observa que sua análise se baseia apenas no modelo GPT-3, e com o lançamento do GPT-4, é provável que os custos tenham aumentado ainda mais.

Além dos custos operacionais, os custos de infraestrutura também são um fator importante. O treinamento da plataforma do ChatGPT custa dezenas de milhões de dólares, mas o custo de manter e processar os dados é muito maior, excedendo os custos de treinamento semanalmente, segundo os analistas da SemiAnalysis. Isso significa que o ChatGPT é uma tecnologia extremamente cara para ser mantida e atualizada.

Para enfrentar esses desafios, a Microsoft, uma das principais investidoras da OpenAI, está desenvolvendo hardware específico para processamento de dados de IA chamado Athena. O chip é otimizado para IA e está em desenvolvimento desde 2019, quando a Microsoft fechou um acordo de US$ 1 bilhão com a OpenAI. Há cerca de 300 funcionários da Microsoft trabalhando no projeto, e fontes relatam que a tecnologia do chip será usada exclusivamente pela Microsoft e pela OpenAI para alimentar seus próprios produtos de IA a partir de 2024. O objetivo é reduzir significativamente os custos operacionais e de infraestrutura do ChatGPT, tornando a tecnologia mais acessível e sustentável no longo prazo.