5 de outubro de 2026 - 7 min de leitura
Como impedir que uma API de previsão por ponto caia no pico
Previsões recortadas de grades levavam 10–15 s e derrubavam a API no pico. Gateway e armazenamento sob demanda zeraram os 5xx sem reescrever o backend.
O horário de pico, antes e depois
Como impedir que uma API espacial caia sob carga quando não dá para reescrever o backend por trás dela?
Tivemos que responder a isso em uma plataforma que operamos. Uma previsão para um ponto qualquer levava 10–15 s para ser calculada. Nos horários de pico essas requisições se acumulavam até o backend cair e levar o sistema junto, e essas quedas voltavam sempre.
Desde 1º de outubro, os horários de pico não a derrubam mais, e os erros 5xx estão em zero. O backend não foi reescrito. Duas coisas na frente dele fizeram isso juntas. A primeira é um gateway na borda que agora enxerga cada chamada, por chave de API, e nos dá um monitoramento de tráfego que não tínhamos antes. A segunda é um armazenamento sob demanda que guarda cada resposta de previsão válida até que uma nova rodada do modelo a torne obsoleta.
O armazenamento não existia antes de 1º de outubro. Começou vazio naquele dia e, em 4 de outubro, já respondia 43% das chamadas em um caminho que nunca tinha tido cache.
Isso está rodando há uma semana. Quem usa a API ainda não notou, o que é justo: uma semana não basta para notar uma queda que parou de acontecer. Com o tempo, talvez notem.
Por que cada resposta era cara
Uma previsão para uma coordenada qualquer não fica guardada em lugar nenhum. Ela é recortada da saída de modelos em grade a cada requisição. O backend abre as rodadas mais recentes em Zarr, onde uma única rodada pode passar de um gigabyte e meio. Seleciona as células em torno do ponto e monta a série temporal entre modelos e variáveis. Era aí que iam os 10–15 s, e no pico isso era mais trabalho do que o backend conseguia absorver.
A plataforma já tinha um armazenamento para isso: uma lista pré-calculada de locais cujas previsões um pipeline calcula depois de cada rodada do modelo e grava no armazenamento de objetos. Funciona para os lugares em que alguém pensou com antecedência. Só que as pessoas não pedem uma lista. Pedem pontos: um local, um endereço, uma coordenada vinda de um dispositivo. Todo ponto fora da lista ia para o caminho lento, e era esse caminho que caía.
Guarde o que as pessoas pedem, não o que você adivinha
O armazenamento sob demanda inverte isso. Ele não tenta prever quais pontos importam. Quando o backend calcula uma previsão, o gateway guarda a resposta, e a próxima requisição para aquele ponto é servida do armazenamento.
Os números dos primeiros dias mostram por que isso funciona. No caminho que não tinha cache antes de 1º de outubro, a fração de chamadas respondidas pelo novo armazenamento foi:
- 1º de outubro, primeiro dia: 6%
- 2 de outubro: 17%
- 3 de outubro: 41%
- 4 de outubro: 43%
Em 4 de outubro, a lista pré-calculada respondeu 845 chamadas nesse caminho. O armazenamento sob demanda, com três dias de vida e preenchido só por requisições reais, respondeu 2.325. Uma lista feita de palpites cobre os lugares que alguém esperava. Um armazenamento preenchido pela demanda cobre os lugares sobre os quais as pessoas realmente perguntam, e aprende quais são sozinho.
Uma resposta vale até a próxima rodada do modelo
Guardar respostas é a parte fácil. A parte difícil é saber quando uma previsão guardada deixa de ser verdadeira, e esta é a ideia que levaríamos para qualquer sistema que serve respostas derivadas de dados em grade.
A ferramenta de costume é um tempo de vida fixo, e para dados de previsão ele obriga a uma escolha ruim. Curto, para ficar atualizado, e você recalcula respostas que não tinham mudado, justamente a carga que queria evitar. Longo, para economizar processamento, e você continua servindo a previsão da rodada anterior depois que uma nova já saiu.
Os próprios dados já dizem qual é o momento certo. Uma previsão por ponto guardada é exatamente o que o backend calcularia de novo, enquanto a rodada do modelo de onde ela veio for a mais recente. Quando há uma rodada nova, as respostas construídas sobre a antiga ficam obsoletas. Elas são apagadas, e a próxima requisição para aquele ponto é calculada sobre a rodada nova e guardada outra vez.
Por isso não há tempo de vida para ajustar. O armazenamento sempre serve a previsão mais recente. Nunca recalcula um ponto que ninguém pediu. O recálculo acontece uma vez por ponto a cada rodada, distribuído pelas requisições que de fato chegam, em vez de tudo de uma vez sempre que um timer expira. O mesmo vale para qualquer produto derivado de uma fonte que se atualiza em um ciclo conhecido: uma resposta vale exatamente enquanto a entrada dela for a mais recente.
Uma porta de entrada
Nada disso funciona se cada requisição não passar por um único lugar. O tráfego de API, de mapas e de tiles agora passa todo por um único Worker na borda (Cloudflare Workers), na frente dos backends. Nós o colocamos no ar em modo sombra. Ele resolve a chave de cada chamador, conta requisições, verifica limites de taxa e registra o que bloquearia, mas não bloqueia nada. Cada chamador ficou visível por chave antes de qualquer regra ser aplicada. Foi essa visibilidade que nos permitiu rastrear cada 5xx restante até a sua causa, em vez de adivinhar.
Dois detalhes pesaram para o tráfego espacial:
- A chave vai como parâmetro de query. Os clientes de mapa leem arquivos PMTiles com requisições HTTP de intervalo (range) e buscam tiles raster a partir de templates
{z}/{x}/{y}. Um parâmetro de query acompanha os dois, e também links simples, onde um cabeçalho muitas vezes não consegue ir. O gateway incorpora o parâmetro à mesma verificação de chave e o remove da URL antes do cache e dos logs. - Enxergar tudo revela surpresas. Duas escritas de pipelines internos, centenas de chamadas por dia, estavam usando a chave de um cliente. É o tipo de coisa que se descobre antes de aplicar qualquer regra, não depois.
Só respostas completas entram
Um armazenamento na frente de dados em grade só merece tanta confiança quanto a verificação que decide o que entra nele. Ele grava apenas uma resposta completa, a mesma que o pipeline teria produzido para aquela requisição. No dia em que o armazenamento foi construído, cópias parciais de uma rodada do modelo em dois nós fizeram o backend devolver previsões cortadas em três dias em vez do horizonte completo, com status 200. Um armazenamento na frente disso teria guardado a resposta curta e a servido a todos até a rodada seguinte. Por isso ele foi implantado desligado, e só foi ligado depois que o backend parou de devolver previsões curtas.
As respostas guardadas são nomeadas por um geohash da localização mais as dimensões da requisição, de modo que uma requisição repetida cai no mesmo objeto. O gateway também dá a essas rotas um piso de 60 segundos de timeout. Assim o primeiro cálculo, o lento, consegue terminar e preencher o armazenamento, em vez de ser interrompido e repetido pelo próximo chamador.
Próximos passos
A maior parte das chamadas ainda calculadas nesse caminho vem de sistemas legados que enviam parâmetros incomuns. Um deles mandava o timestamp com o offset +00:00, que o validador do armazenamento não aceitava, então todas essas requisições eram calculadas e nenhuma era guardada. O monitoramento de tráfego do gateway é como encontramos esses casos, um chamador por vez. Depois, ou corrigimos o chamador, ou fazemos o gateway normalizar a requisição para que ela também caia no armazenamento.
Se a sua API responde pontos a partir de grades
Se o seu produto responde perguntas sobre pontos quaisquer a partir de saídas em grade e cai quando a demanda sobe, a solução pode não ser reescrevê-lo. Coloque uma porta na frente dele e veja quem está chamando. Guarde o que as pessoas realmente pedem, e só quando a resposta estiver completa. Deixe a próxima rodada do modelo, e não um timer, decidir quando essa resposta deixa de ser verdadeira. Nesta plataforma, isso fez os horários de pico deixarem de ser quedas recorrentes e virarem tráfego comum, com erros 5xx em zero na semana em que está rodando.
Se você tem um endpoint espacial caro que cede sob carga, teremos prazer em conversar sobre ele.