Look-ahead bias: quando o backtest usa dados do futuro
Você pode estar usando dados do futuro, sem querer, para prever o passado. E provavelmente nem sabe disso.
O look-ahead bias (usar, sem perceber, dados do futuro) é o bug mais perigoso do trading quantitativo porque é invisível. Seu código roda sem erros, seu backtest gera resultados, tudo parece certo. Mas a estratégia está usando informações que não estariam disponíveis em tempo real, e isso tira todo o sentido dos resultados do backtest.
O que é look-ahead bias?
O look-ahead bias acontece quando seu sistema de backtesting usa dados do futuro para tomar decisões no passado. Parece um erro óbvio, fácil de pegar, mas ele aparece de formas sutis que passam despercebidas até por quants experientes.
Imagine que você está fazendo o backtest de uma estratégia simples: comprar quando a média móvel de 20 períodos cruza para cima da média móvel de 50 períodos. No candle 100, você verifica se a MA de 20 períodos está acima da MA de 50 períodos. Se estiver, você compra.
Até aqui, tudo simples. Mas e se o seu código calculou essas médias móveis usando os candles 81-100 para a MA de 20 períodos? Está correto. E se usou os candles 51-100 para a MA de 50 períodos? Também está correto.
Mas e se o seu código calculou o preço atual como o preço de fechamento do candle 100 antes de o candle 100 fechar de fato? Aí você usou informação do futuro. No momento em que você tomaria a decisão na vida real, você não saberia o preço de fechamento do candle 100.
Parece trivial, mas isso cria lucros falsos. A estratégia parece prever movimentos que, na verdade, não teria como prever.
Fontes comuns de look-ahead bias
As fontes mais comuns são técnicas e banais, e é exatamente por isso que são tão perigosas.
O alinhamento dos dados no tempo (point-in-time) é traiçoeiro quando você combina vários tempos gráficos. Se você usa taxas de financiamento (funding rates) de 4 horas com dados de preço de 1 minuto, precisa ter certeza de que cada candle de 1 minuto só enxerga a taxa de financiamento que era conhecida naquele momento. A taxa de financiamento que é atualizada às 04:00 UTC não deveria influenciar decisões tomadas às 03:30 UTC, mesmo que, por algumas definições, as duas estejam dentro do mesmo período de 4 horas.
O cálculo dos indicadores pode introduzir viés se não for implementado com cuidado. Alguns indicadores olham para a frente por definição e usam dados futuros no próprio cálculo. Outros usam dados futuros sem querer, por causa da forma como foram programados. Cálculos em janela móvel (rolling) com a janela mal alinhada são culpados frequentes.
A engenharia de features (as variáveis que você cria a partir dos dados) é especialmente perigosa. Se você cria features como "variação percentual na próxima hora", é óbvio que usou dados do futuro. Mas e "variação percentual normalizada pela amplitude do dia"? Se "a amplitude do dia" inclui a máxima e a mínima que aconteceram depois da sua decisão de trading, você introduziu look-ahead.
Dados de eventos, como divulgações de resultados, eventos de liquidação ou grandes transações, podem ter timestamps (marcas de data e hora) que não batem com o momento em que a informação ficou disponível. Uma corretora pode registrar um evento de liquidação com data retroativa, fazendo com que ele apareça nos seus dados antes que os participantes do mercado pudessem saber dele.
Um exemplo real: a contaminação do ICS_26
Descobrimos no nosso próprio sistema um look-ahead bias que vale a pena compartilhar, porque ele mostra como esses bugs podem ser sutis.
Tínhamos um indicador chamado ICS_26, que media a correlação implícita entre uma altcoin e o Bitcoin. O cálculo deveria captar o quanto os movimentos da moeda estavam correlacionados com os do Bitcoin dentro de uma janela de observação no passado (lookback).
O bug: o cálculo da correlação usava, sem querer, retornos futuros do Bitcoin. Ele comparava o retorno atual da altcoin com o retorno do Bitcoin em uma janela que avançava para o futuro. Na prática, o sinal de correlação previa a direção do Bitcoin porque era calculado com dados do Bitcoin que ainda não estariam disponíveis.
Toda estratégia que usava o ICS_26 mostrava um desempenho artificialmente alto. Dos 1,747 edges (vantagens estatísticas) que tínhamos descoberto, 785 estavam contaminados por esse único indicador. Todos tiveram que ser descartados.
Não foi um erro de iniciante. O código parecia correto. Os resultados pareciam plausíveis. Foi preciso uma auditoria cuidadosa para descobrir o problema. Se não tivéssemos pegado o bug, teríamos colocado em produção estratégias que funcionavam lindamente nos backtests e fracassavam por completo ao operar ao vivo.
Como detectar o look-ahead bias
Detectar o look-ahead bias exige uma verificação sistemática em vários níveis.
Audite seu pipeline de dados. Para cada dado que sua estratégia usa, pergunte: quando essa informação ficou disponível? Confirme que seu motor de backtest só usa dados que estariam disponíveis em cada ponto de decisão. Isso é mais difícil do que parece quando você lida com várias fontes de dados.
Embaralhe suas operações. Se você embaralha a ordem das operações e o desempenho da estratégia quase não muda, isso é bom. Se embaralhar a ordem muda drasticamente os resultados, talvez você tenha um vazamento de dados dependente do tempo.
Rode walk-forward sem trégua. A validação walk-forward é o melhor teste prático contra o look-ahead bias. Se uma estratégia mostra, de forma consistente, resultados fortes dentro da amostra e fracos fora da amostra, o look-ahead bias é um culpado provável. Vamos ver a validação walk-forward em detalhes em uma aula mais adiante.
Opere em conta demo antes de operar ao vivo. Rode sua estratégia em tempo real com dinheiro fictício antes de arriscar capital real. Se os resultados do trading demo forem muito piores do que os do backtest, tem algo errado. O look-ahead bias é o principal suspeito.
Como evitar o look-ahead bias
Prevenir é melhor do que detectar. Estruture seu sistema de backtesting para dificultar o look-ahead bias.
Pense como um viajante do tempo. Em cada candle do seu backtest, finja que você voltou no tempo até aquele momento. Você só pode saber o que dava para saber naquela hora. Preços futuros não existem. Valores futuros de indicadores não existem. Dados que chegaram depois não existem.
Use bancos de dados point-in-time. Armazene os dados com o timestamp de quando ficaram disponíveis, não só de quando o evento aconteceu. Isso é especialmente importante para dados que são revisados ou preenchidos retroativamente (backfill).
Separe o cálculo da decisão. Calcule todos os valores dos indicadores para o candle N usando só dados do candle N e dos anteriores. Só depois tome sua decisão de trading. Nunca espie o que vem à frente.
Teste sua infraestrutura. Crie casos simples em que você sabe a resposta certa e verifique se o seu motor de backtest acerta. Plante bugs de look-ahead conhecidos para confirmar que sua validação os pega.
Principais lições
O look-ahead bias usa dados do futuro para tomar decisões no passado e cria lucros falsos no backtesting. Ele é invisível e comum, e aparece no alinhamento dos dados, no cálculo dos indicadores e na engenharia de features. Pegamos um look-ahead bias no nosso próprio indicador ICS_26, que contaminou 785 edges. A detecção exige auditoria sistemática, validação walk-forward e trading demo. A prevenção exige tratar os backtests como uma viagem no tempo em que só existe informação do passado.
Na próxima aula, vamos examinar o overfitting, a prática igualmente perigosa de ajustar sua estratégia ao ruído histórico, o chamado ajuste à curva (curve fitting).