PsyMeasureFDR

PsyMeasure · Laboratório de estatística

Simulador da taxa de falsas descobertas (FDR)

Compare Bonferroni, Holm e Benjamini–Hochberg num simulador gratuito de testes múltiplos. Explore a taxa de falsas descobertas, FWER e o poder estatístico com 11 métodos.

Quantos resultados significativos são apenas ruído? Explore o equilíbrio entre falsas descobertas e efeitos não detetados, usando as mesmas experiências simuladas para cada método.

Compare os resultados

Pronto para explorar

Veja a simulação

Cada quadrado é um teste de uma experiência simulada. A cor mostra a verdade; a marca mostra o que o método decidiu.

Os resultados aparecerão aqui após a simulação.

Cor = efeito verdadeiro:negativonenhumpositivo
Brilho:quão forte foi o efeito nesta amostra (|z|)
Ordem dos quadrados:

A mesma experiência, método a método

Muitas experiências num relance

Cada linha é uma experiência completa: efeitos reais à esquerda, ruído à direita. Os quadrados brilhantes à esquerda são efeitos detetados; os amarelos à direita são falsas descobertas. Selecione uma linha para a examinar acima.

Taxa de falsas descobertas (FDR)

Proporção média de falsas descobertas entre as descobertas. Experiências sem descobertas contribuem com zero.

Poder estatístico

Proporção de efeitos reais detetados. Um valor maior significa menos efeitos reais perdidos.

Taxa de erro familiar (FWER)

Proporção de experiências com pelo menos uma falsa descoberta.

O objetivo aplica-se à FDR ou à FWER conforme o método, não ao poder. As estimativas da simulação oscilam em torno dos valores teóricos.

Resultados exatos

Médias das experiências concluídas. FP = falsas descobertas; FN = efeitos reais não detetados.

Resultados exatos
MétodoFDRPoderFWERMédia de FPMédia de FN
De onde vêm os valores p

Os valores p nulos são aproximadamente uniformes. Os efeitos reais tendem a produzir valores próximos de zero. Cada grupo é normalizado separadamente; grupos vazios não têm barras.

Hipóteses nulas (ruído)Efeitos reais

Pressupostos desta simulação

Cada experiência contém testes z independentes, bilaterais e de uma amostra, com variância conhecida. Os testes nulos usam Z ~ N(0, 1); os efeitos reais usam Z ~ N(d√n, 1). O número de efeitos reais é arredondado para um inteiro. Este modelo não simula testes correlacionados, testes t, paragem opcional nem viés de publicação.

Estas são estimativas de Monte Carlo, não garantias para uma experiência individual. Com 2 000 repetições, uma FWER estimada de 5% tem um erro-padrão de cerca de 0,5 pontos percentuais. A FDR é a média das proporções de falsas descobertas em cada experiência, não a razão entre os totais agregados de falsas descobertas e de descobertas.

FDR / FWER

Comparações múltiplas: FDR vs. FWER

Testar muitas hipóteses cria mais oportunidades de falsos positivos. As correções alteram o limiar para considerar um resultado significativo. A comparação deve abranger tanto o controlo do erro como a capacidade de detetar efeitos reais.

Porquê corrigir os testes múltiplos?

Com 20 hipóteses nulas verdadeiras e independentes e α = 0.05, a probabilidade de pelo menos um falso positivo é 1 − (1 − 0.05)²⁰ ≈ 64%. O número esperado de falsos positivos é 20 × 0.05 = 1. São grandezas diferentes: uma probabilidade e uma contagem.

O que é a taxa de falsas descobertas?

FDR = E[V / max(R, 1)], em que V é o número de falsas descobertas e R é o número total de descobertas. Um objetivo de FDR de 5% controla esta proporção em média ao longo de experiências repetidas, sob os pressupostos do método. Não significa que cada resultado significativo tenha 5% de probabilidade de ser falso.

Em que difere a FWER?

FWER = P(V ≥ 1): a probabilidade de fazer sequer uma falsa descoberta numa família de testes. Bonferroni e Holm visam a FWER; Benjamini–Hochberg visa a FDR. Controlar a FWER também limita a FDR, mas muitas vezes deteta menos efeitos reais.

Exemplo resolvido: Bonferroni vs. BH

Considere cinco valores p ordenados: 0.001, 0.008, 0.039, 0.041, 0.300, com α = q = 0.05. Bonferroni usa 0.05 / 5 = 0.01 e rejeita as duas primeiras hipóteses. BH compara os postos com 0.01, 0.02, 0.03, 0.04, 0.05. O maior posto que satisfaz o critério é 2, pelo que BH também rejeita as duas primeiras. Se o último valor p fosse 0.045, BH rejeitaria as cinco: use o maior posto que satisfaz o critério, não o primeiro que falha.

Compare os 11 métodos de correção

Sem correção

Rejeite cada hipótese quando p < α. Não há controlo do erro ao nível da família. É uma referência útil para observar a acumulação de falsos positivos.

Bonferroni

Bonferroni rejeita quando p < α/m. Controla a FWER para valores p válidos sob qualquer estrutura de dependência, mas pode não detetar efeitos reais quando se fazem muitos testes.

Holm

Ordene os valores p do menor para o maior. Compare o posto r com α/(m−r+1), parando na primeira falha. Holm controla a FWER sob dependência arbitrária e rejeita pelo menos tudo o que Bonferroni rejeita.

Šidák

Use o limiar único 1−(1−α)^(1/m). Šidák controla a FWER para testes independentes e é ligeiramente menos conservador do que Bonferroni.

Holm–Šidák

Aplique a lógica descendente de Holm com limiares 1−(1−α)^(1/(m−r+1)). Esta simulação usa testes independentes; não presuma que o método admite dependência arbitrária.

Hochberg

Encontre o maior posto r que satisfaça p(r) ≤ α/(m−r+1) e rejeite todos os postos até r. Hochberg controla a FWER sob independência ou condições adequadas de dependência positiva.

Hommel

Hommel usa um procedimento de testes fechados baseado nos testes de Simes. Controla a FWER sob independência ou condições que sustentem a desigualdade de Simes e tem pelo menos tanto poder como Hochberg. Exige mais computação.

Benjamini–Hochberg

Encontre o maior posto r que satisfaça p(r) ≤ (r/m)q e rejeite todos os postos até r. Benjamini–Hochberg controla a FDR para testes independentes e sob certas condições de dependência positiva (PRDS).

Benjamini–Yekutieli

Use BH com q dividido por Hm = Σ(1/k), k = 1…m. Benjamini–Yekutieli controla a FDR sob dependência arbitrária, geralmente com perda de poder.

Estilo Storey (exploratório)

Esta variante exploratória simplificada estima π₀ pela proporção de valores p acima de 0.5 e depois aplica BH com q/π̂₀. Não é uma implementação completa de valores q e não oferece garantia universal de FDR em amostras finitas.

BH adaptativo (exploratório)

Esta variante exploratória em duas passagens aplica primeiro BH com q, estima m₀ como max(1, m−R₁) e depois aplica BH com q·m/m̂₀. Não é o procedimento BKY nem é apresentada como tendo a sua garantia para amostras finitas.

Perguntas frequentes

Isto é uma calculadora de FDR para os meus valores p?

Este é um simulador educativo, não uma calculadora para carregar valores p. Gera experiências com verdade conhecida para observar falsas descobertas e efeitos não detetados, que normalmente não podem ser identificados apenas com dados reais.

Um valor q = 0.05 garante apenas 5% de falsos positivos?

Não. O objetivo q = 0.05 refere-se à proporção esperada entre as descobertas, sob os pressupostos do procedimento. Uma experiência individual pode ter uma proporção maior ou menor de falsas descobertas.

Que correção devo escolher?

Decida que erros o seu desenho de investigação deve controlar. Os métodos FWER limitam o risco de qualquer falsa descoberta na família de testes. Os métodos FDR controlam a proporção média de falsas descobertas entre as descobertas. Verifique os pressupostos de dependência e defina a família de hipóteses antes de examinar os resultados.

Fontes e leituras adicionais