PsyMeasureFDR

PsyMeasure · İstatistik laboratuvarı

Yanlış keşif oranı (FDR) simülatörü

Ücretsiz çoklu test simülatöründe Bonferroni, Holm ve Benjamini–Hochberg yöntemlerini karşılaştırın. 11 yöntemle FDR, FWER ve istatistiksel gücü keşfedin.

Anlamlı sonuçların kaçı yalnızca gürültü? Her yöntem için aynı simüle edilmiş deneyleri kullanarak yanlış keşifler ile kaçırılan etkiler arasındaki dengeyi inceleyin.

Sonuçları karşılaştırın

Keşfe hazır

Simülasyonu görün

Her kare, simüle edilmiş bir deneydeki bir testtir. Renk gerçeği, işaret ise yöntemin kararını gösterir.

Sonuçlar simülasyondan sonra burada görünecek.

Renk = gerçek etki:negatifyokpozitif
Parlaklık:etkinin bu örneklemde ne kadar güçlü çıktığı (|z|)
Kare sırası:

Aynı deney, yöntem yöntem

Bir bakışta çok sayıda deney

Her satır bütün bir deneydir: gerçek etkiler solda, gürültü sağda. Soldaki parlak kareler bulunan etkiler, sağdaki sarı kareler ise yanlış keşiflerdir. Yukarıda incelemek için bir satır seçin.

Yanlış keşif oranı (FDR)

Keşifler içindeki yanlışların ortalama payı. Hiç keşif olmayan deneyler sıfır katkı yapar.

İstatistiksel güç

Saptanan gerçek etkilerin payı. Daha yüksek değer, daha az gerçek etkinin kaçırıldığı anlamına gelir.

Aile düzeyinde hata oranı (FWER)

En az bir yanlış keşif içeren deneylerin payı.

Hedef, yönteme göre FDR veya FWER için geçerlidir; güç için değil. Simülasyon tahminleri kuramsal değerlerin çevresinde dalgalanır.

Ayrıntılı sonuçlar

Tamamlanan deneyler üzerinden ortalamalar. FP = yanlış keşifler; FN = kaçırılan gerçek etkiler.

Ayrıntılı sonuçlar
YöntemFDRGüçFWEROrtalama FPOrtalama FN
p-değerleri nereden geliyor?

Sıfır hipotezlerinin p-değerleri yaklaşık olarak düzgün dağılır. Gerçek etkilerin değerleri sıfıra yönelir. Her grup ayrı ayrı normalize edilir; boş gruplarda çubuk bulunmaz.

Sıfır hipotezleri (gürültü)Gerçek etkiler

Bu simülasyonun varsayımları

Her deney, varyansı bilinen bağımsız, iki yönlü, tek örneklem z-testleri içerir. Sıfır hipotezleri için Z ~ N(0, 1); gerçek etkiler için Z ~ N(d√n, 1). Gerçek etkilerin sayısı tam sayıya yuvarlanır. Bu model, ilişkili testleri, t-testlerini, isteğe bağlı durdurmayı veya yayın yanlılığını simüle etmez.

Bunlar tek bir deney için garanti değil, Monte Carlo tahminleridir. 2.000 tekrarda tahmini FWER %5 ise standart hata yaklaşık 0,5 yüzde puanıdır. FDR, deney düzeyindeki yanlış keşif oranlarının ortalamasıdır; havuzlanmış yanlış keşif sayısının toplam keşif sayısına oranı değildir.

FDR / FWER

Çoklu karşılaştırmalar: FDR ve FWER

Çok sayıda hipotezi test etmek, yanlış pozitifler için daha fazla fırsat yaratır. Düzeltmeler, bir sonucun anlamlı sayılacağı eşiği değiştirir. Hem hata denetimini hem de gerçek etkileri saptama yeteneğini karşılaştırmak gerekir.

Çoklu testlerde neden düzeltme gerekir?

20 bağımsız ve doğru sıfır hipotezi ile α = 0.05 olduğunda, en az bir yanlış pozitif olasılığı 1 − (1 − 0.05)²⁰ ≈ %64'tür. Beklenen yanlış pozitif sayısı 20 × 0.05 = 1'dir. Bunlar farklı niceliklerdir: biri olasılık, diğeri sayı.

Yanlış keşif oranı nedir?

FDR = E[V / max(R, 1)]; burada V yanlış keşiflerin, R tüm keşiflerin sayısıdır. %5'lik FDR hedefi, yöntemin varsayımları altında tekrarlanan deneyler boyunca bu oranı ortalamada denetler. Her anlamlı sonucun yanlış olma olasılığının %5 olduğu anlamına gelmez.

FWER nasıl farklıdır?

FWER = P(V ≥ 1): bir test ailesinde tek bir yanlış keşif bile yapma olasılığı. Bonferroni ve Holm FWER'i, Benjamini–Hochberg ise FDR'yi hedefler. FWER'i denetlemek FDR'yi de sınırlar, ancak çoğu zaman daha az gerçek etki saptar.

Çözümlü örnek: Bonferroni ve BH

Sıralı beş p-değerini alın: 0.001, 0.008, 0.039, 0.041, 0.300; α = q = 0.05. Bonferroni 0.05 / 5 = 0.01 eşiğini kullanır ve ilk iki hipotezi reddeder. BH, sıraları 0.01, 0.02, 0.03, 0.04, 0.05 ile karşılaştırır. Eşiği geçen en büyük sıra 2'dir; bu yüzden BH de ilk ikisini reddeder. Son p-değeri 0.045 olsaydı BH beşini de reddederdi: ilk başarısız sırayı değil, eşiği geçen en büyük sırayı kullanın.

11 düzeltme yönteminin tümünü karşılaştırın

Düzeltmesiz

p < α olduğunda her hipotezi reddedin. Test ailesi düzeyinde hata denetimi yoktur. Yanlış pozitiflerin nasıl biriktiğini görmek için yararlı bir başlangıç noktasıdır.

Bonferroni

Bonferroni p < α/m olduğunda reddeder. Geçerli p-değerleri için her türlü bağımlılık yapısında FWER'i denetler; ancak çok sayıda test yapıldığında gerçek etkileri kaçırabilir.

Holm

p-değerlerini küçükten büyüğe sıralayın. Sıra r'yi α/(m−r+1) ile karşılaştırın ve ilk başarısızlıkta durun. Holm keyfi bağımlılık altında FWER'i denetler ve Bonferroni'nin reddettiklerinin en az tamamını reddeder.

Šidák

Tek eşik 1−(1−α)^(1/m) kullanın. Šidák bağımsız testlerde FWER'i denetler ve Bonferroni'den biraz daha az tutucudur.

Holm–Šidák

Holm'un aşağı doğru adımlı mantığını 1−(1−α)^(1/(m−r+1)) eşikleriyle uygulayın. Bu simülasyonda testler bağımsızdır; yöntemin keyfi bağımlılığı ele aldığını varsaymayın.

Hochberg

p(r) ≤ α/(m−r+1) koşulunu sağlayan en büyük r sırasını bulun ve r'ye kadar tüm sıraları reddedin. Hochberg, bağımsızlık veya uygun pozitif bağımlılık koşullarında FWER'i denetler.

Hommel

Hommel, Simes testlerine dayalı kapalı test prosedürü kullanır. Bağımsızlık veya Simes eşitsizliğini destekleyen koşullarda FWER'i denetler ve en az Hochberg kadar güçlüdür. Hesaplama maliyeti daha yüksektir.

Benjamini–Hochberg

p(r) ≤ (r/m)q koşulunu sağlayan en büyük r sırasını bulun, ardından r'ye kadar tüm sıraları reddedin. Benjamini–Hochberg, bağımsız testlerde ve belirli pozitif bağımlılık koşullarında (PRDS) FDR'yi denetler.

Benjamini–Yekutieli

BH yöntemini q değerini Hm = Σ(1/k), k = 1…m ile bölerek kullanın. Benjamini–Yekutieli keyfi bağımlılıkta FDR'yi denetler; bunun bedeli genellikle güç kaybıdır.

Storey tarzı (keşif amaçlı)

Bu basitleştirilmiş keşif amaçlı varyant, 0.5'in üzerindeki p-değerlerinin payından π₀ tahmin eder ve ardından BH'yi q/π̂₀ düzeyinde çalıştırır. Tam bir q-değeri uygulaması değildir ve sonlu örneklemde evrensel FDR garantisi sağlamaz.

Uyarlamalı BH (keşif amaçlı)

Bu iki geçişli keşif amaçlı varyant, önce BH'yi q düzeyinde çalıştırır, m₀ değerini max(1, m−R₁) olarak tahmin eder, ardından BH'yi q·m/m̂₀ düzeyinde çalıştırır. BKY prosedürü değildir ve onun sonlu örneklem garantisine sahip olduğu ileri sürülmez.

Sık sorulan sorular

Bu, kendi p-değerlerim için bir FDR hesaplayıcısı mı?

Bu bir eğitim simülatörüdür; p-değeri yükleme hesaplayıcısı değildir. Gerçeği bilinen deneyler üreterek yanlış keşifleri ve kaçırılan etkileri görmenizi sağlar; bunlar genellikle yalnızca gerçek verilerden bilinemez.

q = 0.05 yalnızca %5 yanlış pozitif olacağını garanti eder mi?

Hayır. q = 0.05 hedefi, prosedürün varsayımları altında keşifler arasındaki beklenen oranla ilgilidir. Tek bir deneyde yanlış keşif oranı daha yüksek veya daha düşük olabilir.

Hangi düzeltmeyi seçmeliyim?

Araştırma tasarımınızın hangi hataları denetlemesi gerektiğine karar verin. FWER yöntemleri test ailesinde herhangi bir yanlış keşif riskini sınırlar. FDR yöntemleri keşifler arasındaki yanlışların ortalama payını denetler. Sonuçlara bakmadan önce bağımlılık varsayımlarını kontrol edin ve hipotez ailesini tanımlayın.

Kaynaklar ve ek okumalar