PsyMeasureFDR

PsyMeasure · ห้องทดลองสถิติ

เครื่องจำลองอัตราการค้นพบเท็จ (FDR)

เปรียบเทียบ Bonferroni, Holm และ Benjamini–Hochberg ด้วยเครื่องจำลองการทดสอบหลายสมมติฐานฟรี สำรวจ FDR, FWER และกำลังการทดสอบทางสถิติด้วย 11 วิธี

ผลที่มีนัยสำคัญกี่รายการเป็นเพียงสัญญาณรบกวน? ใช้การทดลองจำลองชุดเดียวกันสำหรับทุกวิธีเพื่อสำรวจความสมดุลระหว่างการค้นพบเท็จกับผลจริงที่พลาดไป

เปรียบเทียบผล

พร้อมสำรวจ

ดูการจำลอง

แต่ละช่องคือการทดสอบหนึ่งรายการในการทดลองจำลอง สีบอกความจริง ส่วนเครื่องหมายบอกว่าวิธีนั้นตัดสินอย่างไร

ผลจะแสดงที่นี่หลังการจำลอง

สี = ผลจริง:เชิงลบไม่มีเชิงบวก
ความสว่าง:ผลปรากฏแรงเพียงใดในตัวอย่างนี้ (|z|)
ลำดับช่อง:

การทดลองเดียวกัน แยกดูทีละวิธี

ภาพรวมของการทดลองจำนวนมาก

แต่ละแถวคือการทดลองหนึ่งครั้งทั้งชุด: ผลจริงอยู่ทางซ้าย สัญญาณรบกวนอยู่ทางขวา ช่องสว่างทางซ้ายคือผลที่ค้นพบ ช่องสีเหลืองทางขวาคือการค้นพบเท็จ เลือกแถวเพื่อดูรายละเอียดด้านบน

อัตราการค้นพบเท็จ (FDR)

ค่าเฉลี่ยของสัดส่วนการค้นพบเท็จในผลที่ค้นพบ การทดลองที่ไม่มีผลค้นพบให้นับเป็นศูนย์

อำนาจการทดสอบทางสถิติ

สัดส่วนของผลจริงที่ตรวจพบ ยิ่งสูงยิ่งพลาดผลจริงน้อยลง

อัตราความผิดพลาดแบบครอบครัว (FWER)

สัดส่วนของการทดลองที่มีการค้นพบเท็จอย่างน้อยหนึ่งรายการ

เป้าหมายใช้กับ FDR หรือ FWER ตามวิธี ไม่ใช่กับอำนาจการทดสอบ ค่าประมาณจากการจำลองแกว่งรอบค่าทางทฤษฎี

ผลโดยละเอียด

ค่าเฉลี่ยจากการทดลองที่เสร็จสิ้น FP = การค้นพบเท็จ; FN = ผลจริงที่ตรวจไม่พบ

ผลโดยละเอียด
วิธีFDRอำนาจการทดสอบFWERFP เฉลี่ยFN เฉลี่ย
ค่า p มาจากไหน

ค่า p ของสมมติฐานว่างมีการแจกแจงเกือบสม่ำเสมอ ค่า p ของผลจริงมักใกล้ศูนย์ แต่ละกลุ่มถูกปรับมาตรฐานแยกกัน กลุ่มว่างไม่มีแท่งกราฟ

สมมติฐานว่าง (สัญญาณรบกวน)ผลจริง

ข้อสมมติของการจำลองนี้

แต่ละการทดลองประกอบด้วยการทดสอบ z แบบสองด้านสำหรับตัวอย่างเดียวที่เป็นอิสระต่อกัน และทราบความแปรปรวน การทดสอบภายใต้สมมติฐานว่างใช้ Z ~ N(0, 1) ส่วนผลจริงใช้ Z ~ N(d√n, 1) จำนวนผลจริงถูกปัดเป็นจำนวนเต็ม แบบจำลองนี้ไม่ได้จำลองการทดสอบที่มีความสัมพันธ์กัน การทดสอบ t การหยุดเก็บข้อมูลตามใจ หรืออคติในการตีพิมพ์

ค่าเหล่านี้เป็นค่าประมาณแบบมอนติคาร์โล ไม่ใช่การรับประกันสำหรับการทดลองครั้งเดียว เมื่อทำซ้ำ 2,000 ครั้งและประมาณ FWER ได้ 5% ค่าคลาดเคลื่อนมาตรฐานอยู่ที่ราว 0.5 จุดเปอร์เซ็นต์ FDR คือค่าเฉลี่ยสัดส่วนการค้นพบเท็จของแต่ละการทดลอง ไม่ใช่อัตราส่วนของจำนวนการค้นพบเท็จรวมต่อจำนวนผลค้นพบรวม

FDR / FWER

การเปรียบเทียบหลายครั้ง: FDR กับ FWER

การทดสอบสมมติฐานจำนวนมากเพิ่มโอกาสเกิดผลบวกลวง การปรับแก้เปลี่ยนเกณฑ์ที่ใช้เรียกผลว่ามีนัยสำคัญ ต้องเปรียบเทียบทั้งการควบคุมความผิดพลาดและความสามารถในการตรวจพบผลจริง

ทำไมการทดสอบหลายครั้งต้องปรับแก้

หากมีสมมติฐานว่างที่เป็นจริง 20 ข้อซึ่งเป็นอิสระต่อกัน และ α = 0.05 โอกาสเกิดผลบวกลวงอย่างน้อยหนึ่งครั้งคือ 1 − (1 − 0.05)²⁰ ≈ 64% ส่วนจำนวนผลบวกลวงที่คาดหมายคือ 20 × 0.05 = 1 ทั้งสองเป็นคนละปริมาณ: ความน่าจะเป็นกับจำนวน

อัตราการค้นพบเท็จคืออะไร

FDR = E[V / max(R, 1)] โดย V คือจำนวนการค้นพบเท็จ และ R คือจำนวนผลค้นพบทั้งหมด เป้าหมาย FDR 5% ควบคุมค่าเฉลี่ยของสัดส่วนนี้ในการทดลองซ้ำภายใต้ข้อสมมติของวิธี ไม่ได้หมายความว่าผลที่มีนัยสำคัญแต่ละรายการมีโอกาสเป็นเท็จ 5%

FWER ต่างกันอย่างไร

FWER = P(V ≥ 1): ความน่าจะเป็นที่จะเกิดการค้นพบเท็จแม้เพียงหนึ่งรายการในกลุ่มการทดสอบ Bonferroni และ Holm มุ่งควบคุม FWER; Benjamini–Hochberg มุ่งควบคุม FDR การควบคุม FWER ยังให้ขอบเขตบนของ FDR แต่ก็มักตรวจพบผลจริงน้อยกว่า

ตัวอย่างคำนวณ: Bonferroni กับ BH

พิจารณาค่า p ห้าค่าที่เรียงแล้ว: 0.001, 0.008, 0.039, 0.041, 0.300 โดย α = q = 0.05 Bonferroni ใช้ 0.05 / 5 = 0.01 และปฏิเสธสองข้อแรก BH เปรียบเทียบอันดับกับ 0.01, 0.02, 0.03, 0.04, 0.05 อันดับสูงสุดที่ผ่านคือ 2 ดังนั้น BH จึงปฏิเสธสองข้อแรกเช่นกัน หากค่า p สุดท้ายเป็น 0.045 BH จะปฏิเสธทั้งห้าข้อ: ใช้อันดับสูงสุดที่ผ่าน ไม่ใช่อันดับแรกที่ไม่ผ่าน

เปรียบเทียบวิธีปรับแก้ทั้ง 11 วิธี

ไม่ปรับแก้

ปฏิเสธแต่ละสมมติฐานเมื่อ p < α ไม่มีการควบคุมความผิดพลาดในระดับกลุ่มการทดสอบ ใช้เป็นฐานเปรียบเทียบเพื่อดูว่าผลบวกลวงสะสมอย่างไร

Bonferroni

Bonferroni ปฏิเสธเมื่อ p < α/m วิธีนี้ควบคุม FWER สำหรับค่า p ที่ถูกต้องภายใต้โครงสร้างการพึ่งพาแบบใดก็ได้ แต่อาจพลาดผลจริงเมื่อทดสอบจำนวนมาก

Holm

เรียงค่า p จากน้อยไปมาก เปรียบเทียบอันดับ r กับ α/(m−r+1) และหยุดเมื่อไม่ผ่านครั้งแรก Holm ควบคุม FWER ภายใต้การพึ่งพาแบบใดก็ได้ และปฏิเสธอย่างน้อยทุกข้อที่ Bonferroni ปฏิเสธ

Šidák

ใช้เกณฑ์เดียว 1−(1−α)^(1/m) Šidák ควบคุม FWER เมื่อการทดสอบเป็นอิสระต่อกัน และอนุรักษนิยมต่ำกว่า Bonferroni เล็กน้อย

Holm–Šidák

ใช้ตรรกะแบบลดหลั่นของ Holm กับเกณฑ์ 1−(1−α)^(1/(m−r+1)) การจำลองนี้ใช้การทดสอบที่เป็นอิสระต่อกัน อย่าสรุปว่าวิธีนี้รับมือการพึ่งพาแบบใดก็ได้

Hochberg

หาอันดับสูงสุด r ที่เป็นไปตาม p(r) ≤ α/(m−r+1) แล้วปฏิเสธทุกอันดับจนถึง r Hochberg ควบคุม FWER ภายใต้ความเป็นอิสระหรือเงื่อนไขการพึ่งพาเชิงบวกที่เหมาะสม

Hommel

Hommel ใช้กระบวนการทดสอบแบบปิดที่อาศัยการทดสอบ Simes ควบคุม FWER ภายใต้ความเป็นอิสระหรือเงื่อนไขที่ทำให้อสมการ Simes เป็นจริง และมีอำนาจการทดสอบไม่น้อยกว่า Hochberg แต่ต้องใช้การคำนวณมากกว่า

Benjamini–Hochberg

หาอันดับสูงสุด r ที่เป็นไปตาม p(r) ≤ (r/m)q แล้วปฏิเสธทุกอันดับจนถึง r Benjamini–Hochberg ควบคุม FDR เมื่อการทดสอบเป็นอิสระและภายใต้เงื่อนไขการพึ่งพาเชิงบวกบางแบบ (PRDS)

Benjamini–Yekutieli

ใช้ BH โดยหาร q ด้วย Hm = Σ(1/k), k = 1…m Benjamini–Yekutieli ควบคุม FDR ภายใต้การพึ่งพาแบบใดก็ได้ โดยทั่วไปต้องแลกกับอำนาจการทดสอบที่ลดลง

แบบ Storey (เชิงสำรวจ)

รูปแบบเชิงสำรวจที่ทำให้ง่ายลงนี้ประมาณ π₀ จากสัดส่วนค่า p ที่มากกว่า 0.5 แล้วใช้ BH ที่ q/π̂₀ นี่ไม่ใช่การคำนวณค่า q แบบสมบูรณ์ และไม่มีการรับประกัน FDR แบบทั่วไปในตัวอย่างขนาดจำกัด

BH แบบปรับตัว (เชิงสำรวจ)

รูปแบบเชิงสำรวจสองรอบนี้เริ่มจากใช้ BH ที่ q ประมาณ m₀ เป็น max(1, m−R₁) แล้วใช้ BH ที่ q·m/m̂₀ นี่ไม่ใช่วิธี BKY และไม่ได้อ้างว่ามีการรับประกันสำหรับตัวอย่างขนาดจำกัดแบบเดียวกับวิธีนั้น

คำถามที่พบบ่อย

นี่คือเครื่องคำนวณ FDR สำหรับค่า p ของฉันหรือไม่

นี่คือเครื่องจำลองเพื่อการเรียนรู้ ไม่ใช่เครื่องคำนวณที่ให้อัปโหลดค่า p ระบบสร้างการทดลองที่ทราบความจริงอยู่แล้วเพื่อให้เห็นการค้นพบเท็จและผลจริงที่พลาดไป ซึ่งโดยปกติไม่อาจทราบได้จากข้อมูลจริงเพียงอย่างเดียว

ค่า q เท่ากับ 0.05 รับประกันว่ามีผลบวกลวงเพียง 5% หรือไม่

ไม่ เป้าหมาย q = 0.05 เกี่ยวข้องกับสัดส่วนที่คาดหมายในบรรดาผลที่ค้นพบภายใต้ข้อสมมติของกระบวนการ การทดลองครั้งเดียวอาจมีสัดส่วนการค้นพบเท็จสูงหรือต่ำกว่านั้น

ควรเลือกวิธีปรับแก้ใด

กำหนดก่อนว่างานวิจัยต้องควบคุมความผิดพลาดชนิดใด วิธี FWER จำกัดความเสี่ยงที่จะมีการค้นพบเท็จแม้เพียงหนึ่งรายการในกลุ่มการทดสอบ วิธี FDR ควบคุมค่าเฉลี่ยของสัดส่วนการค้นพบเท็จในผลที่ค้นพบ ตรวจสอบข้อสมมติเรื่องการพึ่งพาและกำหนดกลุ่มสมมติฐานก่อนดูผล

แหล่งข้อมูลและอ่านเพิ่มเติม