#統計 「正規分布でなければt検定は使えない」というデマは、にせマナー講師的な制限のせいで方法選択が歪んでいる問題の1つ。...

別のにせマナー講師的言説で有名なのは、「期待度数が5未満ならばχ²検定ではなく、Fisher検定を使わなければいけない」です。これも結構猛威をふるっている感じ。続く
x.com/genkuroki/stat…
(1) 「期待度数が5未満ならばχ²検定ではなく、Fisher検定を使うべきである」というデマの普及
(2) 検定仮説を「母比率は等しい」から「母比率の違いはθ=aである」に拡張しない悪しき流儀の普及
2つの母比率をp,qと書くとき、検定仮説をp=qに固定してしまうと、違いの程度を定量化できなくなります。検定仮説について以下のような拡張を行いたい。具体的数値aに関する
* 仮説p-q=a
* 仮説p/q=a
* オッズ比OR=(p/(1-p))/(q/(q-q))に関する仮説OR=a
(1) 「期待度数が5未満ならばχ²検定ではなく、Fisher検定を使うべきである」というデマの普及
について説明します。このデマは「コクランルール」と呼ばれ、広く普及しており、非常に残念なことに標準的な考え方扱いされています。続く
* 小標本での検出力の低下を受け入れて、αエラー率を確実にα以下にしたいならば、Fisher検定を使う。
* αエラー率が近似的にはαになるが、αを少し超える場合が出て来ることを受け入れて、検出力にも気を使いたいならばχ²検定を使う。
「小標本ならば常にFisher検定の側を使え」と教えて来た人達は間違った教育をして来たことになります。
科学を大事にしたいなら、誤りを認めることから出発するべき。続く
①テストサンプルをランダムに大量に生成してP値を計算する。
②P値≤αとなる割合を計算する。
たったこれだけ。誰でもできる。続く
a b
c d
をランダムに生成したときの、P値≤αとなる確率のグラフです。このとき分割表の期待値は
1.5 4.5
2.0 6.0
で5未満の値が3つもある。続く
github.com/genkuroki/publ…
* 補正無しχ²検定
* Fisher検定(minlike法、Rのfisher.testの方法)
* Yatesの連続補正版のχ²検定
* Fisher検定(central法、片側確率の2倍でP値を計算)
グラフは「P値≤αとなる確率」のグラフです。続く
github.com/genkuroki/publ…
* P値≤αとなる確率はα以下であって欲しい
という保守的な要求と、
* P値≤αとなる確率はαで近似されていて欲しい
という検出力も気にする要求の2通りの要求が考えられます。
github.com/genkuroki/publ…
Yates版のχ²検定は保守的度合いが強いFisher検定(central)の良い近似になっているので、実践的には保守的要求を満たすと考えて良いです。続く
github.com/genkuroki/publ…
ただし、P値≤αとなる確率のグラフが45度線を上側に超える部分も生じてしまいます。
github.com/genkuroki/publ…
github.com/genkuroki/publ…
Bin(6,0.25)×Bin(8,0.8)
の場合。母比率が0.25と0.8で大幅に違う。
P値≤5%となる確率(検出力)は大きい方がよい。補正無しχ²検定では63%なのに、Fisher検定達とYates版χ²検定では40%未満になっています。
github.com/genkuroki/publ…
この事実は古くから知られており、繰り返し指摘されて来ました。続く
github.com/genkuroki/publ…
Fisher検定では条件付き確率分布への移行で可能な場合の数が大幅に減り、その問題が悪化することになります。続く
ただし、その確率がαを少し超える場合が出て来ることは受け入れる必要がある。続く
添付画像は帰無仮説を満たすBin(120,0.25)×Bin(160,0.25)の場合。P値≤αとなる確率のグラフは45度線に近い方がよいのだが、Fisher検定達やYates版χ²検定は45度線より下。
github.com/genkuroki/publ…
(((まあこの程度の違いなら気にする必要はないとおもいますが)))
github.com/genkuroki/publ…
3 117
4 156
でコクランルールならχ²検定の使用が(不当にも)禁止される場合。
やはり、Fisher検定達とYates版χ²検定の過剰な保守性が目立ちます。
github.com/genkuroki/publ…
この場合にはYatesの連続補正版のχ²検定の検出力低下が著しい。やはり、Yatesの連続補正版のχ²検定は使わない方がよいだろう。
github.com/genkuroki/publ…
x.com/genkuroki/stat…
これは酷いと思います。
x.com/genkuroki/stat…
x.com/genkuroki/stat…
そういうレベルの批判は編集者レベルでブロックして欲しい。
x.com/genkuroki/stat…
jstage.jst.go.jp/article/dds/30…
連載 第3回
医学データの統計解析の基本 2つの割合の比較
朝倉こう子・濱﨑俊光
も指摘しています。こういう文献で学ぶ人が増えて、伝統的な誤り(所謂「コクランルール」のこと)を訂正して行くようになると良いと思います。
x.com/genkuroki/stat…
x.com/genkuroki/stat…
* 「期待度数の中に5未満のものがあればχ²検定ではなくFisher検定を使うべきである」という考え方は間違っている。方法の選択はトレードオフで決めるべき。
* 2×2の分割表では、ゼロ仮説だけではなく、リスク差、リスク比、オッズ比の値に関する一般的な検定仮説のP値を扱うべき。
Cochran 1954 scholar.google.co.jp/scholar?cluste… を引用して「ある期待度数が5未満ならばχ²検定を使うな」というルールを「コクランルール」と呼ぶのはどうかしている。コクラン先生自身は「それだと過剰に保守的で検出力を大幅に下げる場合が出て来る」と述べていたことにも触れないとまずい。
統計学ユーザー界の場合には、定番の有名論文の引用も証拠の提出扱いできない。
x.com/genkuroki/stat…
nbviewer.org/github/genkuro…
にあります。リンク先の画像の場合には、Fisher検定よりも補正無しχ²検定の方がumpu検定に近いという結果が得られています。
x.com/genkuroki/stat…
『生物統計学の道標』(2023)
第15回 無計画な解析における問題(坂巻顕太郎)
で引用されている
9) Fagerland and Sandvik 2009
onlinelibrary.wiley.com/doi/10.1002/si…
の内容は間違ってます。
x.com/genkuroki/stat…
* 多くの教科書に書いてあることであっても信用してはいけない。
* 定番の有名査読済み論文を引用していても信用してはいけない。
* 内容的に間違っている査読済み論文を引用している場合もある。
このスレッドの内容も、#Julia言語 によるコンピュータシミュレーションが元になっている。
伝統に根付いてしまったおかしな慣習を否定するためにコンピュータは非常に役に立ちます。
drmagician.exblog.jp/22086293/ では、添付画像のように、データの数値が
1 24
5 15
の場合(表を転置していることに注意)には、χ²検定を使ってはいけないと解説している。続く
χ²検定のα=5%でのαエラー率は5.2%で5%に非常に近いので、χ²検定を用いてもよい場合だと考えられる。続く
github.com/genkuroki/publ…
Fisher検定達の検出力は補正無しχ²検定よりもずっと小さくなってしまっている。続く
github.com/genkuroki/publ…
1 24
5 15
の例はまさにそういう場合になっているのです。
萎縮
無駄な手間の増加
検出力の低下
のような実害が広く発生している疑いがあると私は考えています。
1 24
5 15
のP値関数のグラフ。横軸はオッズ比。
スコア法(Pearsonのχ²検定の拡張)
Fisher検定(minlike、Rのfisher.test)の拡張
スコア法の連続性補正
Fisher検定(central、片側確率の2倍)の拡張
の4種のP値関数をプロット。
github.com/genkuroki/publ…
「統計的に有意」という言い方はミスリーディングなので廃止されるべき。
5%のような閾値を設けない場合はP値関数のグラフ全体の様子を利用するとよい。
x.com/genkuroki/stat…
5%の閾値の設定にこだわるよりもそういう科学的貢献の方を優先するべき。
Fisher検定を小標本に使うと検出力のロスが大きくなります。検定法選択はトレードオフに配慮して行うべき。
あと、モデルにパラメータを入れてP値を拡張するべき。null P値だけを見るのは不健全。
x.com/tororo__ph/sta…
それとは別に「正規性が棄却されないならば正規性を仮定する検定を使える」も誤りです。正規性が棄却されないことは正規性を保証しません。続く
x.com/tororo__ph/sta…
今まで悪しきフローチャート統計学を教えて来た先生達は責任を取るべき。
x.com/tororo__ph/sta…
Welchのt検定は非正規性と非等分散性の両方について頑健なのですが、Mann-WhitneyのU検定は脆弱で危険な検定法なので、正規性検定で正規性が棄却されたという理由でMann-WhitneyのU検定を使うと余計にまずいことになる可能性が高くなります。
脆弱なMann-WhitneyのU検定の代替となり得るより安全な方法はBrunner-Munzel検定。
「有意差を出す」という発想自体が有害だと思います。Greenlandさん達に私は賛成です。
p=P(X<Y)+P(X=Y)/2と1/2の差を違いの指標として採用できるだけではなく、P(X<Y+a)+P(X=Y+a)/2=1/2となるaを違いの指標として採用することもできます。
P(X<Y+a)+P(X=Y+a)/2=1/2となるaは、母平均の差のノンパラ類似で分かり易いと思う。
違いを測るためのどの指標が自分の目的にとって適切かどうかで方法を選択する必要があります。
Greenlandさん達がいつも強調しているように、違いの指標となるパラメータθと数値cに関する検定仮説θ=cのP値達を全部考えればP値達は推定のための道具になります。
↓
x.com/genkuroki/stat…
* 「有意差があるか否か」と「効果量」の確認を別々に行うと説明。
* 「効果量」の報告は点推定なのか区間推定なのか曖昧。
* フローチャート的な説明をしている。
となっていて酷いのですが、おそらくその酷さはほとんど認識されていない。
これ、あまりにも頻繁に見る。
sites.stat.columbia.edu/gelman/researc…
Selecting on statistical significance and practical importance is wrong
Blakeley B. McShane and Andrew Gelman
2022
「再現性の危機」言説に関する見方の決定版の論文
↓
scholar.google.co.jp/scholar?cluste…
Inferential statistics as descriptive statistics: There is no replication crisis if we don't expect replication
V Amrhein, D Trafimow, S Greenland
The American Statistician, 2019
「ベイズ統計ならば好きな所でデータ取得を止められるし、多重性の問題も気にしなくて良い」というデマも標準的。
「お前がそう思うんならそうなんだろうな お前ん中ではな」
的な指標に過ぎません。
x.com/eveningmagazin…
P値や信頼区間の被覆確率もモデルとデータの相性の良さの様子の記述の一部分に過ぎません。
この場合は「お前ん中ではな」=「モデルん中ではな」
x.com/eveningmagazin…
しかし、それらが提供してくれる計算結果は、現実についてではなく、モデルとデータの数値の相性の良さの記述の一部分の情報だけなのです。モデルの存在が見えていないとアウト。
モデルを裏に隠して、現実に関する仮説に関する判断をP値や信頼区間やベイズ的な事後確率だけでできるかのように説明するのはアウト。
お前がそう思うんならそうなんだろうな
__お前ん中__ではな
的であることは常に強調されるべきです。解説に続く
x.com/eveningmagazin…
事前分布は事前の主観的信念を表し、
データの数値によって、
それが事後分布で表される事後の主観的信念に更新される
のように考えます。ベイズ的な意思決定論ではさらに適当なリスク関数を設定して、
期待リスクの最小化
を行います。続く
それによって、主観内部の確率分布の下でのリスクの期待値を最小化する処方箋がベイズ統計の仕組みで得られるわけです。続く
(仮説θ≤cの成立の事後確率)≈(仮説θ≤cの片側P値)
という近似が成立しており、結果的にベイズなのにP値を使っているのと同じになります。続く
x.com/genkuroki/stat…
(ベイズ版95%信用区間)≈(通常の95%信頼区間)
という近似が成立しており、ベイズ版95%信用区間についても、通常の95%信頼区間と同じ注意(色々面倒)をすべて適用する必要があります。続く
x.com/genkuroki/stat…






























