#統計...

結論: フローチャート統計学は有害!
ただし、その内容自体が間違っているので、初学者にフローチャート統計学を教えることは極めて有害です。続く

のでこのもやもやを頑張って言語化してみる。
特にデータサイエンティストになりたての初学者やフローチャートを参考にしたことがある人は読んでほしい。
例えば
・データが正規分布?->t検定
・対応あり?->対応ありt検定
・3群以上?->ANOVA
みたいなやつ。
もちろん教育的な入り口として一定の価値はあると思う。
各手法の分かりやすい違いが一覧できている、みたいな観点では勉強のきっかけになり得るので良いものではあると思う。
一方で、実務や研究の現場でこの思考法を持ち込むのは、ものすっごい危険。
なので読み手のスタンスとリテラシーがすごい重要で、それにリスクが大きく潜んでいる思う。
前提や仮定、手法の特性について分かってて、かつ解きたい問題についてどういうバイアスが乗りそうでどういうリスクが潜んでいるか、を認識したうえで利用するのであればまだわかる。
(ただ、それを分かっていればそもそもフローチャートを使う必要がそもそもない)
そもそも統計的検定を始めとした効果検証の領域の問題はyes/noの境界を作れるものではないし、無数の切り口と無数の妥当さが存在するんですよね。
例えば、データが正規分布に従う、と仮定する場合は~~~みたいなフロー。何をもって正規分布と仮定するのか、本当に正規分布と仮定して良いのか、って話です。
今回はこういうデータでこういう問題を解いていて、
ドメインからこういう仮定がおけて、
データを観測する限りこれぐらいの誤差がありそうで、
そのリスクは許容できそうだから、
正規分布とみなして問題を解こう、
だからこの手法を使ってよいんだ。
みたいな考え方が大事なんですよね。
フローチャートを使うってことは、判断をyes/noで境界を雑に作っている(分布の仮定、サンプルサイズ、バイアス、...)ってことで、
重要な情報を捨てていて、そのリスクを認識する行為を放棄することと同義です。
なので、ものすごい危険な判断が潜みます。
更に厳しいことを言うと、ちゃんと問題設定を作りこめていれば回帰分析(GLMや階層モデルを含む)の問題に結局は落ち着くことがほとんどで、
これが作れない時点で問題設定から破綻していて、害悪な結果しか生み出さないことが目に見えてます。
つまり問題設定を作り、それを適切にモデリングができるかどうかが重要であって、それができない時点で破綻してるかデータ理解が足りてないんですよね。
フローチャートを実務の問題に適用する時点で、それはもう間違った結果を生み出す可能性が非常に高いと認識したほうが良いです。
データサイエンスってフローチャートやフレームワークを模倣して、理解していない状態で物事を進めるケースが非常に多いです。
データサイエンティストとして最も怖いのは、理解していないことを理解していない状態に陥ること、だからな。
なので、
手抜きをせず、
正しくデータと向き合い、
正しく手法を理解し、
フローチャートではなく自身のロジックと根拠を持って、
誠意をもって問題に立ち向かうんだぞ。
続く

例1
まず「正規性の検定」で「t検定」と「ノンパラメトリック検定」を使い分けようとしている所からおかしい。
さらに「等分散の検定」で「Studentのt検定」と「Welchのt検定」を使い分けるのも誤りです。
続く

フローチャート統計学を教えることは社会への負の貢献になるので、負の貢献だときちんと評価されるべき。
負の貢献をしていると評価されずに済んでいるから、何度でも負の貢献をノーリスクで繰り返す。
ただし、左右非対称性が大きく、外れ値が出易い場合には弱い。
しかし、そういう場合は平均値は代表値として不適切である可能性が高いという理由で、母平均の差に関するt検定達は良い方法にはならない可能性が高い。続く
等母分散性検定を使ってStudentとWelchを使い分けると、検出力の弱さの分だけ、不等母分散のよろしくない場合にStudentのt検定を使用することになってしまいます。続く
等母分散の場合にもWelchで全然問題ない。続く
あらゆる選択肢の分岐全体における確率と、選んだ方法限定での確率の評価は全く異なります。そういうややこしい話を初学者は理解できないでしょう。続く

統計分析の過程での潜在的な分岐を考慮すると意図せずに多重比較の問題が生じているかもしれないという「分岐する小道の庭」の話の整理と具体例。
sites.stat.columbia.edu/gelman/researc…
The garden of forking paths
Gelman-Loken 2013
ASA声明2016やNature 2019に出た統計的有意性の廃止の提案論文の内容を教える側が一切考慮してなかったり、読んだ気配があっても内容を全然理解していなかったりする。
「差がない」のようなゼロ仮説単独のP値が5%未満か否かで「有意差あり/なし」と結論するのがNHSTです。
常識的な科学的素養があれば、こういうやり方を初学者に教え込むことは明らかに非常にまずい。続く
そのせいで、異なる意味での差の有無を全部ごっちゃにして「有意差あり/なし」にまとめる杜撰さのおまけ付き。
母平均の差(t検定)とP(X<Y)+P(X=Y)/2と1/2の差(BM検定)は違う。
これと初学者を害するフローチャート統計学の教育事例を比較すると愕然としてしまいます。
これ、特に高等教育の大問題だと思います。

↓
biostatistics.ucdavis.edu/sites/g/files/…
日本語版
↓
github.com/genkuroki/publ…
①間違った検定法が選択されがちになる。
②「差」の意味の違いに無頓着になる。
③結論が「有意差あり/なし」の二分法に単純化され、不確実性ロンダリングの原因になる。
①だけですでにアウト。他にも科学的にダメになってもらうための要素が満載!

フローチャート統計学は、「差がない」の意味が異なる検定法をまるで互換性があるかのように扱っている点も酷い。差の意味に無頓着に「有意差を出す」という発想をすること自体が酷過ぎる。続く

最初にどの指標で違いを測ることが適切かについて考えるべき。
詳しくはスレッド全体を参照。
添付画像は見つけたらフローチャートの中で最もシンプルだとみなせるものだが、初学者に無駄に複雑な手続きを課しているという点でも迷惑なものになっている。
無駄に複雑であることの解説に続く

のでこのもやもやを頑張って言語化してみる。
特にデータサイエンティストになりたての初学者やフローチャートを参考にしたことがある人は読んでほしい。
例えば
・データが正規分布?->t検定
・対応あり?->対応ありt検定
・3群以上?->ANOVA
みたいなやつ。
もちろん教育的な入り口として一定の価値はあると思う。
各手法の分かりやすい違いが一覧できている、みたいな観点では勉強のきっかけになり得るので良いものではあると思う。
一方で、実務や研究の現場でこの思考法を持ち込むのは、ものすっごい危険。
なので読み手のスタンスとリテラシーがすごい重要で、それにリスクが大きく潜んでいる思う。
前提や仮定、手法の特性について分かってて、かつ解きたい問題についてどういうバイアスが乗りそうでどういうリスクが潜んでいるか、を認識したうえで利用するのであればまだわかる。
(ただ、それを分かっていればそもそもフローチャートを使う必要がそもそもない)
そもそも統計的検定を始めとした効果検証の領域の問題はyes/noの境界を作れるものではないし、無数の切り口と無数の妥当さが存在するんですよね。
例えば、データが正規分布に従う、と仮定する場合は~~~みたいなフロー。何をもって正規分布と仮定するのか、本当に正規分布と仮定して良いのか、って話です。
今回はこういうデータでこういう問題を解いていて、
ドメインからこういう仮定がおけて、
データを観測する限りこれぐらいの誤差がありそうで、
そのリスクは許容できそうだから、
正規分布とみなして問題を解こう、
だからこの手法を使ってよいんだ。
みたいな考え方が大事なんですよね。
フローチャートを使うってことは、判断をyes/noで境界を雑に作っている(分布の仮定、サンプルサイズ、バイアス、...)ってことで、
重要な情報を捨てていて、そのリスクを認識する行為を放棄することと同義です。
なので、ものすごい危険な判断が潜みます。
更に厳しいことを言うと、ちゃんと問題設定を作りこめていれば回帰分析(GLMや階層モデルを含む)の問題に結局は落ち着くことがほとんどで、
これが作れない時点で問題設定から破綻していて、害悪な結果しか生み出さないことが目に見えてます。
つまり問題設定を作り、それを適切にモデリングができるかどうかが重要であって、それができない時点で破綻してるかデータ理解が足りてないんですよね。
フローチャートを実務の問題に適用する時点で、それはもう間違った結果を生み出す可能性が非常に高いと認識したほうが良いです。
データサイエンスってフローチャートやフレームワークを模倣して、理解していない状態で物事を進めるケースが非常に多いです。
データサイエンティストとして最も怖いのは、理解していないことを理解していない状態に陥ること、だからな。
なので、
手抜きをせず、
正しくデータと向き合い、
正しく手法を理解し、
フローチャートではなく自身のロジックと根拠を持って、
誠意をもって問題に立ち向かうんだぞ。
Fisher検定は小サンプルではP値が無駄に大きくなる傾向が強く、検出力が犠牲になります。続く
シンプルに「Pearsonのχ²検定では連続性補正をしない」と覚えておけば十分です。続く
だから、初学者を誤解させないためには、Fisher検定をFisherの正確検定と呼ばない方が良いと思います。続く
そうでないなら、連続性補正なしのPearsonのχ²検定を相当に自由に使っても良いと思います。
続く
これは極めて有害だと思われます。続く
Fisher検定も連続性補正なしのPearsonのχ²検定は互いに異なる利点と欠点を持っていることを理解すれば、さらに良い使い方をできるようになります。
* フローチャート統計学は、間違った方法を選択させるだけではなく、無駄に複雑に従うことを強いており、初学者を不合理に萎縮させている点においても有害である。
伝統的なフローチャート統計学は入門的な解説では特に有害なので、きちんと全否定して行った方が良い。
Fisher検定も(補正なしの)Pearsonのχ²検定も「有意差あり/なし」の型を結論とする帰無仮説有意性検定として使うことは有害なので、初学者にも有害だとはっきり教えるべきです。続く
Fisher検定や(補正なしの)Pearsonのχ²検定は、それらと整合的な以下の信頼区間のどれかと一緒に使うべきです。
* リスク差の信頼区間
* リスク比の信頼区間
* オッズ比の信頼区間
整合性は大事。
可能ならばP値関数のグラフも報告した方がよい。
* P値と点推定と区間推定の3点セットを含む情報
* それらが意味する不確実性
について報告するべき。
結論を「有意差あり/なし」の安易な二分法で報告する悪習は現代的には明瞭に禁止されるべき。大迷惑。

scholar.google.co.jp/scholar?cluste…
“Statistical Significance” and Statistical Reporting: Moving Beyond Binary
Blakeley B. McShane, Eric T. Bradlow, John G. Lynch, Robert J. Meyer
2024
クソ分かり易い!
教育実践出版のすべてを含む「破壊的なフィードバックループ」が形成されている。
フローチャート統計学は典型例。
Greenlandさんの講演スライド2022より
github.com/genkuroki/publ…
①「有意差あり/なし」型の二分法を結論とする帰無仮説有意性検定を初学者に教え込もうとする。
②脆弱で危険なWilcoxon-Mann-Whitney検定やStudentのt検定を初学者に教え込もうとする。(なぜかWelchのt検定を不当な方法でdisる人もいる。)
【P値を得たら、まず0.05と比較する】(←論外!)
と書いてあったこと。この本では脆弱で危険なWilcoxon-Mann-Whitney検定とStudentのt検定について詳しく書いてある。
まさに典型的!

私にやれることは私の考えを可能な限り詳しく正確に説明することだと思ったのでそれを実行しました。
そしてやはり「P値を得たら、まず0.05と比較する」と教えるのはやめた方が良いと思います。
P値を「有意差あり/なし」の二分法に利用__しない__使い方をする方法の解説
↓
github.com/genkuroki/publ…

github.com/genkuroki/publ…
* Welchのt検定ではなく、脆弱なStudentのt検定を進めている
* Brunner-Munzel検定ではなく、脆弱なWilcoxon-Mann-Whitney検定を勧めている。
* Fisher検定とPearsonのχ²検定の使い分けで悪しき伝統に従っている

添付画像のように表形式になっている場合もある。
専門家が科学研究を害するやり方を積極的に教え続けているという問題がある。
youtu.be/m5j8bjwlIAE?si…
「新谷先生のゼロから極める医療統計シリーズ」
第4回講義のダイジェスト
mMEDICI Channel

そういう理由で理解している仲間を増やしたいと思ったので、長々と説明しました。
以上で終わり。
初学者を検定法の間違った選択に誘導する酷い内容になっている。
社会的には、フローチャ統計学に従って統計分析を行って来た人達を「科学的にまともな考え方をできていない人達」扱いする必要がある。

結論: フローチャート統計学は有害!
ただし、その内容自体が間違っているので、初学者にフローチャート統計学を教えることは極めて有害です。続く
↓

sites.stat.columbia.edu/gelman/researc…
The Problems With P-Values are not Just With P-Values
Andrew Gelman
2016
P値に関するASA声明へのコメント。
「不確実性ロンダリング」
という秀逸なゲルマンさん用語がこの論文で誕生した。
なぜならば実際に見ているならば、フローチャートの内容自体が間違っていることに気付いていたはずだからです。
AIでも出来るから悪いのではなく、統計学を誤用させているから悪い。

日本に限らず、世界中で有意差の出し方の手続きのフローチャートが教えられており、その内容自体が間違っているせいで、フローチャートに従うと自動的に統計学を初歩的誤用をできるようになっています。
特に初学者にとって有害。社会的に大迷惑。

フローチャートなら何でも悪いというような話ではなく、頻繁に出会うフローチャートは主に検定法選択の特定のフローチャートであり、しかもその内容が間違っており、初学者に数十年間ずっと教えられて来たことが問題なのです。

例1
そういうフローチャートは有意差の出し方の説明としても間違っているのですが、そもそも出発点の「有意差の出し方」という考え方自体が有害なので救いようがない。
現在では「コインが細工されている/いない」のスタイルで高校1年生にも教えられています。非常に深刻な問題。続く
色々酷いことになっています。
これは非常に深刻な問題。
信頼区間は「P値が特定の閾値以上になるモデルのパラメータの仮説値の範囲」なのに、信頼区間を「p値以外のアプローチ」扱いしていて酷い。

科学的解析の基礎 - 推定・検定 ⭐️⭐️ 🔥必須🔥
p値だけでは仮説やモデルの正しさを評価できないことを理解し、p値以外のアプローチ(信頼区間、信用区間、ベイズファクターなど)と併せて透明性の高いデータ分析や結果の報告ができる
P値自体の問題ではなく、認知バイアスが原因の誤用が問題なので、P値を信頼区間やベイズ統計で置き換えても問題は何も解決しないわけです。

ポイント: compatibility→相性の良さと訳すと分かり易くなる。
scholar.google.co.jp/scholar?cluste…
Scientists rise up against statistical significance
Valentin Amrhein, Sander Greenland, and Blake McShane
nature 2019
そういう人は、有意差の出し方のフローチャートが酷いことを知っていても、自分の先輩を名指しで批判しないかもしれない。
そういう先輩氏は、フローチャートの誤りを指摘されても適切に訂正する能力自体がない。
せめて次の世代をそういうのに巻き込まれないようにして、科学的に普通にまともな考え方をできるようにして行かないとまずいと思います。
しかし、日本固有の問題ではなく、世界的な問題なので実際にそうするのは非常に大変。






















