StatModeling Memorandum

StatModeling Memorandum

StanとRとPythonでベイズ統計モデリングします. たまに書評.

ゲルマン先生の「役に立つ統計用語集」

この記事はゲルマン先生(Andrew Gelman)の許諾を得て、Handy statistical lexiconを日本語訳したものです。元記事の用語集は現在も更新中です。英語に抵抗がない人はぜひ元記事を読んで下さい。訳語に関しては親しみやすさを重視し、多くの日本人にあまりなじみのないと思われる言葉や地名は変え、難しい熟語は避けました。また、訳注はリンク先の要約をしばしば含みます。


ここで取り上げるものはすべて重要な手法や概念である。それらは統計学に関連しており、よく知っておくべきにもかかわらずあまり知られていないものだ。それらに名前を与えることで、そのアイデアがもっと親しみやすいものになってほしいと思う。

  • ミスターP: マルチレベル(階層モデル)で回帰し、事後層別化(poststratification)する手法のこと。
  • 秘密兵器: ある統計モデルを複数の異なるデータセットに繰り返しあてはめて、すべての推定値を同時に表示すること。
  • スーパープロット: 交互作用があるモデルの推定値をプロットした折れ線グラフの一種。グループごとにあてはめた回帰直線を引く。また、その直線上の(X, Y)に点をプロットする。点の大きさ(面積)は、あるグループ内でXの値を持つサブグループの大きさを表す。
  • まず自分を疑え: 計算がうまくいかないとき、しばしばあなたのモデルに問題がある。*1
  • 代打が優秀な打者とは限らない: ただ一つのことを仕事にしている人は、その一つのことも常に得意とは限らない。
    • 訳注: 同僚は著作の誤植を多数指摘してくれるにもかかわらず、編集者は見落としがひどいというゲルマン先生の経験から。
  • 弱情報事前分布: 無情報事前分布を使いたいと思ったときに使うべきもの。
  • P値とU値: 両者は違うもの。
    • 訳注: ゲルマン先生の2003年の論文の中にU値について説明がある。伝統的な統計学ではデータを確率変数とみなし、P値は一様分布(Uniform)に従う。それはU値と呼ぶべきものだと主張している。一方でベイズ統計ではパラメータを確率変数とみなし、P値は事後確率から算出した何らかの確率となる。
  • 保守主義: 統計学においては、以前に使われたことがある手法を使いたいという欲望。
  • ジェニファーならどうする?: 応用統計学の問題で行き詰まったときに考えてみること。*2
    • 訳注: ジェニファー(Jennifer)はゲルマン先生と共著で通称ARMを書いた人。
  • 理論統計学者と応用統計学者の見分け方: 理論統計学者はデータにxを使い、応用統計学者はyを使う(xは説明変数のためにとっておく)。
  • 「片方にしか賭けない」の誤り: パスカルの賭け、宝くじなどなど。
    • 訳注(リンク先の要約): 生徒に「10億分の1の確率で負けて死ぬ賭けがあって、勝った場合にいくらもらえるならその賭けをやるか」と質問したところ、誰もやりたがらなかった。しかし、100円ケチって道路を横切るのと大して変わらない。宝くじも当たる方だけに気をとられず、毎回3000円以上購入して外し続けた場合も考えよ。つまり、このような「片方にしか賭けない」の誤りのポイントは、人々は問題の半分側しか見てないことと、トレードオフがあることを全く認識していないことだ。
  • 何でもアルファベット順にするな: アメリカの統計学者Howard Wainerの言葉で「Alabama First」という言葉がある。もっとよい並べ方があるにもかかわらず、アルファベット順に並べて図を描くという失敗に対する言葉。
    • 訳注: アメリカの州一覧をアルファベット順にするとAlabamaが先頭にくることから。*3
  • 47NEWS(よんななニュース)の誤り: すべての県(や国)を等しく扱ったり、より管轄の大きな場所により多くの人が住んでいることを忘れたりしてはいけない。もし、面積が同じくらいとはいえ神奈川県を佐賀県と同じように扱うと、神奈川県の何百万人の人たちを無視することになる。
    • 訳注: 日本版に置き換えた。47NEWSは47都道府県の各々のニュースをなるべく同等に扱うことから。*4
  • 二次の可用性バイアス: あなたが個人的に経験した相関を、集団における相関に一般化してしまうこと。
  • 「他は全て等しいとする」の誤り: 他は全て一定になっていなさそうな場合ですら、そう仮定してしまうこと。
  • 自動掃除機能つきエアコン: よいパッケージは自分自身のテストを含んでいるべき。*5
  • 混乱の分類: 行き詰ったときにやるべきこと。リンク先に例がある。統計の授業でTAに尋ねる前に以下のように分類せよ、とのこと。
    1. 統計に関する質問。しかし授業の前提知識に入っている場合: 統計の入門書を読め、TAに聞くな。
    2. 統計に関する質問。授業の一部に関係ある場合: 本を読め、友達に聞け、それからTAに聞け。
    3. 統計的には分かっているが、関数の名前が分からない場合: 「R standard deviation」みたいにググれ。もしくは自分で関数を書け。見つけられなかったら友達に聞け、それからTAに聞け。
    4. 関数の名前は分かっているが、どうやって使うか分からない場合: help(sd)のようにタイプしてヘルプを見よ、それから友達に聞け、それからTAに聞け。
    5. コードを書いたけどエラーが出る場合: デバッグせよ。printで画面に表示したり、コードをより小さなステップに分けたりせよ。
    6. コードを書いてエラーも出ないが、思っていたのと異なる挙動の場合: デバッグせよ。
  • 次元の祝い: より多くのデータがあることは良いこと。たとえその追加された情報が、「データ点」というより「次元(訳注:説明変数や特徴量のこと)」だとしても。
  • scaffolding: 関連するモデルと比較することで自分のモデルを理解すること。
    • 訳注: scaffoldingは「足場」。ほぼ同じ意味でRuby on RailsなどのWebフレームワークでも使われる。統計モデルにも「足場」があるという主張。
  • オッカム信者: 他人に過度に単純化されたモデルを使わせようとする癖や傾向のこと。イライラする。
  • ベイジアン: たとえそれが不適切でも、すべての問題に対してベイズ推定を使う統計学者のこと。私自身(訳注:ゲルマン先生)はベイジアンです。
  • 多重比較: もし適切に解析を実行しているなら、一般的に大した問題ではない。しかし、もし手を抜いて階層的な構造を階層的にモデリングしないと大きな問題になりうる。
  • モデルをあまりに真剣に受け止めるな: モデルをあまりに真剣に受け止めるのは、モデルを全く真剣に受け止めないのとまさに同じ。
    • 訳注: リンク先には「モデルの奴隷になるな、モデルと協力せよ」とコメントがある。
  • 神はあらゆる木のあらゆる葉に宿る: もし本当にすごいことをやろうと思うならば、小さな問題や自明な問題なんてありはしない。
  • リズムと意味はトレードオフ: 不必要な挿入語句を取るとデコボコになる。*6
    • 訳注(リンク先の要約): 人が理解しやすいように文章のリズムを重視すると、どうしても不必要な挿入語句を加える必要がある。
  • お話の時間: 数値がベッドに入ったら、お話が出てくる。
    • 訳注(リンク先の要約): 数値を用いた解析結果の説明は客観性や信頼性があるが、結果を踏まえた数値のない「お話」は信頼性が全くないことから。研究者は誰も持ってないような仮説を出すのが仕事なので、特に信頼性がない。
  • 苦しい時のベイズ頼み: 大きくて現実のタフな問題を扱う場合に、何らかの信頼性の問題で私(=ゲルマン先生)に意義を唱える人はない。*7
  • ピノキオの原則: 計算上の理由だけで作られたモデルでも独り歩きする可能性がある。
  • type M error: もし推定値が統計的に有意ならば、それはきっと効果の大きさ(magnitude of effects)を過大評価している。
    • 訳注: リンク先では、統計的に有意なことを優先して効果の大きさを過大評価するエラーを、type I/II errorになぞらえてtype M error (magnitude)と呼んでいる。
  • アローのもう一つの定理 (弱形式): どんな研究成果でも最大で5回までしか論文にできない。
  • アローのもう一つの定理 (強形式): あらゆる研究成果は5回まで論文にできる。
  • ラマヌジャンの原則: 表は粗いグラフだと思って読め。
    • 訳注: リンク先には表の数値の符号や桁数などをざっと見る話などがある。
  • 哲学のパラドックス: もし哲学を追放すると、ならず者だけが哲学をする。*8
    • 訳注: 内容の一貫性のため、ゲルマン先生は著作のBDAやARMから哲学の章を省いた。その結果、ならず者がベイズの哲学を語り、ミシガン大の経済学者が混乱した経験から。
  • 統計学はデフォルトの科学: (リンク先の要約)統計学の他の工学との違いとして、デフォルトの手順に対して特別愛着を持っていることが挙げられる。デフォルトには推定値や本やセッティングなどが含まれ、最近ではデフォルトの事前分布に注力している。デフォルトを選んでおきなさい。
  • 手法のおかげ問題: 素晴らしい統計コンサルタントや共同研究者の多くの有用な貢献は、彼ら/彼女らが使った手法や哲学のおかげだと過度に思われることが多い。
    • 訳注: 実際には彼ら/彼女ら自身の創造性が素晴らしい。リンク先にはルービンとエフロンとパールの話がある。
  • 目的が違えば見方も違う: グラフの中にはすでに知っていることを愉快に可視化してくれるものがある。あまりに面白く示されているので、すでに知っていることを再学習する喜びがある。また、新しい視点でグラフを眺め、いろいろな関連トピックについてより深く考えさせられることに気づいて衝撃を受ける。*9
    • 訳注: リンク先ではパッと見ではよくないInfovisの例があるが、そのグラフからも「通話のデータをたくさん持っている人が存在すること」などが分かる、とのこと。
  • 新入生の質問: 新入生がした質問というだけで、それが的外れの質問とは限らない。
  • 富士の樹海: 「なんかいいことないか漁り」や「pハッキング」ではなく、たとえ前もって研究の仮説を設定していたとしても、多重比較は問題になりうる。*10
  • 一方通行の誤り: どの方向にも転がる可能性がある変化に対し、一つの可能性だけを考えること。
  • 多元性のジレンマ: 自分の哲学がたくさんある選択肢のなかの一つでしかないことを認識する言葉。そして、(少なくとも取り組んでいる問題に対し)なぜ自分の哲学が他の選択肢よりも好きなのかを説明しつつも、自分のコントロールを超えた多数のことに左右されてこの哲学を大切にするに至ったと認識する言葉。*11
  • 実験というより霊験: 単なる証拠では殺せない仮説のこと。(社会学者Jeremy Freeseの言葉から引用)*12
    • 訳注: 統計はネガティブを証明することはできない。訳者が思いついた例は「水素水が効かないという証拠はない」。
  • 統計の化学療法: 主な結果に少し毒を入れて、有意であることが望ましくない結果のp値を0.05より大きくすること。(社会学者Jeremy Freeseの言葉から引用)
  • 何が分からないかを話せ: 聞きたいこと。
    • 訳注(リンク先の要約): ふつうに「分かっていることを話せ」にすると、「分かっていること」と「分からないこと」の境界を知ることができる。もし「何が分からないかを私に話せ」にすると、「分かっていること」と「分からないこと」の境界だけでなく、「分からないこと」と「『分からないことが分かってない』こと」の境界に関するヒントも得られる。情報が多いのは良いこと。
  • サラダのトング: 絵を描くのに使うな。(リンク先の要約)p値は粗いデータの要約であり、生データからp値になるときにたくさんの情報を失っている。論文に記載されたp値を使って科学をすることはサラダのトングを使って絵を描こうとするようなもの。
  • スケールダウン係数: 論文に記載された推定値をどれほどスケールダウンして考えるべきかを決める係数。
    • 訳注: 論文の結果は「盛っている」と考えるわけである。リンク先の例ではスケールダウン係数が1/2の場合(「42%」を「21%」と考える)を扱っている。
  • カンガルー: カンガルーが元気に飛び跳ねているときに、おなかの袋に入っている羽の重さを量るのに体重計を使うな。
    • 訳注: 効果量がすごく小さくて測定誤差がとても大きいような研究に対する揶揄。
  • マッハGoGoGoの原則: 科学的もしくは大衆文化の作品で最も面白いところは、表立った箇所ではなく、吟味されていない想定であることが時々ある。
    • 訳注: ゲルマン先生がマッハGoGoGoのアニメを見たときに一番面白かったところは、背景に日本の工業の光景が見られた、登場キャラの長いドライブのシーンだったという経験から。
  • 不確定区間(Uncertainty Interval): 信頼区間や信用区間の代わりに不確定区間と呼ぼう。
    • 訳注: リンク先には三つ理由が書いてあって、要約は次の通り。信頼区間は解釈しにくく、ベイズ流に解釈してしまいがちであること。信頼区間と予測区間の区別があいまいであること。信頼区間が大きいと信頼性が低くて、信頼区間が小さいと信頼性が高いというちぐはぐさ。
  • もし全てのデータを持っていたらどうする?: 統計学者ルービンの一つ目の質問。
  • 一切のデータを入手する前は何をしていた?: 統計学者ルービンの二つ目の質問。
  • 時間反転して考える: 有意差が出て論文になった発見が、後からより大規模できちんとしている確認実験で再現できなかった場合にどう考えるべきか。
    • 訳注(リンク先の要約): エイミー・カディは「力のポーズ」を取ると元気が出て成功の確率がアップすることを比較的少ないサンプル数で実験をし、有意差が出たとして論文を出版した。TEDでも同じ内容で話している。しかし後から、より大規模できちんとしているRanehillらの実験ではその結果は再現できなかった。カディは有意差あったんだよ!!とブチ切れる。ゲルマン先生は時間反転して考えてみようと提案する。先にRanehillらの実験で効果なしと判断され、あとから小規模できちんとしてないカディの実験で有意差ありと判断されたら、カディの実験を信じますか?と。ノイズの可能性が高いと思いますよね、と。
  • クラークの法則: 十分に馬鹿げた研究は詐欺と区別がつかない。*13
  • 要は結婚式であって決して結婚ではない: 科学論文の結果について肝に銘じておくこと。
    • 訳注(リンク先の要約): 科学論文において間違って有意差が出て論文になっても、それを訂正するプロセスは機能していない。それは科学論文は発見を促進するものであって、修正を扱うものではないからだ。つまるところ、科学論文の結果は華やかな結婚式であって、(その後の大変な)結婚という営みではないのだ。
  • 査読の問題: レビューしてるのは仲間だということ。
    • 訳注: リンク先では、査読者含めた全体が誤認していたら間違いが長続きするよ、と警告している。

ここに載せるのを忘れた言葉がたくさんあるのは知っている。私の記憶をリフレッシュさせてほしい。

P.S. いや、定義ゲームでStephen Sennと戦えるとは思ってないよ。

*1:元の用語はフォーク定理(The Folk Theorem)。数学の諸分野では、「証明をつけようと思えばつけられると誰もが思っているが、実際には誰一人としてその証明をつけたことがない定理」のことを一般にフォーク定理と呼ぶことがあることから(Wikipedia)。

*2:元の用語はWWJD。英語ではWhat Would Jesus Do?をWWJDと頻繁に略し、さらにもじってJesusの代わりに人名を入れることも多いため。

*3:元の用語はAlabama Firstでしたが、州になじみがない日本人を考えて変更しました。

*4:元の用語は「新聞紙USA Todayの誤謬」。新聞紙USA Todayは50州の各々のニュースを扱うことから。カルフォルニア州をモンタナ州デラウェア州と同じように扱う例を挙げている。ちなみに人口は カルフォルニア州 >> モンタナ州 = デラウェア州。面積はカルフォルニア州 = モンタナ州 >> デラウェア州 である。日本人にはなじみがないので県に置き換えた。

*5:元の用語はThe Self-Cleaning Ovenでしたが、日本にはそのようなオーブンが普及していないので、親しみやすさのため変更しました。

*6:元の用語は「駅馬車ビジネスで人が言ったように」。席から詰め物をとると馬車の乗り心地がガタガタになることから。

*7:There are no atheists in foxholes. ということわざがある。日本でいうところの「苦しいときの神頼み」。

*8:米国右翼のスローガン When guns are outlawed only outlaws will have guns.「銃の所持を禁止すれば、ならず者だけが所有する」から。

*9:元の用語はクリス・ロック効果。アメリカの俳優クリス・ロックの語録の一つ「我々みなが知っていることは真実だ」から。

*10:元の用語は八岐の園(やまたのその。英語ではThe Garden of Forking Paths)。八岐の園はアルゼンチンの小説家ホルヘ・ルイス・ボルヘスの短編のタイトル。日本では「伝奇集」に収録されている。その中に次の一節があり、混沌とした様子をうまく表現している。"I thought of a labyrinth of labyrinths, of one sinuous spreading labyrinth that would encompass the past and the future... I felt myself to be, for an unknown period of time, an abstract perceiver of the world." しかし、日本語としてやや親しみにくい。そこでイメージが似ており覚えやすい「富士の樹海」とした(実際には遊歩道を外れなければ安全な場所ですが)。なお、ゲルマン先生は「pハッキング」という言葉は意図やズルが含まれているのであまり好きでない。代わりに「The Garden of Forking Paths」が好き。

*11:政治学者ロバート・ダールの著作「多元的民主主義のジレンマ ― 自治 vs. 制御」から。

*12:元の用語はMore Vampirical Than Empirical. 直訳すると「実験による検証というよりもヴァンパイアのようだ」。元の用語のように韻を踏むために苦労して変えました。

*13:訳注:クラークは「幼年期の終わり」などで知られるSF作家。クラークの3つの法則というものがあって、特に3番目の「十分に発展したテクノロジーはマジックと区別がつかない」が頻繁にパロディ化されている。