因果推論の実務はなぜ回帰分析から始まるのか?FWL定理が示す「残差×残差」の真実
本記事は、因果推論の専門的な手法を深掘りする連載の第16回として、実務においてなぜ線形回帰分析が依然として主要なツールであるのかを解説しています。回帰分析の係数が、単なる相関ではなく、因果効果を推定するための数学的な根拠に基づいていることを、合成データと実データ(close_college)を用いて証明しています。
まず、回帰係数 $\hat{\beta}_w$ の正体は、「層別比較の加重平均」そのものであると説明されています。交絡因子 $X$ の層に分けて処置群と対照群の平均差を計算する手作業(層別比較)を、回帰モデル $y \sim w + C(g)$ が自動的に実行しているのです。ただし、この加重平均の重みは、層の規模ではなく「層内で処置がどれだけ混ざっているか」という情報量に比例するという重要な注意点があります。
次に、重回帰分析の係数には「Frisch-Waugh-Lovell(FWL)定理」という強力な視点があり、重回帰の係数は、実は「残差 $\tilde{y}$ を残差 $\tilde{w}$ で単回帰した傾き」と厳密に一致することが示されました。これは、「統制する」という行為が、変数間の共通の変動を排除し、残った純粋な変動のみで効果を測ることに他ならないことを意味します。この原理は、機械学習を用いたDouble Machine Learning(DML)の基礎となっています。
さらに、回帰表の読み方における「Table 2 fallacy(表2の誤謬)」という陥りやすい誤解を指摘し、統制変数(交絡因子)の係数を因果効果として解釈することは危険であると警告しています。因果効果として解釈できるのは、原則として「処置(介入)の係数」のみであり、他の係数は調整のための同乗者であると強調しています。
結論として、回帰分析は、層別比較の自動化と、残差化による厳密な効果の分離という二つの理由から、因果推論のベースラインとして極めて合理的であると結論づけています。ただし、観測できない交絡因子(能力など)によるバイアスは、回帰分析では解決できないという限界も同時に提示しています。
背景
因果推論は、単なる相関関係(AとBが同時に起きる)から一歩進み、「AがBを引き起こした」という因果的な因果関係を統計的に証明しようとする手法です。本記事は、この因果推論を実務で適用する際、最も基本的なツールである回帰分析が、なぜ数学的に信頼できるのかという原理原則を、高度な計量経済学の視点から解説しています。
重要用語解説
- 因果推論: 単なる相関関係ではなく、ある事象(処置)が別の事象(結果)を引き起こすという因果的な関係を統計的に推定する手法。交絡因子を考慮することが必須です。
- FWL定理: 重回帰分析の係数が、実は「残差」という形で変数を分離し、その残差同士で単回帰した傾きと厳密に一致するという定理。統計的推定の構造を理解する上で重要です。
- バックドア基準: 因果効果を識別するためのルールの一つ。ある変数(処置)から結果への因果パスを考える際、どの交絡因子を統制(調整)すれば、因果効果を推定できるかを判断する基準です。
今後の影響
本知識を習得することで、データ分析者は、回帰分析の結果を単なる「相関」としてではなく、「観測された交絡因子を排除した上での純粋な効果」として解釈する厳密な視点を持つことができます。また、回帰の限界(観測できない交絡)を理解し、より高度な手法(操作変数法など)の必要性を判断する指針となります。