多変量解析の変数は何個まで入れて良いのか

他の記事では、因果推論における多変量解析に入れるべき変数、外すべき変数について解説しました。では、入れるべき変数は全てモデルに入れても構わないのでしょうか。入れすぎると、どのような問題が起きるのでしょうか。

Overfitting

因果推論の目的は、暴露因子のアウトカムに対する影響を知りたい、ということです。下の例ですと、喫煙（smoke）の出生児体重（BWT）への影響を知りたい、となります。その影響の大きさが、smokeの係数β₁ですね。

BWT = β₀ + β₁*smoke + … …

モデルに変数を入れすぎると、この係数βのstandard error (se)が大きくなってしまい、不安定なモデルとなってしまいます。

上のスライドの一つ目のモデルには、smokeのみが入っており、seは50と大きくありません。

二つ目のモデルにはsmokeにageを加えました。seが50から250に増えています。ただし、βが+200から-500と大きく変化していることから、統計学的にはageはsmokeとBWTの交絡因子（confounder）であると言えるため、できればモデルに含めたい因子です。seが結構大きいので、入れるか外すか、難しいところです。

三つ目のモデルには、 二つ目のモデルにX3という別の変数を加えてみました。すると、smokeの係数のseは1000とかなり大きくなってしまいました。これをProf. Oravは”explosion”と表現していますが、smokeの係数のvarianceが大きくなって本当の値が-800から離れる可能性が高まってしまったことを意味しています。ここまできたら、X3はモデルに入れたくありません。

一般的なルールとして

どのくらい変数を入れるとどの程度seが大きくなるかは、データ次第です。場合によっては沢山変数を入れてもseが大きくならないことだってあり得ます。

しかし、やはり何かしらの目安が欲しいですよね。

一般的なルールとして、モデルにいれる変数の数を

→Ex) n=200なら、20個まで

→Ex) n=200で、死亡 n=40、生存 n=160の場合、4個まで

を一般的な目安とすると良いでしょう。

さいごに

以上です。多変量解析に入れることのできる変数の数について解説しました。なぜ多過ぎるとダメなのか、理解できたでしょうか。

 

⇒医療従事者に必要な統計学と疫学（目次）へ

References

• John Orav. BST 213: Applied Regression for Clinical Research. Harvard T.H. Chan School of Public Health