分析実習資料 2009/06 村瀬 洋一 · - 1 - 分析実習資料 2009/06...
TRANSCRIPT
- 1 -
分析実習資料 2009/06
ＳＰＳＳによる重回帰分析
村瀬 洋一
１．重回帰分析とは何か
1.1.目的と具体例
◆重回帰分析の目的 －説明変数Xを複数設定し、被説明変数Yとの関連が強いのが、ど
の変数なのかを解明すること。
相関係数や２重クロス集計のように、表面的な２変数の関連を見るだけでなく、他の変
数の影響を取り除いた後（統制後、コントロール後）の関連を解明するのが目的。
線型の関連（回帰直線）を前提に、関連の強さを測る。
説明変数、被説明変数とも連続変数（量的変数）の場合に用いる。説明変数が離散変数
（カテゴリー変数）の場合は、分散分析を用いる。なお、両方とも離散変数の場合は、ク
ロス集計やログリニア分析を用いることになる。
Yが２段階回答の場合は、ロジスティック回帰分析（あるいは判別分析、数量化２類な
ど）という別の分析法を用いる。
社会調査の４段階回答などは、厳密には連続変数ではないが、３段階以上ならば、連続
変数とみなして用いることが多い。データ人数が多い場合（おおむね400人以上など）は、
このような考え方で、とくに問題はない。
◆具体例
例えば調査で「生活全般満足度」に関する問の、４段階回答があった場合に、この原因
を解明することを重回帰分析の目的とする。この変数をYとして、この原因となっている変
数は何かを複数考え、複数のXを用いて重回帰を行うことになる。
社会調査の場合、Xとして年齢、教育年数、財産や収入などの属性変数や、自営業かどう
かなどの01のダミー変数、その他の心理的変数（態度や意識）を用いることが多い。
もし、他の変数の影響を取り除いても（コントロール後でも）、年齢がYと関連していた
場合、年齢がYの原因となっている、と考えることができる。実際、高齢の人ほど伝統的価
値観を持っているため、そのような結果になることは多い。しかし、高齢の人は低学歴な
傾向があるため、表面的にはYと学歴も関連があるように見える。そのような表面的関連で
なく、他の変数の影響を取り除いた後の、真の関連を見つけることが分析の目的である。
1.2.重回帰分析の考え方（ボーンシュテット・ノーキ．1990．第８、第11章などを参照）
説明変数が２つの場合の重回帰分析のモデル
標本回帰式 Ｙｉ＝ａ＋ｂ１Ｘ１ｉ＋ｂ２Ｘ２ｉ＋ｅｉ ・・・・・・(1)
09semi回帰分析.jtd
- 2 -
∧標本予測式 Ｙｉ＝ａ＋ｂ１Ｘ１ｉ＋ｂ２Ｘ２ｉ ・・・・・・(2)
Ｙｉ ：i番目の個体の、被説明変数Ｙの値∧Ｙｉ ：i番目の個体の、被説明変数Ｙの予測値
Ｘ１、Ｘ２：i番目の個体の、説明変数Ｘ１、Ｘ２の値
ａ ：切片
ｂ ：偏回帰係数
ｅｉ ：誤差項（残差項）
∧ｅｉ＝Ｙｉ－Ｙｉ ←重要！
ｂは回帰直線の傾きの大きさを表している（村瀬他.2007:123の図を参照）。
この数式は、以下にある図１のようなモデルを表しているにすぎない。
1.3.回帰分析のパラメーターの推定と解釈
ａ、ｂ１、ｂ２の値の推定→最小自乗法（Ordinary least squares OLS）を用いる。
Σｅｉ２を（誤差の二乗の合計を）最小にするように、ａ、ｂ１、ｂ２を推定する。
・偏回帰係数（ｂ１、ｂ２）
他の変数の効果を統制した上で（統計的コントロールの後で）、説明変数が１単位変化
した場合、被説明変数がどのくらい変化するかを示す。
・標準偏回帰係数（β１ 、β２ ベータ係数、ベータ加重 ）
ＸとＹを標準化した（Ｚ得点にした）上で求めた回帰係数
説明変数が１標準偏差増えた場合、被説明変数がどのくらい変化するかを示す。
ただし、上記の係数は、その説明変数に固有の値ではない。他の説明変数が変われば、
当該の説明変数の係数値も変わる。（久米・飯塚、1987、p.99- を参照）
回帰係数は相関係数とは異なる。他の変数の影響を除いた場合の、Ｙとの関連の強さを
表しているのである。
1.4.決定係数（Ｒ２ ）
説明変数Ｘが、被説明変数Ｙの分散をどのくらい説明しているかを示す。モデル全体の
説明力を表す。レンジは０～１。モデルで分散を完全に説明しているときは１になる。
＿ ∧Σ［（Ｙｉ－Ｙｉ）２－（Ｙｉ－Ｙｉ）２］ ＳＳＴＯＴＡＬ－ＳＳＥＲＲＯＲ
Ｒ２＝ ＝＿
Σ（Ｙｉ－Ｙｉ）２ ＳＳＴＯＴＡＬ
ＳＳＲＥＧＲＥＳＳＩＯＮ
＝ＳＳＴＯＴＡＬ
モデルで説明できる分散＝ (3)
全分散
ＳＳＴＯＴＡＬ＝ＳＳＲＥＧＲＥＳＳＩＯＮ＋ＳＳＥＲＲＯＲ ・・・・・・(4)
（平均値と観測値の距離)＝(回帰モデルで説明できる距離)＋(観測値と予測値のずれ)
数式の各項が、村瀬他(2007:123)の図ではどの部分になるか、理解できるとよい。
09semi回帰分析.jtd
- 3 -09semi回帰分析.jtd
なお、説明変数が２つの場合、標準偏回帰係数と決定係数の間には以下の関係が成り立つ。
Ｒ２＝β１＊ ｒＹＸ１＋β２
＊ ｒＹＸ２ ・・・・・・(5)
ｒＹＸ１：ＹとＸ１の相関
ｒＹＸ２：ＹとＸ２の相関
1.5.決定係数の有意性検定
Ｒ２の有意性検定は、Ｆ検定によって行う。
ＭＳＲＥＧＲＥＳＳＩＯＮ モデルで説明できる分散Ｆ＝ ＝ ・・・・・・(6)
ＭＳＥＲＲＯＲ モデルで説明できない分散
ＳＳＲＥＧＲＥＳＳＩＯＮ
ＭＳＲＥＧＲＥＳＳＩＯＮ＝自由度
自由度：説明変数の数
ＳＳＥＲＲＯＲ
ＭＳＥＲＲＯＲ ＝自由度
自由度：Ｎ－１－（説明変数の数）
1.6.多重共線性(マルチコ)
重回帰分析はとても分かりやすく有効な分析法だが、説明変数Ｘ同士の相関が高い場合
は、重回帰分析を行うことはできない。この点によく気をつけること。
説明変数間の相関がとても高い場合、回帰モデルは非常に不安定になる。これは、説明
変数の間にすでに別の線形回帰関係が含まれているということであり、その意味でこのよ
うな現象を「多重共線性（multi colinearity）」と言う。経験的に、説明変数間の相関が
0.7以上ならば危険であると言われている。
多重共線性に注意するために、回帰分析を行う際には、まず説明変数間の相関行列を見
て、相関がとても強いものがあれば、片方は説明変数から除く、といったことが必要であ
る。どのような説明変数の組み合わせがもっとも適しているかを明らかにするために、変
数選択の方法がいくつか考えられている。
1.7.回帰分析を行う上での注意（久米・飯塚．1987:193-)などを参照）
説明変数が多ければ多いほど、決定係数Ｒ２は大きくなる。しかし、決定係数が大きい回
帰式が良いモデルというわけでは、まったくない。
上記のように、説明変数の間に相関が強いと、回帰分析はできない。極端なことをいえ
ば、説明変数が２つで、その間の相関が１ならば、２つの説明変数は同じものなのだから、
どちらか１つを回帰モデルに入れれば良いのである。モデルはシンプルなほど良い。
決定係数R2
がどれくらい大きければ良いと見なすのかは難しい問題だが、社会調査データ
では、測定誤差などのノイズが多いので、0.20を越えればとても大きいと言うことが多く、
値が0.10以下でも、モデル全体のＦ値が有意ならば（統計的に意味があるならば）良い。
心理学や経済学で用いるデータでは0.50以上になることが多いが、社会調査データでは、
そのような例は少ない。
- 4 -09semi回帰分析.jtd
なお、重回帰分析を行うためには、ある程度のデータ数が必要である。通常、400人以下
のデータで重回帰分析を行うことはない。最低でも200人は必要である。400人以下の時は、
自由度調整済み決定係数を用いた方がよい。
◆問 重回帰分析の説明変数Ｘは連続変数だが、離散変数も説明変数として用いることが
できる。どのようにすれば良いか。
答 if文を使って、０、１型の変数（ダミー変数）を作ればよい。
２カテゴリーの時 Q1 (0,1) 例 男なら１、女なら０
３カテゴリーの時 QW (0,1) 例 ホワイトカラー、ブルーカラー、農業
QB (0,1) ３カテゴリーの場合、ダミー変数を
２つ作ればよい。
1.8.ダミー変数を作るSPSSシンタックスの例
COMPUTE文やIF文を使って、ダミー変数を作ることができる。
書式 IF (条件式) 条件があった場合の命令文 ピリオド例 職業の変数から、自営かどうかの０，１型変数を作成
COMPUTE JIEI=0. ←新変数JIEIを作成（変数名は好きな名前でよい）IF ( Q19BS2=6 ) JIEI =1.
２．ＳＰＳＳによる分析
2.1.ＳＰＳＳの操作
シンタックスを書くか、もしくはＳＰＳＳで、画面上の「分析」をクリックし、「回
帰」→「線形」を選ぶ。
シンタックス例
REGRESSION ←（REGだけでも動く）/DEPENDENT Q6B/METHOD=ENTER Q2 Q3 Q4A .
解説/DEPENDENT この行にＹになる変数名を書く/METHOD=ENTER この行にＸとなる変数名を複数書く/MISSING LISTWISE 欠損値がある人のデータは取り除く（この行は省略可能）
2.2.作業手順
まず、被説明変数Ｙを１つ決め、さまざまなＸを入れて自分の好きなモデルを考える。
はじめは数個の説明変数Ｘを入れ、少しずつ増やしてみると良い。ただし、最終的には、
すべてのＸをいれたモデルを検討すること。一部のＸだけを入れた分析結果を、いろいろ
出して表にしても、とくに意味はない。
分析の前に必ず欠損値処理を行う。また、変数の方向をそろえる（回答方向を逆転した
新変数を作るなどする）。量的変数しか使えないことに注意。
良いモデルを得るために多重共線性に注意せよ。まず、説明変数間の相関行列を見てみ
ること。
- 5 -09semi回帰分析.jtd
2.3.結果のまとめと解釈
分析結果は、学術論文では以下のような形式の表にまとめる。図の方が一般向けには分
かりやすい。各説明変数の偏回帰係数は有意か、モデル全体の説明力はどうか、なぜその
ような結果が出たのかなどについて検討し、結果の解釈や考察を行うこと。
この例では３つのモデルについて表している。Ｙとの相関係数ｒは別途分析すること。
重回帰分析の結果 表のまとめ方の見本
（数字は架空例）
表2.1.関係的資源保有の規定因に関する重回帰分析結果 1995年××調査男性地方議会議員 町内会役員 企業の経営者
説明変数（）内は変数のレンジ β ｒ β ｒ β ｒ年齢(20-69) 0.03 0.14** 0.03 0.11** -0.01 -0.02学歴（教育年数 6-17） -0.01 0.00 -0.10 -0.07** 0.05 0.03世帯資産（保有財産数 0-20) 0.15 0.14** 0.12 0.12** 0.14 0.14**居住地域都市度(1-8) -0.18 -0.12** -0.08 -0.06** -0.01 0.00地域移動経験の有無(1,0) -0.42** -0.06** -0.35** -0.05** 0.16 0.00
組織内の役職(1-6) 0.13 0.05** 0.07 0.01 0.34** 0.12**従業先企業規模(1-7) -0.01 0.00 0.07 0.03* -0.24** -0.13**本人職業威信スコア(26.7-83.5) 0.01 0.02 0.00 0.00 0.01 0.00父職業威信スコア(23.4-87.3) -0.02 0.00 -0.04 -0.02 -0.03 0.00父学歴（教育年数 6-17） 0.00 0.00 0.00 0.00 0.00 0.00
本人職 自営ノンマニュアル(1,0) 0.68** 0.05** 0.72** 0.05** 0.15* 0.00本人職 自営マニュアル(1,0) 0.29 0.00 0.36* 0.02 -0.08 0.00本人職 農業(1,0) 0.42* 0.03* 0.85** 0.07** -0.79** -0.13**
R-square 0.27** 0.21* 0.16*Adjuted R-square 0.21 0.18 0.12
N 381 324 356注 被説明変数は、××の場合４、××の場合０
縦１列が１つの回帰式を表し、点線上は標準偏回帰係数と相関係数説明変数のうち、レンジが(1,0)のものはダミー変数。職業ダミー変数の基準はその他の職業** １％水準で有意 * ５％水準で有意
注意点
表だけを見て、第３者が分かるのが大原則である。
表タイトルも的確に分かりやすく。表タイトルは表の上に書き、表番号をつける。
説明変数についての説明を、表の下に注で書く。
通常、縦１列が１本の重回帰式になる。この例では３本の重回帰分析の結果を１つの表
にまとめている。
説明変数間の相関行列も、別途表にすると良い。
有効桁は２桁でよい。あまり細かい数字を書いても意味がない。
★ＳＰＳＳの出力をエクスポートしてテキスト形式で保存し、エクセルで読み込んで有
効桁などを合わせ表にすると簡単。あるいは、エクセルでテキストファイルを開いてから、
画面上の「データ」をクリックし、区切り位置を指定する。
四捨五入したい範囲のセルをマウスで囲んで「書式」をクリックし、「セルの書式設
定」→「ユーザー定義」を選択すると、数字を小数点以下２桁等に揃えることができる。
- 6 -09semi回帰分析.jtd
重回帰分析の結果 図のまとめ方の見本（数字は架空例 Ｘが４つある場合の例）
年 齢
-.23 .24
.38 学 歴 .08.42
.32 環境問題への協力行動.24
保有資産数 R2=.21.17
.16 .31
権威主義的態度
図1.向環境行動の規定因に関する重回帰分析結果 1998年××調査数字は標準化係数
図を書く際の注意点
因果関係の流れは、左から右へ、原因から結果となるようにする。
実在する変数（実在変数、観測変数）は四角で表現（因子は楕円で表現）。
決定係数R２も必ず書く。
図のタイトルは図下に書く。数字の説明も忘れずに書く。
説明変数間の相関も書くこと（相関係数の分析で出力）。
なおワードでは、画面上の「表示」をクリックし、ツールバー→図形描画を選ぶと、図
形ボタンが表示されるので、ボタンをおして矢印などを書くと良い。詳しくは以下を参照。
2.4.ＳＰＳＳ出力の見方について
モデル全体の決定係数はR二乗の値を、各変数の標準偏回帰係数（standaradized
estimate）はベータを見れば良い。各値の有意水準（有意確率、危険率）も見ること。
R二乗の有意水準（モデル全体の有意水準）は、Ｆ値の有意水準を見ればよい。これが
0.05未満ならば、R二乗が誤差である確率は５％未満なので、このモデルを採用して良い。
2.5.変数選択
重回帰分析に説明変数を複数入れ、その後、どの変数を採用するのが適切かを検討する
ことができる。このことを変数選択という。初めは、10個の説明変数でモデルを作り、そ
の後、説明変数を５個くらいに絞るなどするとよい。
調査データの場合、とくに変数選択をせず、強制投入法としてすべてのXを用いることも
多い。
・ＳＴＥＰＷＩＳＥ
既存のモデルをもとに、次に新しい変数を入れるか、あるいはモデルに既に入って
いる変数を落とすかを逐次的に行う。
・ＲＳＱＵＡＲＥ
候補となる説明変数のすべての組み合わせについて、回帰式と変数選択のために提
案されている各種統計量を計算する。
- 7 -09semi回帰分析.jtd
３．分析時の注意点
3.1.分析の前に必ず欠損値処理をすること
多くの場合、欠損値は９か99。SPSSの場合、missing valuesコマンドを用いる。
回答が２桁の場合、欠損値99である。まず単純集計をとって確認するとよい。
3.2.分析の前に変数の向きを必要に応じて逆転し、わかりやすく設定する
分析を行う前に、原則として、すべての変数を、数字が大きいほど肯定になるように直
すこと。数字が小さいほど肯定となる変数が混ざっていると、とても分かりにくい。
シンタックスのデータ定義文の後で、以下のようなCOMPUTE文を書けばよい。
例 そう思う１－－－そう思わない４ → そう思う４－－－そう思わない１
Q4a を逆転し、新変数N4a をつくる
COMPUTE N4a = 5-Q4a .
3.3.用いる変数について
重回帰分析で用いる変数は、ＸもＹもすべて連続変数（量的変数）であることに注意。
名義尺度の変数はダミー変数以外は使えない。また、変数内でカテゴリー合併などをする
必要はない。むしろ、なるべく回答の段階は細かい方が、連続変数に近くなるのでよい。
４段階尺度や順序など、厳密には連続変数ではないが、量的変数と見なして重回帰で使
って良いだろう。ただし被説明変数Ｙは、３段階以上が望ましい。
カテゴリー変数（質的変数、離散変数）をＸとしたい時は、if文やrecode文を用いて、
ダミー変数や連続変数に直すとよい。
例 問16の学歴を、教育年数という連続変数に直す
COMPUTE EDU=Q16.
RECODE EDU(1=6)(2=9)(3=12)(4=13)(5=14)(6=16)(7,9=99).
MISSING VALUES EDU (99).
４．発展版
4.1.男女別等の分析 －ファイルの分割について
調査データの場合、男女別に分析して結果を出すことが多い。重回帰分析も、多くの場
合、男女別にデータを分割した後で分析すると、より明確な結果が出る。
ＳＰＳＳにはデータ分割機能があるので便利である。ＳＰＳＳのデータウィンドウで、
画面上の「データ」をクリックし、ファイルの分割を選ぶと便利。データを男女別に２つ
に分割してから、分析を行うと、男女について２つの分析結果が出る。
4.2.モデルの作り方
自分の目的を明確に決めてＹとなる変数を１つ設定する。Ｘとして、心理的変数（意識
に関する質問項目など）と社会的変数（年齢、学歴、財産数など基本属性や社会的地位に
関連するもの）を入れ、さまざまなモデルを作ってみると良いだろう。
初めは、年齢や学歴など基礎的なＸだけを入れたモデルを作り、少しずつＸを増やして
- 8 -09semi回帰分析.jtd
いくとよい。因果関係をよく考えてＸを入れると良い。
最終的なモデルは、Ｘとして心理的変数と社会的変数の両方を含むと良い。重回帰分析
は、多くのＸを同時に投入することに意味がある。別々に入れたモデルはあまり意味がな
い。ただし多重共線性には注意する。
4.3.エクセルやワードでの図表の書き方
・ワードやエクセル画面の上「表示」をクリック
・「ツールバー」を選び図形描画、またはオートシェイプを選ぶ
・画面下にボタンが表示される。ボタンを押して線や矢印をかく。
1)図を微調整したい時
かいた図を右クリックして書式設定を選ぶ。線の太さや矢印種類などを変更できる。両
方向矢印などにすることができる。
2)図の中に文字を書くには
・図形を右クリック →オートシェイプの書式設定
・「色」ボックスをクリック →塗りつぶしなし（白でなく透明になる）
・画面下、楕円右にあるテキストボックスボタンを押す
・テキストボックスを設定して文字を書く
その後、微調整は、テキストボックスを右クリックして書式設定を選ぶ
3)エクセルでの罫線の引き方
・線を引きたいセルをマウス（またはシフトキー＋矢印）で囲む
・画面上「書式」をクリック
・「セル」を選び「罫線」タブを選ぶ
・下線ボタンなどを押しＯＫボタンを押す
4)曲線矢印の引き方
・画面下の「オートシェイプ」ボタンを押し曲線を選ぶ
・曲線を引く。真ん中で一度クリックしさらに引く。書き終えるときはダブルクリック
・引いた線を右クリックし「書式設定」を選ぶ
・矢印「始点や終点のスタイル」を選ぶ
4.4.エクセルで作った表をワードの中に貼るには
・まずエクセルで表を作る
・ワード画面で画面上の「挿入」をクリック
・「オブジェクト」を選択し「エクセルワークシート」新規を選ぶ
・ワークシートが出てくるので、自分で作った表をはりつける
新規でなく「ファイルから」を選び「参照」ボタンを押して既存ファイルを読み込ん
でも良い
4.5.論文の構成 －全般的な分析の流れについて
レポートや論文を作る際には、冒頭で目的（何を明らかにしたいか）を明確に書く。そ
してＹとなる変数を１つ決める。その後、まず因子分析結果や相関行列を出し、全体的な
変数間の関連を確認すると良い。その後、因果関係を自分の頭で考えて、何をＸにするか
- 9 -09semi回帰分析.jtd
を決めてモデルをいくつか作り重回帰分析で因果関係を確認する。その後、さらに用いる
変数を絞って、クロス集計やエラボレイションを行うと良い。
論文には、分析結果として、基本的な男女別集計の横棒グラフ等をまず載せ（分布の偏
りを確認し、どのような質問項目か読者に分かってもらう）、相関行列（または因子分
析）、重回帰分析、主要な変数に関するクロス集計の順で結果を並べることが多い。
５．課題
自分で自由にテーマを決め、何らかの調査データを用いて、男女別に重回帰分析を行う。
結果を、男女別の２つの図にまとめ、自分の解釈を書く。被説明変数Yは、自分が興味ある
質問項目を１つ決めればよい。説明変数Xを５個以上入れること。上記「分析時の注意点」
に、十分に気をつけること。
６．参考文献
ボーンシュテット・ノーキ．1990．『社会統計学 －社会調査のためのデータ分析入門』．
ハーベスト社。
早川毅．1990．『回帰分析の基礎』朝倉書店．
市川伸一・大橋靖雄．1987．『ＳＡＳによるデータ解析入門』．東京大学出版会．
石村貞夫．2001．『SPSSによる多変量データ解析の手順』東京図書．
石村貞夫．2001．『SPSSによる統計処理の手順』東京図書．
久米均・飯塚悦功．1987．『回帰分析』．岩波書店．
蓑谷千凰彦．1990．『回帰分析のはなし』東京図書．
縄田和満．1998．『Excelによる回帰分析入門』朝倉書店．
三宅一郎・山本嘉一郎他．1986．『新版SPSS X 基礎編』東洋経済新報社．
村瀬洋一他編. 2007. 『SPSSによる多変量解析』オーム社．
室淳子・石村貞夫．2002．『SPSSでやさしく学ぶ多変量解析』東京図書．
岡太彬訓・古谷野亘．1993．「多変量解析法の不適切な利用」．数理社会学会
『理論と方法』Vol.8 No.2.
小塩真司．2004．『SPSSとAmosによる心理・調査データ解析 ―因子分析・共分散構造分
析まで』東京図書．
佐和隆光．1990．『回帰分析』朝倉書店．
田部井明美．2001．『SPSS完全活用法 ―共分散構造分析(Amos)によるアンケート処理』
東京図書．