英: regression analysis、regression analyses

Wikipedia preview

出典(authority):フリー百科事典『ウィキペディア（Wikipedia）』「2016/12/02 10:35:56」(JST)

wiki ja

この項目では、統計学における回帰について説明しています。その他の用法については「回帰」をご覧ください。

線形回帰の例

回帰（かいき、英: regression）とは、統計学において、Y が連続値の時にデータに Y = f(X) というモデル(「定量的な関係の構造^[1]」)を当てはめる事。別の言い方では、連続尺度の従属変数（目的変数）Y と独立変数（説明変数）X の間にモデルを当てはめること。X が1次元ならば単回帰、X が2次元以上ならば重回帰と言う。Y が離散の場合は分類と言う。

回帰分析（かいきぶんせき、英: regression analysis）とは、回帰により分析する事。

回帰で使われる、最も基本的なモデルは Y = AX + B という形式の線形回帰である。

概要

回帰分析では独立変数と従属変数の間の関係を表す式を統計的手法によって推計する。

従属変数（目的変数）とは、説明したい変数（注目している変数）を指す。独立変数（説明変数）とは、これを説明するために用いられる変数のことである。経済学の例を挙げてみると次のようになる。経済全体の消費（ $Y$ ）を国民所得（ $X$ ）で説明する消費関数が $Y=aX+b$ というモデルで表されるとする。この例では、消費 Y が従属変数、国民所得 X が独立変数に対応する。そして $a,b$ といった係数（パラメータ）を推定する。

最も単純な方法は上式のような一般化線形モデルを用いる線形回帰であるが、その他の非線形モデルを用いる非線形回帰もある。

モデル

線形（一般化線形モデル、一般線形モデルなど）

線形回帰
正則化項付き
- リッジ回帰（英語版）
- Lasso（英語版）
- エラスティックネット（英語版）

非線形

k近傍法
回帰木
ランダムフォレスト
ニューラルネットワーク
サポートベクター回帰
射影追跡回帰
多変量適応的回帰スプライン（英語版）

最小二乗法による推定

詳細は「最小二乗法」を参照

パラメータを推定する代表的な方法として、最小二乗法がある。これは、二乗和誤差を最小化する最尤推定である。

最小二乗法の概要は次のとおりである。はじめに回帰式（目的変数を説明変数で計算する式）を設定する。次に、回帰式の係数を求めるが、「従属変数の測定値と、独立変数の測定値および回帰式を用いて求めた推定値の差の二乗和誤差」が最小になるように求める。線形モデルの場合、回帰式の係数で推定値の差の2乗平均を微分し0と置いた連立方程式を解いて求められる。

独立変数同士の相関

マーケティングやアンケートでよく使う一般的な重回帰の場合、複数の説明変数同士は無相関という仮定が入っている。そのため、一般化線形モデルで説明変数同士が関連性の高いものを使うと係数が妙な値になることがあるので注意する必要がある（これは多重共線性と呼ばれる）。

例: 小学校での定期テスト得点から重回帰で分析する場合に、理科の点数を従属変数に、算数と国語を説明変数にした場合、算数が増えると理科の点数が多く、国語の点数が高ければ理科の点数が減るといった意味の係数が出ることがある。これは算数と国語の点数に強い相関が両者にあるからである。この場合は算数と国語の平均点と、算数と国語の得点の差というように和と差に数字を加工すると、この2つは相関がたいてい低く、かつ解釈しやすい。算数と国語の得点の差は、算数の方が高い生徒の方が理科の点数が高い傾向があるというように理解できるからである。

これは、線形モデルの問題であるため、線形モデルが不適切ならば、非線形モデルを使用すれば良い。また、共分散構造分析という重回帰より複雑な関係を適切に説明できるモデルもある。

語源

回帰は語源的には回帰効果（平均への回帰）に由来する。回帰効果は相関（直線的な関係）が低い場合に顕著に現れる。しかし回帰分析では必ずしも直線的関係を仮定しない。また「目的変数yを説明変数xに回帰する」といい、「回帰」という言葉が由来とは異なる意味に使われている。

解析ソフト

NAG
IMSL
R言語 - 統計解析言語。回帰分析ほか多くの統計関数を標準装備したフリーウェア。『モデル式』でモデル記述や当てはめが容易。他アプリケーションのファイル取込やODBC接続対応。FDA公認。CRANという仕組みで世界の膨大なソフトを無償利用可能。可視化機能に優れ、日本語対応。マルチプラットフォーム。
Stata

脚注

『統計学入門』東京大学出版会、1991年。

参考文献

J. R. Taylor 『計測における誤差解析入門』林茂雄,馬場凉(訳)、東京化学同人、2000年。
蓑谷千凰彦『回帰分析のはなし』東京図書、1985年。

^ 『統計学入門』(東京大学出版会)、257頁

UpToDate Contents

全文を閲覧するには購読必要です。 To read the full text you will need to subscribe.

1. システマティックレビューおよびメタアナリシス systematic review and meta analysis
2. 生物統計学および疫学に関する一般用語集 glossary of common biostatistical and epidemiological terms
3. 冠動脈疾患または同等の冠動脈リスクを有する患者におけるコレステロール低下に関する臨床試験 clinical trials of cholesterol lowering in patients with coronary heart disease or coronary risk equivalents
4. 大腸癌の病理および予後決定因子 pathology and prognostic determinants of colorectal cancer
5. 生存性の限界 limit of viability

Japanese Journal

ビジネスマンのための基礎からの統計学(12)回帰分析の実際(3)ビジネスマンにとっての統計学とは?

清水千弘
不動産鑑定 = Appraisal & finance : アセット・ビジネスを考える人のコマーシャル・マガジン 51(7), 87-92, 2014-07
NAID 40020088926

スモールデータアプローチによるオフィスビルの電力需要予測方式

川野裕希,山田敏志,阿倍博信,中島宏一
情報処理学会論文誌. コンシューマ・デバイス&システム 4(2), 1-9, 2014-06-11
… 量(期間)のデータ,つまりスモールデータで各時間帯の電力需要量を予測する方式を提案する.具体的には,過去の電力需要量と気温のみを用いた重回帰分析による予測方式において,オフィスビルの電力需要予測に適した説明変数の提案・選択や,重回帰分析を用いた予測方式の課題である外挿への対応を検討して予測精度の向上を図り,オフィスビルの1年間の電力需要量を用いた予測精度評価によりそ …
NAID 110009794822

ビジネスマンのための基礎からの統計学(11)回帰分析の実際(2)モデル選択

清水千弘
不動産鑑定 = Appraisal & finance : アセット・ビジネスを考える人のコマーシャル・マガジン 51(6), 85-91, 2014-06
NAID 40020056366

Related Pictures

不動産鑑定評価に役立つ重回帰分析｜神代不動産鑑定事務所使える！統計講座【深瀬勝範】 - 第11回統計的手法を使う④ A(5) HADでロジスティック回帰分析 | Sunny side up! 統計解析ソフト「R」で取り組む回帰分析 - ZDNet Japan 本当に痩せてるの？重回帰分析でダイエットの成功を予測する

★リンクテーブル★

リンク元	「regression analyses」「regression analysis」
拡張検索	「ロジスティック回帰分析」「Cox比例ハザード回帰分析」「コックス比例ハザード回帰分析」「重回帰分析」「多重線形回帰分析」
関連記事	「分析」「回帰」