研究メモ

Battle_race2011-05-16

テーマ「なぜ拡張最小二乗法を使いだしたか」
・ただの最小二乗法…特に分布は仮定していない
(重みづけをどうしよう、という話になった)
 ↓
・一変量の拡張最小二乗法…正規分布を仮定し、最尤法
(副産物的に、重みとなる項が出てきたからよしとした?)
※亜種:ベイズの定理を用いた最小二乗法…正規分布を仮定し、最尤法
(誤差の分散を既知としているためか、lnの項がない。)
 ↓
・多変量に拡張した拡張最小二乗法…「多変量」正規分布を仮定し、最尤法
(集団の特性といえる平均、分散を求める場合に効果のある手法)


ベイズの定理を用いた最小二乗法において、誤差の分散を既知として扱っているようだが本当にそれでいいのか。実際わかっていないうえ、結果重み選択の問題に直面してしまっている。

※なぜ最小二乗法に、分布を仮定するという概念が生まれたかが言えれば、もう説明できたようなものだと思う
※σの処理に関して、回帰分析の4章を勉強しておこうと思う(次にやることはこれ)
Wikipediaの「計量経済学」の不均一分散の部分も参考になる可能性がある