統計学輪講 第3回

非正則な統計モデルの推論に関する、最近の研究成果を報告する。

統計学における不確実性の定量化方法としては中心極限定理(CLT)がスタンダードかつ古典的であり、様々なシチュエーションにおいてその亜種が導出されている。しかし、CLTの適用のためにはいわゆる正則条件が必要であり、それが成り立たないクラスを非正則統計モデル [1] と呼ぶ。そういったモデルについては古くから散発的に漸近理論の研究がなされているが、（シンプルなケースを除き）どのように不確実性を定量化したらよいかは依然として未解明である。

本報告では、近年 Xie and Wang [2] において提案された再現標本法 (Repro Samples Method) と呼ばれるシミュレーションに基づいた方法を用いて、どのように非正則なモデルについて理論保証付きの統計的推論（信頼集合の構成・検定など）を行うかのアイデアを概説したあと、個別のモデルについての議論をする。

具体的には、
・アウトカムに汚染がある高次元線形回帰モデルにおける外れ値に関する推論 [3]
・説明変数と被説明変数のラベルにミスマッチがある線形回帰モデルの推論 [4]
について有限標本下での統計的推測理論および推定アルゴリズム、数値実験の結果を報告する。

時間があれば、選択的推論との関連性や、その他のアイデアについても紹介する。

参考文献：
[1] Larry Wasserman, Aaditya Ramdas, Sivaraman Balakrishnan, "Universal Inference," PNAS, 2020.
[2] Minge Xie and Peng Wang, "Repro Samples Method for a Performance Guaranteed Inference in General and Irregular Inference Problems," working paper, 2024.
[3] Hirofumi Ota, Minge Xie and Linjun Zhang, "Outlier detection and inference in contaminated high-dimensional linear models," working paper.
[4] Hirofumi Ota and Masaaki Imaizumi, "Finite-sample inference on sparsely permuted linear regression: a repro samples approach," working paper.