Estimation of high-dimensional covariance matrices is known to be a difficult problem, has many applications, and is of current interest to the larger statistics community. In many applications including so-called the “large p small n” setting, the estimate of the covariance matrix is required to be not only invertible, but also well-conditioned. Although many regularization schemes attempt to do this, none of them address the ill-conditioning problem directly. In this paper, we propose a maximum likelihood approach, with the direct goal of obtaining a well-conditioned estimator. No sparsity assumption on either the covariance matrix or its inverse are are imposed, thus making our procedure more widely applicable. We demonstrate that the proposed regularization scheme is computationally efficient, yields a type of Steinian shrinkage estimator, and has a natural Bayesian interpretation. We investigate the theoretical properties of the regularized covariance estimator comprehensively, including its regularization path, and proceed to develop an approach that adaptively determines the level of regularization that is required. Finally, we demonstrate the performance of the regularized estimator in decision-theoretic comparisons and in the financial portfolio optimization setting. The proposed approach has desirable properties, and can serve as a competitive procedure, especially when the sample size is small and when a well-conditioned estimator is required

چکیده

براورد ماتریس های هم واریانس مسئله مشکلی است، کاربردهای بسیاری دارد و مورد علاقه جاری انجمن آماری های بزرگتر است. در بسیاری از کاربردها، شامل موقعیت «p بزرگ،n  کوچک» ، براورد ماتریس هم واریانس نیاز دارد که نه تنها معکوس پذیر بلکه خوش تعریف باشد. اگر چه بسیاری از طرح های مرتب سازی تلاش به انجام این امر دارند، هیچکدام از آنها ، مسئله بد تعریفی را به صورت مستقیم مورد خطاب قرار نمی دهند. در این مقاله، ما یک روش درست نمایی بیشینه، با هدف مستقیم دستیابی به یک براوردگر خوش تعریف را پیشنهاد می کنیم. هیچ فرض اندکی روی ماتریس هم واریانس یا معکوس آن تحمیل نشده است. بنابراین، روند ما را به صورت گسترده تری کاربرد پذیر می سازد. ما نشان می دهیم که طرح مرتب سازی پیشنهاد شده به صورت محاسباتی موثر است ،یک نوع براورد گر انقباض استاینیان به دست می دهد و یک تفسیر بایسیان طبیعی دارد. ما خصوصیات نظری براوردگر هم واریانس مرتب شده را به صورت جامع ، شامل مسیر مرتب سازی اش، مورد پژوهش قرار می دهیم و به پیش می رویم تا روشی را توسعه دهیم که به صورت تطبیقی سطح مرتب سازی ای که مورد نیاز است را تعیین کند. سرانجام، ما کارایی براوردگر مرتب شده در مقایسات نظری–تصمیمی و در موقعیت بهینه سازی دارایی مالی را اثبات می کنیم. روش پیشنهاد شده، خصوصیات مطلوب دارد و می تواند به صورت یک روند مقایسه ای در نظر گرفته شود، به ویژه زمانی که اندازه نمونه کوچک است و وقتی که براوردگر خوش تعریف مورد نیاز است.

1-مقدمه

ما مسئله براورد هم واریانس مرتب شده را در موقعیت گاوسی در نظر می گیریم. به خوبی می دانیم که برای n نمونه مستقل داده شده x₁…x_N € R^P از یک توزیع گاوسی با p متغیر با میانگین صفر، ماتریس هم وایانس نمونه درست نمایی لگاریتمی را که به صورت زیر نمایش داده می شود...