Loading...
墨滴

niko

2021/11/06  阅读:45  主题:橙心

统计-1 似然比检验

数理统计专题-1 似然比检验

这又是新开的一个专题!我这学期在上研究生的高等数理统计也在学习一本不太常用的数理统计。相较于很多学校选用的茆诗松书讲的内容,我会给大家补充一些特别的专题。

因此这一系列的文章假设大家已经有本科生的数理统计,包括三大统计分布、充分统计量、枢轴量求解置信区间和进行假设检验、还有一些回归分析的基础。

今天这篇介绍的是似然比检验。与茆书讲的(广义)似然比检验不同,我们会从参数空间只有两点(一个是null hypothesis另一个是alternative hypothesis)

问题的提法

Notations:

为了方便打字,所有的向量不加粗了。 是似然函数。

在上面的假设下,我们引入简单的似然函数:

上边的 是拒绝域。这样的拒绝域形式是正确的,因为 越大,取 的概率大,也就应该拒绝原假设。

1.Neyman-Pearson 引理


Theorem1(Neyman-Pearson's Lemma) 给定水平 ,设

并且 满足

那么对任何否定域 ,只要 ,就一定有


我们讨论一下这个N-P引理说了什么。如果我们按照 的这个形式给出拒绝域,并且满足检验的水平是 ,也就是犯第一类错误的概率 ,那么对于任何有相应检验水平的拒绝域 , 都可以保证它拒绝备择假设的概率更大(也就是说,它是一个 拒绝域)。或者说,它犯第二类错误的概率是最小的。

Proof:设 是任何满足 的否定域,则

要补充的是,只有似然比 的分布函数连续时,我们才能保证一定能找到一个

2.似然比检验UMP拒绝域唯一性定理

Theorem2 r.v. X的密度函数 ,并且 的支撑 与参数的选择无关. .设 是样本, 下的分布是连续的,则对任何水平 ,存在 ,s.t.

是水平为 唯一最大功效否定域


这里的唯一也就是说,任何其他的最大功效否定域和通过似然比给出的 差集是一个零测的集合。


Proof. 下面我们先说明使得检验水平为 的拒绝域一定存在,之后再用反证法说明最大功效拒绝域唯一。

由于 的分布函数连续,一定存在 s.t.

的任一水平不超过 的子集,i.e.

下面证明:若 ,则一定有:

事实上,

下面对 的测度分开讨论:

1. 在集合 上根据定义有 ,于是

相应的,在集合 外,有 ,因此

这就说明了 的在 上的功效函数(拒绝的概率)比 上要大,说明 不是UMP拒绝域。

2.

显然 , 从而

上面这一步是为了让不等号严格成立。然后用情形1里的推导可以得到相同结论。

似然比检验无偏

这里的无偏意思是,在 正确的情况下拒绝 的概率比 情况下概率大。也就是说,正确地拒绝 的概率比错误地拒绝概率大

Theorem3(似然比检验的无偏)\ 在N-P 引理的条件下,有

Proof. 中的补集。


可以看出,似然比检验在只有两个可选参数的检验中有相当好的性质。下面的我们针对单参数的指数族分布,在正常的几种假设检验假设下给出拒绝域(不带证明)

单参数指数族分布指:

其中 的严格增函数。 要多说明的是,这里的 可以是多个参数,但是检验的时候,只能有一个未知,其他的要给定。 我用的编辑软件在下面又出问题了,有些latex公式出不来,请大家自己脑补

a.

(相反情况把拒绝域反过来)

只要 满足

UMP拒绝域:

b.

那么,

$$W_0=\{x\in\mathscr{H}^n: C_{1}<\sum V(x_i) 是水平为 的UMP检验拒绝域

c.

$$W_0 = \{x\in\mathscr{H}^n: \sum V(x_i) C_2\} $$

其中$C_1 < p>

<>

这个 也有UMP性质。

d.

$$W_0 = \{x\in\mathscr{H}^n: \sum V(x_i) C_2\} $$

若 $C_1

并且

上面的这个期望是在 条件下取的。

niko

2021/11/06  阅读:45  主题:橙心

作者介绍

niko