如何应用贝叶斯理论做统计推断

如何应用贝叶斯理论做统计推断
如何应用贝叶斯理论做统计推断

如何应用贝叶斯理论做统计推断
贝叶斯方法的基本思想是,不论你作出何种推断,都只能基于后验分布,即由后验分布所决定（陈希孺,1999）.
贝叶斯方法是基于贝叶斯定理而发展起来用于系统地阐述和解决统计问题的方法（Kotz和吴喜之,2000）.
一个完全的贝叶斯分析（full Bayesian analysis）包括数据分析、概率模型的构造、先验信息和效应函数的假设以及最后的决策（Lindley,2000）.
贝叶斯推断的基本方法是将关于未知参数的先验信息与样本信息综合,再根据贝叶斯定理,得出后验信息,然后根据后验信息去推断未知参数（茆诗松等,1998）.
袁卫（1990）从认识论的角度阐述了贝叶斯辩证推断的思想.他认为,贝叶斯公式中包含了丰富的辩证思想：（1）贝叶斯公式既考虑了主观概率,又尊重了客观信息.（2）贝叶斯公式将静态与动态结合起来,充分利用前人的知识和经验,符合认识的发展过程.（3）人类的认识过程是一个从实践到认识,再从认识到实践这样循环往复的过程.经典的统计理论仅仅反映了这一无限的认识链条中的一个环节,即“实践~认识”的过程；而贝叶斯推断则反映整个认识链条中互相联系的两个环节“认识~实践~认识”.其中第一个认识活动即先验知识,反映为先验分布；实践活动主要表现为样本观察；第二个认识活动是认识到实践再到认识的重新认识活动,是对第一次认识的补充、修改和提高.毫无疑问,历史和前人的知识对实践会起指导作用.
陈希孺院士（1999）从统计推断的观点对贝叶斯理论进行了论述.他从纯科学研究的性质（不考虑损失,只关心获取有关未知参数的知识）解释了贝叶斯方法：（1）先验分布总结了研究者此前（试验之前）对未知参数可能取值的有关知识或看法.（2）在获得样本后,上述知识或看法有了调整,调整结果为后验分布.按照贝叶斯学派的观点,在获得后验分布后,统计推断的任务原则上就完成了.理由很简单,推断的目的是获取有关未知参数的知识,而后验分布反映了当前对未知参数的全部知识.至于为了特定的目的而需要对未知参数作出某种特定形式的推断,它可以由研究者根据后验分布,以他认为合适的方法去做,这些都已不是贝叶斯方法中固有的,而只是研究者个人的选择.
陈希孺院士还总结了吸引应用者的贝叶斯推断思想和方法的特点：（1）“先验分布十样本~后验分布”这个模式符合人们的认识过程,即不断以新发现的资料来调整原有的知识或看法.（2）贝叶斯推断有一个固定的、不难实现的程式：方法总是落实到计算后验分布,这可能很复杂但无原则困难.在频率学派的方法中,为进行推断,往往需要知道种种统计量的抽样分布,这在理论上往往是很难解决的问题.（3）用后验分布来描述对未知参数的认识,显得比频率学派通过用统计量来描述更自然些.（4）对某些常见的问题,贝叶斯方法提供的解释比频率学派更加合理.
当然,贝叶斯方法也受到了经典统计学派中一些人的批评,批评的理由主要集中在三个方面—主观性、先验分布的误用和先验依赖数据或模型.针对这些批评,贝叶斯学派的回答如下：
几乎没有什么统计分析哪怕只是近似地是“客观的”.因为只有在具有研究问题的全部覆盖数据时,才会得到明显的“客观性”,此时,贝叶斯分析也可得出同样的结论.但大多数统计研究都不会如此幸运,以模型作为特性的选择对结论会产生严重的影响.实际上,在许多研究间题中,模型的选择对答案所产生的影响比参数的先验选择所产生的影响要大得多.
博克斯（Box,1980）说：“不把纯属假设的东西看做先验……我相信,在逻辑上不可能把模型的假设与参数的先验分布区别开来.”
古德（Good,1973）说的更直截了当：“主观主义者直述他的判断,而客观主义者以假设来掩盖其判断,并以此享受着客观性的荣耀.”
防止误用先验分布的最好方法就是给人们在先验信息方面以适当的教育.另外,在贝叶斯分析的最后报告中,应将先验和数据、损失分开来报告,以便使其他人对主观的输入做合理性的评价.两个“接近的”先验可能会产生很不相同的结果.没有办法使这个问题完全消失,但通过稳健贝叶斯方法和选择“稳健先验”可以减轻（Berger 1985）.
当代杰出的贝叶斯统计学家奥黑根（O'Hagan,1977）指出：“劝说某人不加思考地利用贝叶斯方法并不符合贝叶斯统计的初衷.进行贝叶斯分析要花更多的努力.如果存在只有贝叶斯计算方法才能处理的很强的先验信息或者更复杂的数据结构,这时收获很容易超过付出,由此能热情地推荐贝叶斯方法.另一方面,如果有大量的数据和相对较弱的先验信息,而且一目了然的数据结构能导致已知合适的经典方法（即近似于弱先验信息时的贝叶斯分析）,则没有理由去过分极度地敲贝叶斯的鼓（过分强调贝叶斯方法）.”