近代统计学的发展起源于二十世纪初,它是在概率论的基础上发展起来的,但统计性质的工作可以追溯到远古的“结绳记事”和《二十四史》中大量的关于我国人口、钱粮、水文、天文、地震等资料的记录。西方则把收集和整理国情资料的活动称为统计,统计一词(Statistics)正是由国家(State)一词演化而来的。
1662年,英国统计学家J.格兰特组织调查伦敦的人口死亡率,并发表专著《从自然和政治方面观察死亡统计表》,格兰特还对保险统计、经济统计进行了数学研究,称其学问为“政治算术”。他发现人口出生率与死亡率相对稳定,提出了“大数恒静定律”,之后统计学的数学性质逐渐加重。
1763年,英国统计学家贝叶斯(T.Bayes)发表《论机会学说问题的求解》,给出“贝叶斯定理”,从结果去对原因进行后验概率的计算,可视为最早的数学化的统计推断。
十九世纪初,高斯和勒让德建立“最小二乘法”,且用之于分析天文观测的误差,成为数理统计之中的重要方法。十九世纪中叶,比利时统计学家A·凯特勒和英国生物学家B·高尔顿在数理统计方面的工作对现代数理统计的发展影响甚大。凯特勒把统计方法应用于天文、数学、气象、物理、生物和社会学。且强调了正态分布的用途,他曾长期进行比利时国力调查且组织国际统计工作,使数理统计方法被方方面面的科学技术领域所接受和重视。高尔顿于1889年出版数理统计著作《自然的遗传》,引入回归分析方法,他给出回归直线和相关系数的重要概念。在同一时期,爱尔兰经济学家E. Y. 埃奇沃思引入方差概念。
从十九世纪末到第二次世界大战结束,数理统计得到蓬勃发展并日臻成熟。这一时期,英国数学家K·皮尔逊用数理统计的方法得出生物统计学和社会统计学的基本法则,近一步发展了回归分析和相关的理论,他于1900年提出检验拟合程度的χ2统计量和χ2分布,建立了χ2检验法。1908年,英国科学家W. S. 戈塞特导出大统计量及其精确的分布,建立了检验法。戈塞特是皮尔逊的学生,所以戈塞特发表t分布时以“学生”为笔名,故分布也称为“学生分布”。χ2分布讨论的是总体概念与群体现象,t分布则讨论小样本理论与随机现象。
作为一门独立的学科,现代数理统计的奠基人是英国数学家和生物学家费希尔(Fisher Ronald Aylmer,1890—1962),他生于伦敦,卒于澳大利亚,毕业于剑桥大学,教过中学,长期在农业试验站搞生物实验,先后任伦敦大学和剑桥大学教授,1929年当选皇家学会会员。1922年出版了他的现代统计的基础性著作《理论统计的数学基础》,对统计中的多元分析、相关系数、样本分布及其在生物遗传与优生方面的应用,进行了系统深入的阐述。他的主要贡献`在估计理论、假设检验、实验设计和方差分析等方面。他所领导的伦敦大学数理统计学派在20世纪30年代到40年代,在世界数理统计界占主导地位。
1940年,瑞典数学家拉默(H. Cramer)发表《统计学的数学方法》,运用测度论方法总结数理统计的成果,使现代数理统计趋于成熟。
第二次世界大战期间,美籍罗马尼亚数学家瓦尔德(A. Wald,1902—1950)为解决军方提出的军需验收的实际问题提出“序贯抽样”方法。1947年,他的专著《序贯分析》出版,使序贯分析成为数理统计的一个新的分支。瓦尔德还用博弈的观点看待数理统计,定义统计推断的风险函数,于1950年出版他的名著《统计决策函数》一书,同年因飞机失事身亡。
与现代数理统计有密切关系的一门重要学科是“博弈论”或称“对策论”。瓦尔德用与大自然对策的观点研究数理统计,使各种统计问题统一起来,促进了数理统计的发展。他的统计决策理论用博弈的观点看待数理统计问题,对于推断所获得的论断会产生什么后果,应采取何种对策或行动等这些不属于经典统计的内容,统计决策理论也将其纳入统计的范畴。沃尔德的思想方法对20世纪下半叶整个数理统计学的发展有着重要影响。
数理统计在近些年来有所发展,但理论上突破不大,最引人注目的是它的普及和广泛的应用。它几乎渗透到一切学科之中,哪里有试验,哪里有数据,哪里就少不了数理统计。它已成为现代最基本的工具之一,没有数理统计就无法应付大量的数据和信息。数理统计还将为社会的进步作出更大贡献。