HyperAI超神经

自助采样法/可重复采样/有放回采样 Bootstrap Sample

对于一个样本,它在某一次含 m 个样本的训练集的随机采样中,每次被采集到的概率是 1m 。不被采集到的概率为 1−1m 。

若 m 次采样都没有被采集中的概率是 (1−1m)m,则当 m→∞时,(1−1m)m→1/e≃0.368,即每轮随机采样中,训练集中大约有 36.8% 的数据没有被采样集采集中。

放回采样后的数据集会有一些数据重复,一些数据缺失,从 N 个样本中采样 K 个样本,不同样本数量的期望为 U(K)=N(1−(N−1N)K) 。