自助采样法／可重复采样／有放回采样 Bootstrap Sample

对于一个样本，它在某一次含 m 个样本的训练集的随机采样中，每次被采集到的概率是 1m 。不被采集到的概率为 1−1m 。

若 m 次采样都没有被采集中的概率是 (1−1m)m，则当 m→∞时，(1−1m)m→1/e≃0.368，即每轮随机采样中，训练集中大约有 36.8% 的数据没有被采样集采集中。

放回采样后的数据集会有一些数据重复，一些数据缺失，从 N 个样本中采样 K 个样本，不同样本数量的期望为 U(K)=N(1−(N−1N)K) 。