1

1. 随机变量 X 的期望 µ = E(X) 和方差 σ 2 = E[(X − µ)2 ]。如果定义

随机变量 X ∗ = X−µ
σ
，证明

1
P [|X ∗ | ≥ c] ≤ .
c2
解
X −µ δ2 1
P [|X ∗ | ≥ c] = P [| | ≥ c] = P [|X − µ| ≥ cδ] ≤ 2 2 = 2
δ c δ c

2. 令 Xi (i = 1, 2, · · · , n) 为一组独立同分布的随机变量，期望 µ =
∑n
E(Xi ) 和方差 σ 2 = E[(Xi − µ)2 ]。如果定义 X = n1 i=1 Xi ，证明

σ2
P [|X − µ| ≥ ϵ] ≤ .
nϵ2
解 由于

1∑ 1 ∑
n n
1 σ2
V ar(X) = V ar( Xi ) = 2 V ar(Xi ) = 2 · nσ 2 =
n n n n
i=1 i=1

1∑ 1 ∑
n n
1
E(X) = E( Xi ) = E( Xi ) = · nE(Xi ) = µ
n n n
i=1 i=1

所以
V ar(X) σ2
P [|X − µ| ≥ ϵ] ≤ = 2
ϵ nϵ

3. 假设抛一枚均匀的硬币 n 次，随机变量 X 定义为正面朝上的次数，

n
a. 请运用 Chebyshev 不等式给出事件 X < 4
的概率上界；
n
b. 请运用 Chernoff 不等式给出事件 X < 4
的概率上界；

a. 解
n 3n n n V ar(X) n
P (X < ) = P (X > ) < P (|X − | > ) < =
4 4 2 4 (n/4)2 4

b. 解
n 3n 1 n n 1
P (X < ) = P (X > ) = P (X > (1+ ) )) < exp (− ( )2 /4) = exp (−n/32)
4 4 2 2 2 2
 2

4. 假设 Xi 独立随机变量序列，满足

P (Xi = 1) = pi 和P (Xi = 0) = 1 − pi .
∑n ∑n
令µ= pi ，定义随机变量 X = i=1 Xi 。证明以下结论：
i=1
( δ
)µ
a. P (X > (1 + δ)µ) < (1+δ)e (1+δ) ；

b. P (X > (1 + δ)µ) < exp (−µδ 2 /3)。

a. 解 对于 t>0
∏n
i=1 E(exp (tXi ))
P (X > (1+δ)µ) = P (exp (tX) > exp (t(1 + δ)µ)) <
exp (t(1 + δ)µ)

因为 1 − x < e−x ，所以

E(exp (tXi )) = pi et + (1 − pi ) = 1 − pi (1 − et ) < exp (pi (et − 1))

∏
n ∏
n
E(exp (tXi )) < exp (pi (et − 1)) = exp (µ(et − 1))
i=1 i=1

exp (µ(et − 1))

P (X > (1 + δ)µ) < = exp (µ(et − 1 − t − tδ))
exp (t(1 + δ)µ)
对 t 求偏导，得到 µ(et − 1 − δ) = 0，所以 t = ln(1 + δ)

eδ
P (X > (1 + δ)µ) < exp (µ(et − 1 − t − tδ)) = ( )µ .
(1 + δ)( 1 + δ)

b. 解
(1+δ)
(1 + δ)1+δ = eln(1+δ) = e(1+δ) ln(1+δ)
δ2 δ3 δ2
(1 + δ) ln(1 + δ) = (1 + δ)(δ − + ···) > δ +
2 3 3
所以
eδ
P (X > (1 + δ)µ) < ( δ2
)µ = exp (−µδ 2 /3)
exp (δ + 4
)

5. 假设 Xi 独立随机变量序列，满足

P (Xi = 1) = pi 和P (Xi = 0) = 1 − pi .
 3

∑n ∑n
令µ= i=1 pi ，定义随机变量 X = i=1 Xi 。证明

P (|X − µ| > δµ) < 2 exp (−µδ 2 /3).

解 由于第四题结论

P (X > (1 + δ)µ) < exp (−µδ 2 /3)

又因为
P (X < (1 − δ)µ) < exp (−µδ 2 /2) < exp (−µδ 2 /3)

所以

P (|X − µ| > δµ) = P (X > (1 + δ)µ) + P (X < (1 − δ)µ) < 2 exp (−µδ 2 /3).

6. 设一组独立随机变量 Xi ∼ Bernoulli(p)，其中 i = 1, · · · , n。令 X =

1
∑n
n i=1 Xi 。请问当 n 取值为多少时使得

P (|X − p| ≤ ϵp) ≥ 1 − δ.

解 由于 V ar(X) = n1 p(1 − p)，E(X) = p

所以有
1
p(1 − p)
1 − P (|X − p| ≤ ϵp) = P (|X − p| > ϵp) < n
≤δ
ϵ2 p 2

所以当 n ≥ 1−p
δϵ2 p
使得 P (|X − p| ≤ ϵp) ≥ 1 − δ

7. 假设某平台拥有 k 台服务器，需要对外响应 n 个服务（每项服务都

在很短的时间内完成）。当平台收到一个服务请求时，将这个服务请求随机
分发到一个服务器上。假设 Xi 表示第 i 台服务器上被分发的服务请求数量。

a. 随机变量 Xi 服从什么分布？

b. X1 , X2 , · · · , Xk 是不是独立随机变量？为什么？

c. 在考虑负载均衡问题时，如果仅关心随机变量 M ≥ (1 + ϵ) nk 的可能性
大小，其中随机变量 M = max {X1 , X2 , · · · , Xk }。请给出以下概率的
上界
n
P r(M ≥ (1 + ϵ) ).
k
 4

a. 解 二项分布，X ∼ b(n, k1 )
∑k
b. 解 不是独立随机变量，这是由于 i=1 Xi = n 举例来说， 如果 k = 2，
P (X1 = m, X2 = n − m) = Cn ( 2 ) ( 2 )
m 1 m 1 n−m
̸= P (X1 = m) · P (X2 =
n − m) = Cnm ( 2 )m ( 2 )n−m · Cnn−m ( 2 )n−m ( 2 )m
1 1 1 1

c. 解

n n
P (M ≥ (1 + ϵ) ) = P (max{X1 , X2 , · · · , Xk } ≥ (1 + ϵ) )
k k
∪
k
n
= P ( Xi ≥ (1 + ϵ) )
k
i=1

∑
k
n
≤ P (Xi ≥ (1 + ϵ) )
k
i=1

∑
k
nϵ2
≤ exp (− )
4k
i=1
nϵ2
= k · exp(− )
4k