【算法学习笔记】概率与期望DP

本文学习自 Sengxian 学长的博客

之前也在CF上写了一些概率DP的题并做过总结

建议阅读完本文再去接着阅读这篇文章：Here

期望经典问题入门题集

前言

单纯只用到概率的题并不是很多，从现有的 OI/ACM 比赛中来看，大多数题目需要概率与期望结合起来（期望就是用概率定义的），所以本文主要讲述期望 DP。

期望 DP 有一些固定的方法，这里分多种方法来讲述。

---

讲解

例一

#3036. 绿豆蛙的归宿

题意：

给定一个起点为 (1)，终点为 (n) 的有向无环图。到达每一个顶点时，如果有 (K) 条离开该点的道路，可以选择任意一条道路离开该点，并且走向每条路的概率为 (frac 1 K)。问你从 (1) 出发走到 (n) 的路径期望总长度是多少。

方法一：直接定义期望状态

这道题的终点很明确，那就是走到 (n) 即停止。对于期望 DP，我们一般采用逆序的方式来定义状态，即考虑从当前状态到达终点的期望代价。因为在大多数情况下，终点不唯一，而起点是唯一的。
我们定义 (dp(i))为从 (i) 出发走到终点 (n) 的路径期望总长度，根据全期望公式，得到（设​ (G_i)为从 (i) 的边的集合）：

[dp(i) = sumlimits_{ein G_i}frac{dp(e_{to}) + e_{const}}{|G_i|} ]

因为这是一个有向无环图，每个点需要其能到达的点的状态，故我们采用拓扑序的逆序进行计算即可。

【AC Code】

const int N = 100000, M = 2 * N;
int n, m;
struct node { int v, w;};
vector<node>e[N];
int d[N];    // 出度
double f[N]; // dp

double dfs(int u) {
    if (f[u] >= 0)return f[u];
    f[u] = 0;
    for (auto [v, w] : e[u]) { // tuple 需开启 C++17
        f[u] += (w + dfs(v)) / d[u];
    }
    return f[u];
}

int main() {
    cin.tie(nullptr)->sync_with_stdio(false);
    memset(f, -1, sizeof(f));
    cin >> n >> m;
    for (int i = 0; i < m; ++i) {
        int u, v, w;
        cin >> u >> v >> w;
        e[u].push_back(node{v, w});
        d[u]++;//出度++
    }
    cout << fixed << setprecision(2) << dfs(1);
}

方法二：利用期望的线性性质

根据期望的线性性质，(E[aX +bY]=aE[X] + bE[Y])。所以另外一种求期望的方式是分别求出每一种代价产生的期望贡献，然后相加得到答案。在本题中，路径期望总长度等于每条边产生的期望贡献之和。而每条边产生又等于经过这条边的期望次数乘这条边的代价。所以，我们只需要算每条边的期望经过次数即可。

边 ((u,v,w)) 的期望经过次数是不好直接算的，但如果我们能算得点 (u) 的期望经过次数为 (dp(u,v))，那么边 ((u,v,w)) 的期望经过次数是 (dp(u)*frac1{|G_u|}) ，对答案的贡献就是 (w*dp(u)*frac1{|G_u|})

如何计算点 (u) 的期望经过次数 (dp(u))呢？我们依然考虑 DP 的方式，首先有 (dp(u) = 1)，转移采取刷表的方式：

[dp(e_{to})leftarrow dp(u)*frac1{|G_u|},ein G_u ]

在用边 (e) 刷表的同时，边 (e) 的贡献就可以计算了，十分简洁。因为这种方法计算答案十分的便捷，而且适用范围广，所以这种『利用期望的线性性质，单独计算贡献的方法』是我们计算期望首选的方法。

【AC Code】这里贴 Sengxian 学长的代码

typedef long long ll;
inline int readInt() {
    static int n, ch;
    n = 0, ch = getchar();
    while (!isdigit(ch)) ch = getchar();
    while (isdigit(ch)) n = n * 10 + ch - '0', ch = getchar();
    return n;
}

const int MAX_N = 100000 + 3, MAX_M = MAX_N * 2;
struct edge {
    edge *next;
    int to, cost;
    edge(edge *next = NULL, int to = 0, int cost = 0): next(next), to(to), cost(cost) {}
} pool[MAX_M], *pit = pool, *first[MAX_N];
int n, m, deg[MAX_N], outDeg[MAX_N];
double f[MAX_N];

void solve() {
    static int q[MAX_N];
    int l = 0, r = 0;
    q[r++] = 0;

    double ans = 0;
    f[0] = 1.0;
    while (r - l >= 1) {
        int u = q[l++];
        for (edge *e = first[u]; e; e = e->next) {
            f[e->to] += f[u] / outDeg[u];
            ans += f[u] * e->cost / outDeg[u];
            if (--deg[e->to] == 0) q[r++] = e->to;
        }
    }

    printf("%.2f
", ans);
}

int main() {
    n = readInt(), m = readInt();
    for (int i = 0, u, v, w; i < m; ++i) {
        u = readInt() - 1, v = readInt() - 1, w = readInt();
        first[u] = new (pit++) edge(first[u], v, w);
        deg[v]++, outDeg[u]++;
    }
    solve();
}

例二

接着我们考虑 Codeforces 518D 这道题，以便体会方法二的好处。

题意：有 (n) 个人排成一列，每秒中队伍最前面的人有 (p) 的概率走上电梯（一旦走上就不会下电梯），或者有 (1-p) 的概率不动。问你 (T) 秒过后，在电梯上的人的期望。

方法一

在本题这样一个情况中，方法一是用不了的，因为我们的结束状态不明确。

方法三：使用期望的定义计算

如果 (X) 是离散的随机变量，输出值为 (x_1,x_2,...)，输出值相应的概率为 (p_1,p_2,...)，那么期望值是一个无限数列的和（如果不收敛，那么期望不存在）：

[E[x] =sumlimits_ip_ix_i ]

在本题中，如果设 (dp(i,j)) 为 (i) 秒过后，电梯上有 (j) 个人的概率，那么答案是：

[sumlimits_{0le kle n}dp(T,K)*K ]

所以我们只需要求 (dp(i, j)) 就可以了，初始值 (dp(0, 0) = 1) 就可以了，仍然是采用刷表法：

[dp(i + 1,j + 1) leftarrow dp(i,j)*p\ dp(i + 1,j)leftarrow dp(i,j) * (1 - p) ]

【AC Code】

const int N = 2e3 + 10;
double p, dp[N][N];
int main() {
    cin.tie(nullptr)->sync_with_stdio(false);
    int n, t;
    cin >> n >> p >> t;
    dp[0][0] = 1;
    for (int i = 0; i < t; ++i) {
        dp[i + 1][n] += dp[i][n];
        for (int j = 0; j < n; ++j) if (dp[i][j] > 1e-10) {
                dp[i + 1][j + 1] += dp[i][j] * p;
                dp[i + 1][j] += dp[i][j] * (1 - p);
            }
    }
    double ans = 0;
    for (int i = 0; i <= n; ++i) ans += i * dp[t][i];
    cout << fixed << setprecision(6) << ans;
}

方法二

那么之前提到的适用范围广的方法二，是否能在这里用呢？答案是肯定的。

延续方法三的 DP，我们不妨将状态之间的转移抽象成边，只不过只有 (dp(i, j)) 到 (dp(i + 1, j + 1)) 的边才有为 (1) 的边权，其余都为 (0)。因为这个 DP 涵盖了所有可能出现的情况，所以我们仍然可以利用期望的线性性质，在刷表的过程中进行计算答案。

本题中，没有直观的边的概念，但是我们可以将状态之间的转移抽象成边，由于 (dp(i, j))到 (dp(i + 1, j + 1)) 这一个转移是对答案有 (1) 的贡献的，所以我们将它们之间的边权赋为 (1)。

这一题将方法二抽象化了，实际上大多数题并非是直观的，而是这种抽象的形式。

const int N = 2e3 + 10;
double p, dp[N][N];
int main() {
    cin.tie(nullptr)->sync_with_stdio(false);
    int n, t;
    cin >> n >> p >> t;
    dp[0][0] = 1;
    double ans = 0;
    for (int i = 0; i < t; ++i) {
        dp[i + 1][n] += dp[i][n];
        for (int j = 0; j < n; ++j) if (dp[i][j] > 1e-10) {
                dp[i + 1][j + 1] += dp[i][j] * p;
                dp[i + 1][j] += dp[i][j] * (1 - p);
                ans += dp[i][j] * p;
            }
    }
    cout << fixed << setprecision(6) << ans;
}

例三

BZOJ 3450

题意：给定一个序列，一些位置未确定（是 ( exttt{o}) 与 ( exttt{x}) 的几率各占 (\%50%)）。对于一个 ( exttt{ox}) 序列，连续 (x) 长度的 ( exttt{o}) 会得到 (x^2) 的收益，请问最终得到的序列的期望收益是多少？

分析

这个题如果一段一段的处理，实际上并不是很好做。我们观察到 ((x + 1) ^ 2 - x ^ 2 = 2x + 1)，那么根据期望的线性性质，我们可以单独算每一个字符的贡献。我们设 (dp_i) 为考虑前 ii 个字符的期望得分，(l_i) 为以 (i) 为结尾的 comb 的期望长度，(Comb_i) 为第 (i)个字符，那么有 3 种情况：

1. (s_i = o) ，则 (dp_i = dp_{i - 1} + l_{i - 1} * 2 + 1,l_i = l_{i - 1} + 1)
2. (s_i = x) ，则 (dp_i = dp_{i - 1})
3. (s_i = ?)， 则 (dP_i = dp_{i - 1} + frac{l_i*2 + 1}{2},l_i = frac{l_{i - 1} + 1}{2})

对于前两种情况，其实是非常直观的，对于第三种情况，实际上是求了一个平均长度。例如 ?oo，两种情况的长度 (l_i) 分别为 ([0,1,2]) 和 ([1,2,3]) ，但是求了平均之后，长度 (l_i) 变成了 ([0.5,1.5,2.5]) ，这样由于我们的贡献是一个关于长度的一次多项式 ((2x + 1)) ，所以长度平均之后，贡献也相当于求了一个平均，自然能够求得正确的得分期望。

【AC Code】

const int N = 3e5 + 10;
double dp[N], Comb[N];
int main() {
    cin.tie(nullptr)->sync_with_stdio(false);
    int n; string s;
    cin >> n >> s;
    for (int i = 0; i < n; ++i) {
        if (s[i] == 'o') {
            dp[i] = dp[i - 1] + Comb[i - 1] * 2 + 1;
            Comb[i] = Comb[i - 1] + 1;
        } else if (s[i] == 'x') {
            dp[i] = dp[i - 1];
            Comb[i] = 0;
        } else {
            dp[i] = dp[i - 1] + (Comb[i - 1] * 2 + 1) / 2;
            Comb[i] = (Comb[i - 1] + 1) / 2;
        }
    }
    cout << setprecision(4) << fixed << dp[n - 1];
}

思考：如果长度为 (a) 的 comb 的贡献为 (a^3) 时该如何解决？

Tips：由于 ((a + 1)^3 - a^3 = 3a^3 + 3a + 1) ，所以我们要维护 (a^2) 和 (a) 的期望，注意 (E_{a^2} ot= E^2_a)，所以维护 (a^2) 的期望是必要的。

---

例四

BZOJ 4318

题意：给定一个序列，每个位置 (o) 的几率为 (p_i) ，为 (x) 的几率为 (1-p_i) 。对于一个 ( exttt{ox}) 序列，连续 (x) 长度的 ( exttt{o}) 会得到 (x^3) 的收益，请问最终得到的 (ox) 序列的期望收益是多少？

分析

延续例三的思路，我们还是分别求每一个位置的贡献。根据 ((a + 1)^3 - a^3 = 3a^3 + 3a + 1)，我们只需要维护 (l(i))为以 (i) 为结尾的 comb 的期望长度，(l_2(i))为以 (i) 为结尾的 comb 的期望长度的平方。注意 (E[a^2] ot =E^2[a])，所以维护 (a^2) 的期望是必要的。

int main() {
    cin.tie(nullptr)->sync_with_stdio(false);
    int n;
    double p, l1 = 0, l2 = 0, ans = 0;
    cin >> n;
    for (int i = 0; i < n; ++i) {
        cin >> p;
        ans += (3 * l2 + 3 * l1 + 1) * p;
        l2 = (l2 + 2 * l1 + 1) * p;
        l1 = (l1 + 1) * p;
    }
    cout << fixed << setprecision(1) << ans;
}

总结

期望 DP 一般来说有它固定的模式，一种模式是直接 DP，定义状态为到终点期望，采用逆序计算得到答案。一种模式是利用期望的线性性质，对贡献分别计算，这种模式一般要求我们求出每种代价的期望使用次数，而每种代价往往体现在 DP 的转移之中。最后的两个例题是典型的分离变量，用期望的线性性质计算答案的例子，如果状态过于巨大，那么就得考虑分离随机变量了。

本总结只是解释了概率与期望 DP 的冰山一角，它可以变化多端，但那些实际上并不只属于概率与期望 DP，真正核心的内容，还是逃不出我们几种方法。

想要深入了解一些概率的DP的请阅读这篇文章：Here