OpenSSL EVP_EncodeBlock 溢出:5 个误区逐一实测
OpenSSL EVP_EncodeBlock 缓冲区溢出(CVSS 9.8)暴露了 base64 编码器 API 的安全盲区。逐一实测编码器安全的五个常见误区。

一个只负责把字节转成 base64 文本的函数,居然拿到了 CVSS 9.8 分。OpenSSL 中的 EVP_EncodeBlock 缓冲区溢出(编号 CVE-2026-121481)就是这种听起来很无聊、但一细想就让人后背发凉的漏洞:base64 编码藏在证书处理、HTTP 客户端、代理认证,以及基础设施里一大堆胶水代码的底层。这个修复本身只用了四个提交,但维护者之间为“错误返回值到底该长什么样”吵得很激烈。
围绕这个 CVE 的讨论,对关心 API 设计的人来说是个宝藏,因为它把工程师对编码函数的一堆假设摊在了桌面上。这些假设几十年来、跨越多个库,一直在制造同一类 bug。下面我们挑五个最常见的观点,拿实际发生的事情来逐一检验。
解析 EVP_EncodeBlock 缓冲区溢出的真实原理
Base64 编码会让数据膨胀:每 3 个输入字节变成 4 个输出字符。因此输出大小是 4 * ((n + 2) / 3),如果要当作 C 字符串,还要再加 1 个 NUL 终止符。OpenSSL 的 EVP_EncodeBlock() 要求调用方自己算出这个大小并分配目标缓冲区。函数本身只拿到输入指针、输出指针,以及一个 int 类型的输入长度。它不知道输出缓冲区有多大,所以什么都验证不了,它只管写。
算一下就知道问题了。最大的 int 是 2,147,483,647。当输入长度超过 (INT_MAX / 4) * 3,也就是 1,610,612,733 字节(约 1.6 GB)时,内部的大小计算就会溢出有符号 32 位整数。长度计算回绕,函数对输出结束位置的判断就和现实对不上了,结果是越界写入调用方分配的缓冲区末尾之外。调用方按照文档公式做的也是同样会溢出的运算,所以两边对可用空间的认知可能会严重不一致。
上游修复加了一道保护:拒绝 dlen > (INT_MAX / 4) * 3 的输入,同时拒绝 NULL 缓冲区和负数长度。如果你要封装这个 API(你应该封装),检查也应该放在你的边界上:
#include <limits.h>
#include <stddef.h>
#include <openssl/evp.h>
/*
* Mirrors the upstream guard: refuse inputs whose encoded size
* cannot be represented in an int, and verify the destination
* capacity ourselves since the API never sees it.
*/
int b64_encode_checked(const unsigned char *in, size_t n,
unsigned char *out, size_t out_cap)
{
size_t need;
if (in == NULL || n > ((size_t)INT_MAX / 4) * 3)
return -1;
need = ((n + 2) / 3) * 4 + 1; /* +1 for the NUL terminator */
if (out == NULL || out_cap < need)
return -1;
if (EVP_EncodeBlock(out, in, (int)n) < 0)
return -1;
return 0;
}
注意这个 API 迫使你做的事:你得在调用方重新实现库内部的大小公式,而且必须一直写对。真正的漏洞就是这份契约本身,溢出只是契约终于崩掉的地方。
误区 1:“解码器才是攻击面,编码器无聊得很”
安全审查文化有很强的偏见:解析危险,序列化只是记账。解码器要处理恶意字节,所以会被模糊测试、审计,还会被改写成内存安全的语言。编码器只产生输出,而输出看起来很安全。这个观点在一个很具体、可重复的方面是错的:编码器的 bug 恰恰藏在输出大小的计算里,而这段数学是调用双方都信任的。
这种模式一再出现。PR 讨论里就提到,CVE-2026-121481 和更早的 CVE-2021-23840 很像,后者是 OpenSSL 中 EVP update 函数的一个溢出,在超大输入下长度计算溢出。base64 本身也有前科:当 OpenJDK 的 Base64 解码器把 65 字节变成远程代码执行时,我们也写过一个“平平无奇”的编解码器是如何变成 RCE 原语的。解码器因为接受了错误输入而出 CVE,编码器因为算错了合法输入而出 CVE。它们本质相同:对攻击者可影响的长度做算术运算。
结论:不成立。如果你的威胁模型只盯着解析器,那就是守住了正门,却把后门敞开着。
误区 2:“CVSS 9.8 就意味着今晚必须全员待命”
这里我要替怀疑派说几句。一个需要 1.6 GB 输入才能触发的编码器,拿 9.8 分并不等于 Heartbleed。TLS 握手里根本没有对大块数据做 base64 编码的地方,证书在 TLS 中以 DER 格式传输,而不是 PEM。要让它真的伤到你,不可信数据必须以超过 1.6 GB 的规模抵达 EVP_EncodeBlock()(或 OpenSSL HTTP 客户端里的内部调用方,比如 base64encode())。带 16 位长度前缀的协议字段永远到不了这个量级。
但说它“只是理论”也低估了它。报告者演示了一条真实的命令行路径:把一个超大的 -proxy_pass 值传给 openssl s_client,为了绕过 shell 的参数长度限制,改经由环境变量传入。某些配置下(比如 GOST 引擎默认就接受超长密码),它会欣然把这个值做 base64 编码,用于代理的 CONNECT 请求。这不是实验室里的小把戏,而是一个标准工具用标准环境变量完成标准的代理认证。
我的观点是:把 CVSS 当作函数本身的度量,把你的调用图当作你暴露面的度量。在安排紧急修补窗口之前,先在代码库和依赖里 grep 一下到底是谁在编码什么、输入最大能有多大。然后无论如何都要打补丁,只是要按合理的顺序来。结论:半对。分数是真实的,但恐慌应该和可达性成正比,而可达性只有你自己的代码能回答。
误区 3:“修复很简单,返回个错误码就行了”
这是整个故事里我最喜欢的部分,因为溢出本身反而是简单的那部分。难的是决定 EVP_EncodeBlock() 遇到问题时该怎么办,而维护者们根本谈不拢。
最初的补丁对无效输入返回 -1,这和 wolfSSL 的兼容层以及 EVP_DecodeBlock() 现有的失败路径保持一致。反对意见立刻就来了。有维护者担心第三方调用方会把返回值强转成 size_t 而不做检查,这样 -1 就会变成 SIZE_MAX,这种情况可以说比它要防止的溢出还糟。那改成返回 0 呢?可是 0 本身就是合法的成功值:编码零字节就返回零。正如一位维护者所说,他之前就因为把成功场景当成错误抛出而吃过亏。另一位建议用 OPENSSL_assert(),在违反契约时直接崩溃并把前置条件写进文档。对此一位资深维护者直截了当地回复:库里的 assert 就是“等着发生的拒绝服务”。
每个选项都不好,而且各自坏在不同的地方:-1 会破坏无符号强转,0 和成功撞车,assert 则把逻辑错误变成了攻击者可触发的崩溃。这就是 API 的错误语义从来没有被设计、只是被继承下来的结果。这正是规范与实现之间的鸿沟最纯粹的样子:文档写的是“返回编码的字节数”,却没人写过编码不可能进行时会发生什么。
讨论串里还有两个细节值得注意。第一,有审阅者发现,最初的补丁无条件拒绝 f == NULL,但用 NULL 输入指针和 dlen == 0 编码空缓冲区一直都是可以用的,而且真实应用确实在依赖它。连看起来“显然正确”的校验都打破了一个合法的边界情况。第二,另一位审阅者 grep 了不检查返回值的调用点,发现它们就在 OpenSSL 内部:PEM_SignFinal() 和 NETSCAPE_SPKI_b64_encode()。如果一个函数刚刚变得可能失败,而它的调用方是在它永不失败的年代写的,那么仅仅改函数是没用的。结论:彻底不成立。错误语义本身就是 API 设计的一部分,事后补救是手术,不是打补丁。

误区 4:“没人会把 1 GB 数据喂给 base64 编码器”
这种直觉认为 base64 只用来处理小东西:证书、密钥、短令牌。大多数情况下确实如此。但现代系统里悄悄出现了大量会被频繁编码的巨大数据块:认证证明文档、SAML 响应、容器镜像清单、代理凭据,还有某个中间设备决定重新编码的 webhook 载荷。这个 CVE 的复现方式一点也不奇特:就是一个密码,通过环境变量传入,走的是为 HTTP 代理编码凭据的代码路径。这条流水线从设计之初就没考虑过 1.6 GB 的上限,因为没人把这个上限写在任何地方。
还有一个架构上的习惯让情况更糟:一次性编码 API 会鼓励人们先把整个载荷读进内存,再进行转换。OpenSSL 其实有流式替代方案,比如 EVP_EncodeInit()、EVP_EncodeUpdate()、EVP_EncodeFinal(),它们分块处理数据,绕开了“预先计算总输出大小”这个问题。流式处理要多付出一个上下文对象和一个循环的代价,但它换来的是:不再有任何一个长度既受攻击者影响,又被无条件信任。结论:不成立。输入会一直增长直到碰到某个上限,而如果这个上限是有符号整数溢出,那么上限迟早会找上你。
误区 5:“我们的模糊测试本可以发现这个问题”
它发现不了,这点值得搞清楚为什么。像 libFuzzer 这样的覆盖率引导模糊测试器,默认的最大输入长度是以千字节计的,开箱即用就是 4096 字节。一个需要 16 亿字节输入才能触发的 bug,不只是不太可能被发现,它完全在搜索空间之外。你可以对 EVP_EncodeBlock() 模糊测试一百年,也碰不到这个溢出,因为有意思的行为只存在于一个模糊测试器永远不会抵达的规模上。
解决办法不是把模糊测试的输入做大,没人愿意每次迭代都分配 1.6 GB。正确的做法是把算术部分和编码部分分开测试:把大小计算提取出来,用普通单元测试对它的边界进行猛烈轰击:
#include <assert.h>
#include <limits.h>
/* Mirrors the upstream guard, computed in a wide type. */
static int encoded_len_fits_int(long long dlen)
{
return dlen >= 0 && dlen <= ((long long)INT_MAX / 4) * 3;
}
int main(void)
{
long long limit = ((long long)INT_MAX / 4) * 3; /* 1,610,612,733 */
assert(encoded_len_fits_int(0));
assert(encoded_len_fits_int(limit));
assert(!encoded_len_fits_int(limit + 1));
assert(!encoded_len_fits_int(-1));
/* The encoded size at the limit must itself fit in an int. */
assert(4 * ((limit + 2) / 3) <= INT_MAX);
return 0;
}
然后在中等规模上加一项差分检查:用调用方的公式算出期望的输出长度,执行编码,断言函数写入的字节数恰好是这个长度,不多不少。所有测试都在 AddressSanitizer 下运行,在 CI 里用几百 MB 的输入跑一跑,规模大到足以覆盖宽循环,又小到午饭前能跑完。模糊测试对于编解码器的字节级逻辑仍然是正确的工具,它只是从来都不是处理“大规模整数溢出”的正确工具,而把这两类工作混为一谈,正是这类 bug 能在十年持续模糊测试下幸存的原因。结论:不成立。
在编码器 API 审计你之前,先去审计它
无论你是在审查自己代码里的 OpenSSL 用法,还是在评估任何库的编码路径,下面这几个问题基本能覆盖整类漏洞:
- 谁来计算输出大小?如果由调用方用一个不简单的公式来算,双方就可能产生偏差。优先选择那种把输出容量作为参数传入、并在容量不足时干净利落地失败的 API。
- 长度用什么整数类型承载?
int类型的长度参数就是一个带符号位的 2 GB 上限。size_t并不能让溢出变得不可能,但它能把上限推到 64 位机器上任何你实际能分配的缓冲区之外。 - 零长度、边界处、以及边界再加一,会发生什么?空输入、恰好为
(INT_MAX/4)*3、以及这个值再加一,这三个测试用例最关键。 - 函数最近是否变得可能失败了?如果某个补丁给原本不会失败的东西加上了错误返回,就要 grep 每一个调用点。没有检查的返回值会把一个已修复的 bug 变成一个悄无声息的 bug。
- 有没有流式变体?分块的 encode/update/final API 可以免去对任何单个可信总长度的依赖。
第一点我还想再展开说:任何让调用方复制库内部大小公式的 API,都是在制造 bug 工厂,行业应该停止这样设计。被调用方才知道膨胀系数、填充规则和终止符约定。强迫每个调用方重新推导 4 * ((n + 2) / 3) + 1,就等于保证总有人在某处算错,或者算对了却用了一个太小的类型。

关于 Base64 及其他编码的总结
CVE-2026-121481 很快就会从资讯流里消失,但这类 bug 不会消失。编码函数处于安全审查的盲区:被信任去处理长度,不用在大规模下做模糊测试,又被包在错误行为从未被规定的 API 里。OpenSSL 维护者们为“返回 -1、返回 0,还是直接崩溃”争论的文字,比溢出本身还多,而他们这么做是对的,因为这才是每个下游调用方要用好几年去面对的部分。
所以:要打补丁,但也要 grep。找到你的编码调用点,检查是谁在计算缓冲区大小,确认返回值确实被检查了,并把所有处理不可信大块数据的东西迁移到流式 API。下一个 9.8 分的编码器漏洞,很可能已经藏在某个人的大小公式里,只等一个足够大的输入把它找出来。


