未来を形作るテクノロジーの深掘り記事。

OpenSSL EVP_EncodeBlockの脆弱性:5つの誤解を検証

OpenSSLのEVP_EncodeBlockバッファオーバーフロー(CVSS 9.8)から、Base64エンコーダAPIの盲点を探る。よくある5つの誤解を検証。

巨大な漏斗から光るキューブが、小さなグラスからあふれるほど注がれている。
EVP_EncodeBlockは、呼び出し側がバッファのサイズを正しく用意したと信じており、検証は一切しません。

base64にバイト列を変換するだけの関数が、CVSS 9.8を獲得しました。OpenSSLのEVP_EncodeBlockにおけるバッファオーバーフロー(CVE-2026-121481として追跡)は、一見地味なバグに聞こえます。しかしbase64は証明書処理、HTTPクライアント、プロキシ認証、そしてインフラ内の接着コードの多くの下で動いていることを考えると、話は別です。修正自体は4つのコミットで済みましたが、エラー戻り値が本来どうあるべきかについて、メンテナ間で激しい議論がありました。

このCVEをめぐる議論は、API設計に関心のある人にとっての宝の山です。エンコード関数についてエンジニアが抱きがちな前提が多数表面化しており、それらの前提が何十年も、さまざまなライブラリで同じ種類のバグを生み続けています。よくある5つの思い込みを取り上げ、実際に起きたことと照らし合わせてみましょう。

EVP_EncodeBlockのバッファオーバーフローの仕組み

base64エンコードはデータを膨らませます。3バイトの入力が4文字の出力になるのです。したがって出力サイズは4 * ((n + 2) / 3)で、Cの文字列として使うならNUL終端のために+1が必要です。OpenSSLのEVP_EncodeBlock()では、このサイズ計算と出力バッファの確保は呼び出し側の責任です。関数自体が受け取るのは入力ポインタ、出力ポインタ、そしてint型の入力長だけです。出力バッファの大きさは分からないため、何も検証できません。ただ書き込むだけです。

では計算してみましょう。intの最大値は2,147,483,647です。入力長が(INT_MAX / 4) * 3、つまり1,610,612,733バイト(約1.6GB)を超えると、内部のサイズ計算が符号付き32ビット整数でオーバーフローします。長さの計算がラップアラウンドし、関数が考える出力の終端と実際の状況が一致しなくなり、呼び出し側が確保したバッファの末尾を超えて書き込みが起きます。呼び出し側もドキュメントの計算式に従って同じオーバーフローする演算を行っているため、両者はどれだけ領域があるかについて致命的に食い違ってしまうのです。

上流の修正では、ガードを追加しました。dlen > (INT_MAX / 4) * 3の入力を拒否し、NULLバッファや負の長さも拒否します。このAPIをラップするなら(そしてラップすべきですが)、チェックは境界部分にも入れるべきです。

#include <limits.h>
#include <stddef.h>
#include <openssl/evp.h>
/*
* Mirrors the upstream guard: refuse inputs whose encoded size
* cannot be represented in an int, and verify the destination
* capacity ourselves since the API never sees it.
*/
int b64_encode_checked(const unsigned char *in, size_t n,
unsigned char *out, size_t out_cap)
{
size_t need;
if (in == NULL || n > ((size_t)INT_MAX / 4) * 3)
return -1;
need = ((n + 2) / 3) * 4 + 1;   /* +1 for the NUL terminator */
if (out == NULL || out_cap < need)
return -1;
if (EVP_EncodeBlock(out, in, (int)n) < 0)
return -1;
return 0;
}

このAPIが強いることに注目してください。呼び出し側でライブラリ内部のサイズ計算式を、正しく、そして永久に再実装しなければなりません。本当の脆弱性はその契約そのものです。オーバーフローは、その契約がついに破綻した場所にすぎません。

誤解1:「攻撃対象はデコーダであり、エンコーダは退屈」

セキュリティレビューの文化には強い偏りがあります。パースは危険で、シリアライズは帳簿付けのようなものだと見なされがちです。デコーダは敵対的なバイト列を受け取るため、ファジングされ、監査され、メモリ安全な言語で書き直されます。一方エンコーダは出力を生成するだけなので、出力は安全に感じられます。この思い込みは、特定の繰り返し起きるパターンにおいて誤りです。エンコーダのバグは出力サイズの計算に潜んでおり、その計算は呼び出しの両側から信頼されてしまっているのです。

このパターンは繰り返し現れます。PRのスレッド自体が、CVE-2026-121481は以前のOpenSSLのオーバーフローであるCVE-2021-23840に似ていると指摘しています。そちらは巨大な入力に対して長さ計算がオーバーフローしたEVP updateの関数に関するものでした。base64に限っても、この種の話はあります。OpenJDKのBase64デコーダが65バイトでリモートコード実行につながったとき、「自明」なコーデックがRCEのプリミティブになった経緯を取り上げました。デコーダは不正な入力を受け入れてCVEを得て、エンコーダは正しい入力の計算を誤ってCVEを得ます。どちらも同じ種類のもの、つまり攻撃者が影響を与えられる長さに対する演算なのです。

判定:誤り。脅威モデルがパーサで止まっているなら、正面は守っていても裏口を開けたままにしていることになります。

誤解2:「CVSS 9.8なら今夜すぐ対応」

ここでは懐疑派を少し擁護しましょう。1.6GBの入力を必要とするエンコーダで9.8というのは、Heartbleedではありません。TLSハンドシェイクのどこにも、大量データのbase64エンコードは存在しません。証明書はPEMではなくTLS内ではDERで送られます。これが実際に影響するためには、信頼できないデータが1.6GBを超える規模でEVP_EncodeBlock()(あるいはOpenSSLのHTTPクライアント内のbase64encode()のような内部呼び出し元)に到達する必要があります。16ビットの長さプレフィックスを持つプロトコルフィールドでは、そこまで到達することは決してありません。

しかし「机上の空論」という表現は過小評価でもあります。報告者は実際のコマンドラインの経路を示しました。openssl s_clientに巨大な-proxy_passの値を渡し、シェルの引数長制限を回避するために環境変数経由で与えます。すると一部の構成(GOSTエンジンは初期状態でも過大なパスワードを受け入れます)では、プロキシのCONNECTリクエストのために喜んでそれをbase64エンコードしてしまいます。これは研究室の珍しい話ではありません。標準的なツールが、標準的な環境変数を使って標準的なプロキシ認証を行っているだけなのです。

私の立場はこうです。CVSSは関数の深刻度を測るものであり、露出度を測るのはあなたのコールグラフです。緊急パッチの作業時間を決める前に、コードベースと依存関係を検索して、誰が実際に何をエンコードしているのか、入力がどこまで大きくなりうるのかを確認してください。そのうえで、適切な順番でパッチは当ててください。判定:半分正しい。スコアは本物ですが、慌てる度合いは到達可能性に比例させるべきで、到達可能性を答えられるのは自分のコードだけです。

誤解3:「修正は簡単、エラーコードを返すだけ」

ここはこの話の中で一番好きな部分です。オーバーフロー自体は単純な問題でした。難しいのは、EVP_EncodeBlock()がそれに対してどう振る舞うべきかを決めることで、メンテナたちは合意できませんでした。

最初のパッチは、不正な入力に対して-1を返すものでした。wolfSSLの互換レイヤーや、EVP_DecodeBlock()の既存の失敗パスに合わせた形です。すぐに反対意見が出ました。あるメンテナは、サードパーティの呼び出し側が戻り値を確認せずにsize_tへキャストするのではないかと懸念しました。そのキャストの下では-1はSIZE_MAXになり、防ごうとしたオーバーフローより、むしろ悪い結果になりかねません。では0を返すか? しかし0は既に正常な成功値です。0バイトのエンコードは0を返します。あるメンテナが言ったように、成功のケースでエラーを上げて痛い目を見た経験があるのです。ではOPENSSL_assert()を使えばどうか、と別のメンテナ。契約違反でクラッシュさせ、前提条件を文書化すればよい、と。それに対してシニアメンテナは率直に答えました。ライブラリ内のassertは「いずれ起こるDoS」だ、と。

どの選択肢も悪く、それぞれ悪い理由が違います。-1は符号なしキャストを壊し、0は成功と衝突し、assertは論理エラーを攻撃者が制御できるクラッシュに変えてしまいます。これは、APIのエラーの意味論が設計されず、ただ受け継がれてきたときに起きることです。文書には「エンコードしたバイト数を返す」とだけ書かれ、エンコードが不可能なときにどうなるかは誰も書き留めていませんでした。典型的な仕様と実装のギャップです。

スレッドからさらに2点、注目すべき詳細があります。第一に、レビュアーが、最初のパッチはf == NULLを無条件に拒否していたと指摘しました。しかし、NULLの入力ポインタとdlen == 0で空のバッファをエンコードすることは常に動作しており、実際のアプリケーションもそれに依存していました。「明らかに正しい」検証ですら、正当なエッジケースを壊したのです。第二に、別のレビュアーが戻り値を確認していない呼び出し箇所をgrepで探し、OpenSSL内部のPEM_SignFinal()とNETSCAPE_SPKI_b64_encode()に見つけました。関数を新たに失敗しうるものにしても、呼び出し側が失敗しないことを前提に書かれていれば意味がありません。判定:完全に誤り。エラーの意味論はAPI設計そのものであり、後付けで直すのはパッチではなく手術です。

霧の夕暮れに、線路が三方向へ分かれている。
-1を返すか、0を返すか、assertするか。修正の議論のどの分岐にも、それぞれ固有の危険がありました。

誤解4:「base64エンコーダに1GBを流し込む人はいない」

この直感は、base64は証明書、鍵、短いトークンのような小さなものに使うものだ、というものです。確かにほとんどの場合はそうです。しかし現代のシステムでは、アテステーション文書、SAMLレスポンス、コンテナイメージのマニフェスト、プロキシの認証情報、そして中間機器が再エンコードするWebhookのペイロードなど、巨大なブロブが常にエンコードされるようになってきています。このCVEの再現手順も特殊なものではありませんでした。環境変数で渡されたパスワードが、HTTPプロキシのために認証情報をエンコードするコードパスを通っただけです。そのパイプラインは1.6GBの上限を想定して設計されてはいませんでした。上限はどこにも書かれていなかったからです。

さらに、事態を悪化させるアーキテクチャ上の習慣があります。一括エンコードのAPIは、変換の前にペイロード全体をメモリに読み込むことを促します。OpenSSLには、データをチャンク単位で処理し、「事前に出力の総サイズを計算する」問題を回避するストリーミング版があります。EVP_EncodeInit()、EVP_EncodeUpdate()、EVP_EncodeFinal()です。ストリーミングにはコンテキストオブジェクトとループが必要になります。その代わりに得られるのは、攻撃者の影響を受ける長さと信頼された長さが同じ単一の値になることがなくなる、という点です。判定:誤り。入力は上限に届くまで大きくなり続けます。上限が符号付き整数のオーバーフローである場合、その上限があなたを見つけ出すのです。

誤解5:「ファザーが見つけてくれたはず」

見つけられなかったでしょう。その理由を理解しておく価値があります。libFuzzerのようなカバレッジ誘導型ファザーは、最大入力長をキロバイト単位、標準では4096バイトに設定しています。16億バイトの入力を必要とするバグは、見つかりにくいどころか、探索空間の完全な外側にあります。EVP_EncodeBlock()を100年ファジングしても、オーバーフローに触れることはないでしょう。興味深い振る舞いが存在するのは、ファザーが決して訪れない規模だけだからです。

必要なのは、ファジングの入力を大きくすることではありません。ファジングの反復ごとに1.6GBを確保したい人はいないからです。必要なのは、算術をエンコード処理から切り離してテストすることです。サイズ計算を取り出し、その境界を通常のユニットテストで叩きましょう。

#include <assert.h>
#include <limits.h>
/* Mirrors the upstream guard, computed in a wide type. */
static int encoded_len_fits_int(long long dlen)
{
return dlen >= 0 && dlen <= ((long long)INT_MAX / 4) * 3;
}
int main(void)
{
long long limit = ((long long)INT_MAX / 4) * 3; /* 1,610,612,733 */
assert(encoded_len_fits_int(0));
assert(encoded_len_fits_int(limit));
assert(!encoded_len_fits_int(limit + 1));
assert(!encoded_len_fits_int(-1));
/* The encoded size at the limit must itself fit in an int. */
assert(4 * ((limit + 2) / 3) <= INT_MAX);
return 0;
}

さらに、中程度のサイズで差分チェックを追加してください。呼び出し側の計算式で期待される出力長を計算し、エンコードし、関数がちょうどその長さだけを書き込み、それ以上は書いていないことをassertします。すべてをAddressSanitizerのもとで実行し、CIでは数百MBの入力を使いましょう。広いループを通るのに十分な大きさで、昼食前に終わる程度の小ささです。ファジングはコーデックのバイト単位のロジックには今でも正しい道具です。ただし、大規模な整数オーバーフローに対しては一度も正しい道具ではありませんでした。この2つの仕事を混同することが、こうしたバグが何十年もの継続的ファジングを生き延びる理由なのです。判定:誤り。

エンコーダAPIを、あなたを監査する前に監査する方法

自分のコードでOpenSSLの使い方をレビューする場合でも、他のライブラリのエンコード経路を評価する場合でも、次の数個の問いでこのバグの種類はほぼ全て捕まえられます。

  • 出力サイズを計算しているのは誰か? 呼び出し側が複雑な計算式で行うなら、両側がずれる可能性があります。出力容量をパラメータとして受け取り、容量が足りないときにきれいに失敗するAPIを優先してください。
  • 長さを運ぶ整数型は何か? int型の長さパラメータは、符号ビット付きの2GBの上限です。size_tを使えばオーバーフローが不可能になるわけではありませんが、64ビットマシンで実際に確保できるどのバッファの端よりも上限を遠ざけます。
  • ゼロ、境界、そしてその1つ先では何が起きるか? 空の入力、ちょうど(INT_MAX/4)*3、そしてその値に1を足した値、この3つが重要なテストケースです。
  • 関数は最近、失敗しうるものになったか? 以前は失敗しなかったものにエラー戻り値を追加するパッチがあったなら、すべての呼び出し箇所をgrepしてください。戻り値の未チェックは、修正済みのバグを静かなバグに変えてしまいます。
  • ストリーミング版はあるか? チャンク単位のencode/update/finalのAPIなら、信頼できる総長を必要としなくなります。

最初の点について、さらに踏み込みます。呼び出し側にライブラリ内部のサイズ計算式を再現させるAPIは、バグを生み出す工場です。業界はそれを作るのをやめるべきです。展開係数、パディング規則、終端の慣習を知っているのは呼び出される側です。すべての呼び出し側に4 * ((n + 2) / 3) + 1を再導出させれば、どこかで誰かが間違えるのは確実です。あるいは、小さすぎる型で正しく計算してしまうでしょう。

拡大鏡が、コンベアベルト上の光るブロックを調べている。1つにはひびが入っている。
エンコーダの監査は、バイトの入れ替えだけでなく、サイズ計算に焦点を当てるべきです。

base64とその先に向けた教訓

CVE-2026-121481は1週間もすればフィードから消えるでしょう。しかしバグの種類は消えません。エンコード関数はセキュリティレビューの死角にあります。長さを信頼され、大規模なファジングからは免除され、エラーの振る舞いが一度も仕様化されていないAPIにラップされています。OpenSSLのメンテナは、オーバーフロー自体よりも、-1を返すか、0を返すか、クラッシュさせるかについて多くの言葉を費やしました。そしてそれは正しかったのです。なぜなら、それこそが今後何年も下流のすべての呼び出し側が背負うことになる部分だからです。

なので、パッチは当ててください。同時にgrepもしてください。エンコードの呼び出し箇所を見つけ、誰がバッファサイズを計算しているかを確認し、戻り値が本当にチェックされているかを検証してください。信頼できない大きなデータを扱うものはストリーミングAPIに移行してください。エンコーダにある次の9.8は、誰かのサイズ計算式の中にすでにあり、それを見つけるだけの大きさの入力を待っています。