BフレームにRDO(Rate Distortion Optimisation、レート歪最適化)を使う。XviDにおけるVHQ B-frameに相当。要--subme 6以上。
http://aflux.deltaanime.net/Zero1/MP4/x264.html#analysis
--b-rdo--b-rdo is Rate Distortion Optimisation for B-frames. The equivalent to this would be VHQ B-frames in XviD. Requires --subme 6 or higher.
基本的に RDO は多少画質劣化が増えても発生符号量が少ないものを選ぶ処理。
画質よりも発生符号量を重視したい B スライスでこそ価値のある処理かもしれない。
一方、 RDO 無効時より精度の高い distortion 評価ができるようになって画質が上がるという側面もある。
--subme 6/7 で I/P スライスでは RDO が有効になるものの、B スライスでは RDOは無効にされた(--subme 5と同じ処理が実行される) ままとなる。RDO を B スライスで有効にするオプションが --b-rdoになる。
*動きの多寡で効果が違うようだ。また適応的B挿入の可否でも変わって来ると思う。なお手許ではRDOと書いてあったら無条件に使います。XviDのVHQによる刷り込み。