x264が標準でAQをサポート
すっかりご無沙汰しているうちに、標準のx264にもAQのサポートが組み込まれたようです。
うまく調整することで、暗い部分の破綻を少なくできるはずです。
以下、x264のChangelogから抜粋
commit dc4f40ce74c996a1e15021b82ab71ebcb8652d0b Author: Jason Garrett-GlaserDate: Sun Mar 30 17:58:41 2008 -0600 variance-based psy adaptive quantization new options: --aq-mode --aq-strength AQ is enabled by default
ただ、今回サポートされたのはVAQ 1.0で、いまホットなのはVAQ 2.0のようです。