Потому что в один проход кодируется несколько иначе.
Те настройки, что я давал - для двухпроходного кодирования.
https://cloud.mail.ru/public/97fd61081a05/Sample.avi - этот семпл не пробовали на бытовом плеере запустить?
И 704x392 - это не mod16
Некоторые плееры чувствительны к этому.