В свое время тоже задавался этим вопросом (нужно было сотворить собственный блюр с хом видео), но понял, что геморроя не избежать, и решил сделать просто ремукс
вот что мне удалось найти
http://www.vima.ru/hd-video/bluray-autoring.html надеюсь поможет