По-моему Вы делаете лишние телодвижения.
вот это не совсем понятно
Что и где Вы заменяете? Пересобрать блю-рей с полноценным меню в тсмуксере не получится, если конечно это хотите сделать. В данной программе можно сделать только бдремукс, или вытащить видео/аудио поток.
Чтобы сделать ремукс (убрать все ненужное) нужно загрузить в программу самый тяжелый файл, снять галочки с тех потоков, которые не нужны, поставить точку на .ts / .m2ts / AVCHD / Create Blu-ray Disk, указать путь для сохранения и смуксить.