Уточните, пожалуйста. Если у вас в конце всех преобразований после команды ФАЙЛ => Сохранить как AVI, появляется надпись "Неизвестный алгоритм кодирования", то тут уже ничего не поделаешь, а если программа сохраняет файл в неизменном виде, то, вероятно, вы что-то не так сделали. Еще раз скажу, что с двух сторон выделяемого фрагмента должны быть I-кадры.