Для VirtualDub есть дополнительные плагины (фильтры), так что можно прямо в нем, в процессе конвертирования.
Ресурсы разработчиков плагинов:
http://www.pctuner.ru/page-id-138.html
http://virtualdub.kulichki.com/filters.html
http://www.compression.ru/video/index_ru.htm
Только учтите, что любой фильтр шумоподавления работает на принципе сглаживания, так что потеря резкости неизбежна.