Единственное что могу ещё предложить, это попробовать конвертировать в однопоточном режиме. Будет чуть меньше скорость. Надо в скрипте перед двумя строками поставить #, это отключит из скрипта данную строку.
Import("C:Program FilesXviD4PSP 5dllsAviSynthfunctionsAudioFunctions.avs")
Import("C:Program FilesXviD4PSP 5dllsAviSynthfunctionsVideoFunctions.avs")
LoadPlugin("C:Program FilesXviD4PSP 5dllsAviSynthpluginsLSMASHSource.dll")
LoadPlugin("C:Program FilesXviD4PSP 5dllsAviSynthpluginsNicAudio.dll")
SetMemoryMax(640)
#SetMTMode(3, 2)
video = LWLibavVideoSource("G:Clown.mkv", stream_index=-1, cache=true, dr=false).AssumeFPS(25.000)
audio = NicAC3Source("G:Temp