Adm, какой хоть mpeg - I или II?
VirtualDub напрямую втрорй не жрёт.
DivX у тебя какой версии (5.0.5 последний) free или pro?
Разрешение какое желаешь?

если 512х384 fullcreen ставь битрейт - 940
если 640х480 fullcreen ставь битрейт - 1450
выглядит вполне прилично

А вообще-то на том же doom9.org есть пакет Gordian Knot. Он позволяет запаковать мпег с максимальным качеством и желаемым размером.
(вписаться на болванку)