Потеря четкости пожет происходить при масшабировании картинки в видеоредакторе. Допустим, исходный материал 1280х960, а на выходе из видеоредактора - 720х540. Тогда четкость будет зависеть от метода масшабирования, используемого видеоредактором. Есть методы помягче и почетче.
Следующий этап, где можно потерять четкость - сжатие картинки выбранным кодеком в итоговом файле. Если не уверен в настройках кодека, значит чтобы выяснить, на каком шаге она теряется, надо вывести видео из редактора без потери качества - в авишку без сжатия, либо в авишку с кодеком без потери качества типа lagaryth или huffyuv.

Если используются 2 редактора последовательно, значит качество нужно контролировать пошагово:
1. исходный файл;
2. после первого редактора;
3. после второго.

Проверять четкость можно покадрово, открывая исходную и обработанные авишки в нескольких окнах VirtualDub (для этого нужно запускать несколько копий этой программы).