А не связано ли это с ёмкостью кабеля. Ведь три сигнальных хвоста (RGB) в VGA-шном кабеле - это, фактически, тонкий коаксиальный кабель, и он может иметь солидную ёмкость. IMHO стоит проверить с каким-нибудь обычным кабелем - ленточным или просто жгут проводов такой же длины.