Очень похоже на брак либо кабеля, либо монитора. Судя по симптомам - скорее второе, нежели первое.
А вообще странно - что в аналоговом режиме (с дополнительным преобразованием) все работает, а в цифровом - нет.
Косяк похоже в системе масштабирования. Может конечно это видяха с DVI криво работает - но это можно определить только подключив к ней другой LCD (или как вариант к этому монитору другую видяху).
Кстати - будь у тебя GeForce серии 6xxx или новее - то можно было бы эту бяку обойти (по крайней мере в Windows точно) - эти видяхи умеют масштабировать картинку сами до разрешения монитора и выдавать сигнал в родном разрешении монитора.
Что-то мне упорно подсказывает, что если бы ты не стал так страшно экономить а купил бы NEC 1970NX (кстати 11 тыр всего - на Савеле видел) или хотя бы какой-нибудь из Samsung'ов - то таких проблем не было бы.
Потому как Benq - это фирма, которая экономит на всем. И на контроле качества в том числе.