Диоды слабые, угол излучения маленький. ИК фильтр из камеры надо извлечь, должно быть лучше.
Здоровые точки - скорее всего плохой фокус. Далеко от камеры диоды? Да сами диоды здоровые 5мм.
Красные точки получаются с цветовым сжатием RGB.
http://www.akbis.narod.ru/FT22/freetrack.htm тут хорший мануал.
Точки диодов во фритреке отмечены крестиками? Конфигурация рамки выбрана правильно?