Вообщем добрались руки потестировать немного. Скачал ещё один ролик: формат TS, 1920 на 1080, битрейт 19 мбит/с, звук чего-то там 5.1. Вот он на удивление пошёл нормально. За исключением лёгких подтормаживаний.
Вычитал тут про CoreAVC. Поставил. Тот проблемный файл (1440x1080) стал проигрываться, а не виснуть. Но жуткие лаги остались.