многие ребра отбрасывает, но непонятно, почему не все, которые надо, "не до конца". Какой-то он недоделанный.
Все там понятно. Backface Cull отрезает только полигоны, чьи нормали лежат в противоположных от камеры квадрантах. Но он не обрезает и не обязан обрезать части объектов, "заслоненные" другими объектами.
И режима такого в максе нет. Т.е. это работает только для закрашенных объектов, для "проволочных" это работать не будет, в превью, по крайней мере.