Я конвертировал свои модели в Editable Mesh, выделял все ребра, затем нажимал visible, а потом уже делал развертку, т.к. развертке должны быть только треугольники, иначе S3D ее не примет. Также перед экспортом из Макса имеет смысл сделать resetXform (поможет избежать проблем с наложением uv2, 3 и последующих), особенно если есть "отзеркаленные" объекты. При этом ничего нигде не мнет, корежит и т.п. Ну и чтобы работало сглаживание, как описал Анварт, галочку с оптимизации вершин при экспорте надо снимать.