У тебя в риве сглаживание 8 стоит? Вообще новое сглаживание 8, как я понял, работает только из установок игры и то как то по своемуПеребить это сглаживание через настройки в дровах или через риву похоже не получится.
Попробуй поставить в риве сглаживание 4хS и в настройках игры сглаживание 4 с отключенными пост эффектами в конфиге.