С этой проблемой (ServerFailAuthentication) сталкивался Синдикат. Лечат рестартом сервера.

Что сделал сам:
1 Убрал в ярлыке запуска стима на сервере ключ (-tcp)
2 Отключил антиспуфинг на сервере (временно, 99 процентов что не поможет)
3 Увеличил кол-во возможных полу-открытых соединений по UDP (не путать с TCP, это другая история), коих Боб порождает целую тучу, любой торрент-клиент позавидует.

Но, скорее всего, это все "гомеопатия". Думаю, что грабли где то в связке стим-боб.