Начни с малого - поставь на старый комп, для определённой цели - мультимедиа проигрыватель, NAS, интернет вьювер (вирусов на линуксе на пару порядков меньше) или как у меня видеомониторинг, опыт приобретёшь, попутно увидишь места применения - а там уж видно будет.
А со спецсофтом по-сложнее будет - но тут спецы есть по лучше меня - им и слово