Nachdem ich einige Zeit herum probiert habe, hat sich bei mir folgende Lösung als gut erwiesen, damit Videos vom Netzwerkspeicher glatt abgespielt werden können:
1. Im QNAP-NAS außer dem smb-Protokoll für Windows auch „AppleTalk“ aktivieren und den Mac dann nicht über smb, sondern über afp://qnap-nas verbinden. Damit ruckelt es schon mal deutlich weniger.
2, Dieser Tipp aus Chip lässt die letzten kleinen Ruckler auch noch verschwinden:
Den Loop-Filter im VLC-Player einstellen, um Ruckler zu verhindern
Einstellungen für den VLC-Player
Sie können im VLC den Loop-Filter einstellen und so in manchen Fällen das Ruckeln beseitigen:
Starten Sie den VLC Player und klicken Sie auf "VLC" -> "Einstellungen".
Wählen Sie in der unteren linken Ecke "Alle Einblenden".
Wählen Sie "Input/Codecs" -> "Videocodecs" -> "FFmpeg". - Mac: Eingang/Codecs - Video Codecs - Ffmpeg.
Klicken Sie bei "Loop-Filter für H.264-Dekodierung auslassen" den Punkt "Alle" an.
Klicken Sie anschließend auf "Speichern" und starten Sie den VLC Media Player neu. Das Problem könnte damit schon behoben sein.
Das hat bei mir funktioniert.
Vielleicht hilft es dem einen oder anderen hier auch weiter.