Habe ebenfalls lange "rumgedoktort" ....
Folgendes hat zum Erfolg geführt:
In den Qnap "Bonjour" Einstellungen ist AFP aktiviert
Im Finder unter "Freigaben" den NASBF14A4(AFP) mit "Verbinden als" den User TimeMachine und dem in den Qnap Einstellungen vergebenen Passwort verbinden.
Anschließen Time Machine Einstellungen öffnen und wie im Handbuch beschrieben verbinden.
Wichtig war (bei mir jedenfalls) zuerst den AFP Server zu verbinden und anschließen TimeMachine User und passwort natürlich gleich.
Vielleicht klappts ja so auch bei dem einen oder anderen