Ich verfolge lediglich den Thread im englischen Qnap-Forum zu diesem Problem und ziehe meine Schlüsse daraus (bin selber SW-Entwickler auf Linux):
http://forum.qnap.com/viewtopic.php?f=295&t=116579&start=135
Beispiele:
Der Grafiktreiber wurde offenbar zusammen mit HD-Station 3.1.0 aktualisiert (bin nicht sicher, ob es im verlinkten Thread stand oder in einem anderen). Wenn ich mich recht erinnere kam diese Info dort von father_mande, der einen parallelen Kodi-Port betreut, und damit scheint das Problem ebenfalls zu bestehen. Der dritte Hint ist die Abhängigkeit bestimmter Einstellungen in Kodi auf das Verhalten vom X-Server (Speicherverbrauch). Die meisten davon beziehen sich auf dynamische HW-Anpassungen des Video-Ausgabeformats, was wiederum eine direkte Beziehung zum Treiber vermuten lässt...
Apropos, ich habe erst gestern auf 4.2.0 aktualisiert (vorher 4.1.4). Ich habe natürlich gleich die bekannten Probleme versucht nachzuvollziehen, was mir beim RAM-Verbrauch leider gelungen ist, wogegen ich aber den oben beschriebenen Workaround gefunden habe (bzw. aus dem englischen Forum übernommen). Ein Ruckeln konnte ich bisher nicht feststellen (wie bzw. wo wird das sichtbar?). Evtl. hängt es mit dem angeschlossenen TV zusammen, schaut einfach mal die letzten Diskussionen im verlinkten Thread hinsichtlich Einfluss von V-Sync an. Evtl. hilft bei euch ja auch, diesen einfach zu deaktivieren. Bei meinem Sony-TV konnte ich keinen Unterschied feststellen, das scheint aber nicht überall so zu sein. Das alles lässt wieder auf eine Beziehung zum Treiber schliessen, denn normalerweise sollte so eine manuelle Anpassung nicht notwendig sein, wenn der Treiber die angeschlossene HW richtig erkennen und handhaben würde.
Schlussendlich könnte es sich natürlich auch um einen Fehler in der Anbindung von Kodi an den Treiber handeln (Portierfehler?), allerdings ist das unwahrscheinlich, da dasselbe Kodi ja mit der HD-Station 3.0.8 ja wohl problemlos funktioniert.