Qtier oder SSD-Cache & SSD als JBOD oder RAIDx ?

  • Hallo zusammen,

    ich stehe vor einer ähnlichen Herausforderung und wollte eigentlich gerade QTIER auf folgendem System einrichten:
    TVS-673-8G
    2x 480GB Intel 540 m.2 SSDs
    2x 8TB WD Red HDDs

    späterer Ausbau mit weiteren WD Red und oder 2,5" SSDs angedacht

    Zugriff primär über USB 3.1 und alternativ über WLAN/Internet


    Leider konnte ich meine Fragen anhand vorhandener Beiträge oder Videos nicht lösen und bin auf diese Beiträge oben gestoßen.

    Kann mir bitte jemand eine Empfehlung geben, welche Konfiguration am schnellsten ist, wenn ich davon ausgehe, dass die "heißen" Daten regelmäßig (locker) auf die SSDs passen und die HDDs nur für seltener verwendete Daten genutzt werden? Es wäre trotzdem wünschenswert, wenn das System selbst entscheidet, welche Daten "hot" sind und wo diese abgespeichert werden und nicht ständig manuell durch den/die User entschieden werden müsste. QTIER hatte sich eigentlich super gelesen, aber soeben habe ich doch starke Zweifel bei meiner Konfiguration bekommen.

    Frage 1) QTIER oder SSD-Cache?
    Frage 2) SSDs als JBOD, RAID0 oder RAID1?

    Soweit ich es verstanden habe, müssten SSDs und HDDs bei QTIER jeweils mit RAID 1 eingerichtet werden, damit sämtliche Daten gespiegelt sind. Im SSD-Cache hingegen wären die Daten redundant und somit würde ich RAID0 für die beiden SSDs und RAID1 für die beiden HDDs bzw. später ggf. RAID5 o. ä. wählen. Richtig?

    Besten Dank schon mal im Voraus.

    Viele Grüße,


    Rico

  • Unter deiner Annahme, dass sich die "heißen" Daten in den SSDs befinden, ist der I/O Weg bei beiden Techniken an dieser konkreten Stelle gleich weit.

    Das konkrete Anwendungsprofil entscheidet über die tatsächliche Gesamt-Performance und welche Technik effizienter wäre.

    Beide Methoden entscheiden selbsttätig, welche Daten "heiß" sind. Tiering macht dies zeitgesteuert, Caching permanent gemäß gewähltem Algoritmus.


    Ein Schreib-cache ohne Redundanz bedeutet Datenverlust, wenn die SSD ausfällt, ohne dass der Client dies direkt mitbekommt. Deswegen ist dies in den meisten Storage-Systemen gar nicht möglich und von Qnap in den Best-Practices in der Form auch nicht erwähnt:

    https://www.qnap.com/en/how-to…performance-best-practice

  • Danke für die Hinweise. Ich hatte und habe die Seite nochmals gelesen, aber ich hatte verstanden, dass der SSD-Cache redundant zu den HDDs ist. Wenn also eine/zwei SSDs kaputt gehen sollten, dann wären die Daten doch noch auf den HDDs, mit Ausnahme jener Daten, die just in dem Moment neu geschrieben wurden. Ist dem nicht so?


    Vom Prinzip würde mir QTIER mehr zusagen, aber ich war durch die Kommentare/Link weiter oben verunsichert. Macht QTIER mit 2x m.2 SSDs und 2x HDDs Sinn?

    Anwendungsfall ist Zugriff mit 2-3 Notebooks direkt per USB 3.1 Kabel und alternativ über WLAN oder unterwegs über das Internet. Regelmäßig bearbeitet werden schätzungsweise rund 100GB. Ca. 2TB werden für Bilder und Videos gebraucht. Der Rest ist Reserve. Auf dem NAS läuft Windows Server 2016 Essential mit 2-3 Programmen, welche gemeinsam genutzt werden. Sonst nur Datensicherung und vielleicht Medienstreaming, je nachdem wie gut das funktionieren sollte. Falls Foto- und Videobearbeitung dazukommen, werden pro Session nochmals 100-200GB mehr Cache gebraucht und dann kämen auch noch weitere HDDs und ggf. 2,5" SSDs dazu. Eigentlich wollte ich ja ein Thunderbolt-3 NAS mit NVME SSDs dafür, aber die sind dann doch noch etwas zu teuer und von der Anzahl der Schächte auch zu groß.

  • Ja, der SSD Lese-Cache ist redundant. Der Schreibcache hat in erster Linie die Funktion, die Daten schneller entgegen zu nehmen, um sie dann geordnet auf die HDDs zu schreiben.

    Solange die Daten vom Schreibcache nicht auf die Festplatten geschreiben worden sind, sind sie auf den Festplatten auch nicht vorhanden. Da nicht notwendigerweise alle Daten sofort auf das Raid geschrieben werden, kann ein Single / Raid 0 SSD Ausfall auch zu Datenverlust führen, wenn gerade keine Daten mehr vom Client geschrieben werden bzw. sogar dann, wenn das NAS heruntergefahren wurde und z.B. die SSD entfernt wird, ohne sie vorher über QTS abgemeldet zu haben. Auf diesen Umstand weisen beim Einrichten auch einige Warnmeldungen hin.

    03_ssd_cache_Data_loss_Warn.png02_create_single_warn.png



    Zu deinem Anwendungsfall: Alles was Du über Internet und WLAN machst, ist aus Sicht des SSD-Cache nicht relevant. Das wird über die Festplatten genauso gut ohne den Cache bedient.


    Der Hauptvorteil am Tiering besteht darin, dass man die SSDs nicht dediziert für die Beschleunigung verschenkt werden, sondern deren Kapazität auch zum Speichern von Daten genutzt werden kann.

    Das ist vor allem in großen Installationen interessant. Wenn in beispielsweise ein ganzes Erweiterungsgehäuse mit 16 SSDs bestückt ist, kann die dort gebundene Speicherkapazität schon relevant sein.


    Der Vorteil am SSD Cache ist aus meiner Sicht, dass man damit ganz bewusst einzelne Volumes beschleunigen kann. So kann man beispielsweise für die heimische Mediensammlung die Beschleunigung abschalten, für das Arbeitsverzeichnis der Videobearbeitung einschalten.

    04_ssd_volcache.png


    Wenn man doch feststellt, dass ein dedizierter SSD-Verbund doch besser wäre als ein bloßer Cache, lässt sich der Cache wieder auflösen und die SSDs können entsprechend umgewidmet werden. Mit Tiering kriegst Du die SSDs nicht mehr rausgelöst, da sie fest im Storage-Pool hängen.

  • Macht QTIER mit 2x m.2 SSDs und 2x HDDs Sinn?

    NEIN ! Macht mit dieser Konfiguration keinen Sinn.


    Anwendungsfall ist Zugriff mit 2-3 Notebooks direkt per USB 3.1 Kabel ...

    Ähm, hab' ich was verpasst? USB-Host an USB-Host geht nicht wirklich.

    Jeweils das Notebook als auch das NAS erwarten am USB-Port einen Client (externe HDD) und keinen USB-Host.


    Ich kenne das nur vom Smartphone, bzw. Tablet, dass die sich am USB-Port als Datenträger anmelden, aber ein Notebook ???

  • OK, Asche auf mein Haupt, das kann meine TVS-882 nicht.

    Aber ich nehme es gerne zur Kenntnis, dass es jetzt auch NAS'en gibt, die zum USB-Host auch einen USB-Client bieten.


    Ist sicher ein nettes Feature, wobei meine NAS'en nicht dort stehen, wo ich mit dem PC (Notebook) bin, da muss schon das gute alte LAN herhalten ;)

  • Super! Erst mal vielen Dank für die Erklärung. Jetzt habe ich bitte noch 2 Verständnisfragen:

    A) USB 3.1 statt Thunderbolt 3
    An sich wollte ich ein TB3 NAS, um es primär mit 2 Notebooks verbinden zu können, und nur nachrangig über LAN/WLAN oder Internet zugreifen zu können. Ich hatte verstanden, dass dies auch mit den 2x USB 3.1 Anschlüssen auf der Rückseite des TVS-673 mit 10Gbps funktionieren würde. Ist dem nicht so? Geht es nur mit 1 USB Port vorne und wie schnell wäre dann dieser?

    B) Falls ich 2 Notebooks über die USB 3.1 Ports anschließen kann
    Also kann ich einerseits grundsätzlich davon ausgehen, dass SSD-Cache und Tiering für die "heißen" Daten auf den SSDs etwa gleich schnell sind und Tiering den gegebenen Speicherplatz besser ausnutzt. Andererseits brauchen wir die m.2 SSDs nicht als Speicherplatz an sich, sondern ausschließlich, um das System schneller zu machen.


    Ich würde dann Folgendes einrichten:
    2x 480GB Intel 540 m.2 SSDs als SSD-Cache

    2x 8TB WD Red HDDs als RAID1 Hauptspeicherplatz


    Option für später wäre eine Erweiterung um

    2x 1-2TB 2,5" Samsung 860 EVO SSDs als TIER mit den (ggf. auch noch 2 zusätzlichen) HDDs


    Wenn die m.2 SSDs unsachgemäß entfernt werden, würden die noch nicht auf die HDDs geschriebenen Daten sowohl mit RAID1 als auch mit RAID0 verloren gehen. Würde ich also ein noch schnelleres und größeres RAID0 einrichten, mit dem Wissen, dass die Daten von dort zügig auf die HDDs dupliziert werden und dass man den NAS weder zu früh abschalten, noch die m.2 SSDs entfernen darf? Oder würde ich trotzdem nur ein RAID1 einrichten, um auch den Ausfall einer m.2 SSD abzusichern, weil 480GB Cache an sich ausreichen und selbst an USB3.1 ein RAID0 nicht wesentlich schneller wäre?

  • In den technischen Daten ist für mich nicht erkennbar, welche Geschwindigkeit der USB Port vorne hat. Er sieht auf dem Bild aus, wie ein USB 3.0 Port (der sich ja dank einer Lücke in der Spezifikation offenbar auch USB 3.1 nennen darf).

    Ich vermute, QuickAccess wird nur über Ports funktionieren, die Qnap als QuickAccess bezeichnet. Auf den Bildern sehen die hinteren Ports aus, wie USB-A Anschlüsse - da gibt es offiziell keine USB-A zu USB-A Kabel für.

    Bei den USB-Themen wäre ggf. eine Anfrage an Qnap sinnvoll, denn die haben ja (hoffentlich) alle Gerätemodelle bei sich rumstehen ;)


    Die Cache-SSD-Daten werden auf das HDD Storage geschireben. Wie "zügig" das geschieht, ist jedoch Implementationssache. Es gibt auch Implementationen, da verbleiben die Daten längere Zeit auf dem SSD-Cache, bis dieser sich einem gewissen Füllgrad nähert. Dadurch stehen diese Daten auch direkt dem Lese-Cache zur Verfügung. Unsachgemäßes Entfernen des SSD Cache beschreibt übrigens den Vorgang, nicht vorher den SSD-Cache in der Oberfläche abzumelden. Erst dabei werden defnitiv alle Daten auf die Festplatten geschrieben und nur während dieses Abmelde-Vorgangs darf das NAS nicht ausgeschaltet werden.

  • Ja, leider habe ich weder in Foren noch in der Doku ausreichend konkrete Informationen gefunden. Ich habe bereits eine E-Mail an qnap Sales vorbereitet und werde bzgl. der Möglichkeit, Notebooks direkt an die USB3.1 Ports (und mit welcher Geschwindigkeit) anfragen und auch hier berichten. Zusätzliche frage ich nochmals hier im Forum und auch qnap Sales Folgendes:


    Mein eigentliches Ziel wäre jedoch ein NAS Server mit 2x m.2 NVMe SSDs (Samsung 960 EVO oder PRO) und 2-4x 8TB WD Red HDDs DIREKT über jeweils Thunderbolt 3 an 2 Notebooks anzuschließen, um mit der maximalen Geschwindigkeit (3500 MB/s bzw. 2100 MB/s) lesen und schreiben zu können. Thunderbolt 4 sollte mit 40 Gbps (entspr. 5000 MB/s) dafür schnell genug sein. Selbstverständlich sind das Bruttoraten abzüglich Overhead etc., aber ein NVMe SSD-Cache über Thunderbolt 3 angeschlossen, sollte doch die maximale Geschwindigkeit bringen, um z. B. auch Foto- und Videobearbeitung direkt auf dem NAS zu machen. Korrekt oder was sehe ich bitte falsch?


    Würde sich denn eine QNAP TVS-882BRT3 mit der QM2-2P10G1T am letzten freien PCIe Slot erweitern lassen und könnte ich dann tatsächlich über 4x TB3 sowie 1x 10GbE die volle Geschwindigkeit des NVMe SSD Cache nutzen? Könnte ich zusätzlich die beiden m.2 SATA SSDs mit 2-4 WD Red HDDs als QTIER einrichten? Das wäre dann zwar nochmals ca. 2-3 tausend Euro teurer, aber könnte damit alles realisiert werden und ist die TVS-882BRT3 die günstigste Möglichkeit für diese Konfiguration oder gibt es andere Empfehlungen?


    Entscheidend ist der maximal schnelle Zugriff über die direkte Anbindung von 2-3 Notebooks und nachrangig der Zugriff über WLAN und Internet. Es werden weder viele User angeschlossen noch werden sehr große Datenmengen im Cache benötigt (ein paar hundert GB reichen). Also schon die 6 oder 8 Bay NAS sind eigentlich überdimensioniert, aber leider ist bei der TS-453BT3 der PCIe Slot mit nur 2 Lanes zu langsam für die QM2-2P10G1T (mit 2x NVME SSDs und 10GbE LAN) und auch die bereits eingebaute QM2-2S10G1TB wäre überflüssig.

  • Könnte ich zusätzlich die beiden m.2 SATA SSDs mit 2-4 WD Red HDDs als QTIER einrichten?


    So, ich antworte jetzt zu diesem Thema nur noch einmal, dann klinke ich mich aus.


    Zitat von QNAP Support

    Apologies for reply in English, our German colleague is out of office.


    Unfortunately it's not possible to disable or uninstall the Qtier without starting from scratch.
    The reason Qtier is not speeding up the performance is because youconfigured 2 SSD in raid 1 they have a much lower speed then the
    raid 5 with 5 HDD's. Qtier will because of this configuration only decrease the performance.


    I'm very sorry for this inconvenience.


    Vergesst auf den "kleinen" NAS'en ein QTIER mit nur 2 SSD's, -> DAS WIRD NICHT FUNKTIONIEREN !


    Aber wie immer freue ich mich auf gute Testberichte. Kauf dir das NAS, teste die Übertragung mit/ohne Cache und dann "hau das QTIER rein" -> teste und schreib' einen Testbericht!


    Falls du doch drauf kommst, dass es nichts gebracht hat, dann setz dein NAS neu auf, weil deaktivieren kannst du das QTIER nicht mehr ...

  • Hello, ich würde mich hier gern mal einklinken, da ja die Frage mit SSD Cache und normaler HDD besteht.


    Was sind denn überhaupt so die Datenraten über SFP+ wenn ich 2 SSD als Cache und eine HDD als Speicher nutze ?

  • Was sind denn überhaupt so die Datenraten über SFP+ wenn ich 2 SSD als Cache und eine HDD als Speicher nutze ?

    Erwarte dir nicht zu viel, bei nur EINER (?) HDD als Speicher kann dein Cache zwar etwas Puffern, aber bei größeren Daten ist Schluss damit. 10GB LAN + NAS mit EINER HDD ist wie eine Citroen Ente mit Porschemotor ...


    Mal im Ernst, reden wir von SATA SSD im RAID1 oder von NVMe SSD im RAID1, oder auch nur RAID0?

    Cache R/W oder nur Lesend, dann kannst du den Cache für 10GB eigentlich gleich vergessen.

  • Also wenn ich doch 2x 480GB m.2 SSDs (leider nur Intel 540 SATAs und nicht NVMe) als Cache einbinde, dann habe ich doch max. 560/480MB/s Lese-/Schreibgeschwindigkeit, als etwa 4,48/3,84 Gb/s. Mit RAID 0 sollte sich das nochmals beschleunigen lassen, aber auch mit RAID 1 wird doch dafür das normale Gbit LAN schon zum Flaschenhals. Hier ist mit 1Gb/s = 125MB/s schon theoretisch Schluss. Ob dahinter nun nur 2x 8TB WD Red als RAID0 oder später 4x 8TB als RAID5 oder 10 hängen sollte ebenfalls ziemlich egal sein, solange nicht einige hundert GB geschrieben oder gelesen werden. Also für unsere üblichen Serveranwendungen reichen 480GB jedenfals DICKE aus. Die 8TB brauchen wir nur für Datensicherung und z. B. Foto-/Videodateien, welche selten aufgerufen werden.

    Somit brauchen wir mind. 10GbE = 1250MB/s oder besser Thunderbolt 3 mit 40 Gb/s = 5000MB/s, weshalb mit TB3 auch Samsung 960 Pro NVMe SSDs mit 3500/2100MB/s Lese-/Schreibzugriff interessant wären. Da sich die (480GB) zuletzt aufgerufenen Daten redundant im Cache befinden, werden die HDDs nur gebraucht, wenn es um Datensicherung o. ä. geht. Also habe ich schon die Erwartung, dass es ähnlich schnell wie eine interne SSD sein sollte, natürlich abzüglich Overhead für Protokolle etc.

    Ich sehe auch nicht, wie ein RAID5 mit HDDs signifikant schneller, selbst als die langsamen SATA SSDs, sein sollte. Bitte korrigiert mich mal, falls ich etwas falsch verstanden haben sollte. Danke!


    Dann gleich noch eine ergänzende Frage:
    Ich habe jetzt noch ein TS-453BT3 und ein zertifiziertes TB3-Kabel (Cheotech A3002) gekauft und bekomme leider keine Verbindung zu denn Notebooks (Dell XPS15) oder Lenovo Ideapad 720S) hin, obwohl beide Thunderbolt 3 Ports haben. Ich finde leider auch keine Anleitung oder andere Beiträge dazu...
    => Muss für die Thunderbolt 3 Verbindung zwischen Notebook und TS-453BT3 noch etwas installiert werden?
    => oder liegt es vermutlich am Kabel, wobei auch die Verbindung zum USB3.1 Port nicht funktioniert?

    Danke & schöne Ostern!

  • Ich sehe auch nicht, wie ein RAID5 mit HDDs signifikant schneller, selbst als die langsamen SATA SSDs, sein sollte. Bitte korrigiert mich mal, falls ich etwas falsch verstanden haben sollte. Danke!

    Du rechnest zwar schön herum, beachtest aber die Hardware, bzw. die physischen Grenzen nicht.


    Die NAS bindet die Disk's intern mit SATA III an, da ist mit max. 600MB/s Schluss !!! Alles was die Platten mehr liefern könnten (SSD mit 500 MB/s) ist für'n Hugo.


    Eine "normale" HDD bringt so zw. 170 - 200 MB/s geht also locker über den SATA III drüber (mit der max. Leistung der HDD). ABER (!) im RAID5 teilen sich die Blöcke auf, und wenn ich 6 HDD's zu einem RAID5 zusammenfasse, dann liefern jeweils 5 Platten (n - 1) die Blöcke, also komme ich theoretisch auf 5x 200 MB/s Übertragung.

    Wo siehst du da jetzt nicht den Geschwindigkeitsvorteil eines HDD-RAID5 gegenüber EINER (!) SSD (im RAID1 arbeitet effektiv nur eine und RAID0 schließ ich, für mich, als unsicher aus)


    PS.: Das ist auch der Grund, weshalb QTIER auf meiner TVS-882 NICHT funktioniert.

    1.000 MB/s RAID5 (als "langsames" HDD-RAID) vs. max 600 MB/s RAID1 (als "schnelles" SSD-RAID) !!!

    Wie bitte sollte da ein "intelligentes" QTIER die "heißen" Daten zum SSD-RAID verschieben, nur damit sie dann langsamer als beim HDD-RAID gelesen werden können ???

  • also ich kann nicht folgen :-O

    wieso soll eine langsame SATA SSD mit 560/480MB/s durch SATA III ausgebremst werden?
    und wo finde ich eine WD Red mit 200 MB/s ?

    und im Übrigen ist die TS-453BT3 ein 4 Bay NAS, also mit max. 4 HDDs, von denen bei RAID5 jeweils 1 Segment redundant ist und somit sicher nicht addiert werden kann. Also wären wir ohne Overhead bei MAX. 3x 200MB/s

    Soweit ich verstanden habe, sind SSDs nicht nur bei den Maximalraten schneller, sondern insbesondere beim lesen/schreiben, wenn die Daten nicht sequenziell abgespeichert wurden.

    Ich habe auch schlichtweg kein Interesse an einem NAS mit unzähligen HDDs, die laut sind, vibrieren und rattern und ich würde an der Stelle auch gerne diese Diskussion beenden und hoffe darauf, dass ich Antworten auf meine Fragen erhalte. Es geht mir um eine SCHNELLE Anbindung von 2 Notebooks. Ich habe wenige, kleine Serverprogramme und möchte eine Datensicherung einrichten. Ich wollte und möchte dafür keine Grundsatzdiskussion zwischen SSD und HDD anzetteln, da sich diese Frage für mich nicht mehr stellen wird.

    Es geht mir darum, WIE ich SATA oder noch lieber NVMe SSDs über Thunderbolt 3 anbinden und nachrangig über LAN und Internet erreichen kann. Danke.

  • ich würde an der Stelle auch gerne diese Diskussion beenden

    Gerne, bin dabei ...


    Mach ein neues Thema auf und frage explizit nach "WIE SATA oder noch lieber NVMe SSDs über Thunderbolt 3 anbinden" und ich bin gleich nicht dabei, ist nicht mein Thema.

    Dachte nur, dich belastet das Thema QTIER, da du zigmal fragst, ob es nicht doch geht ...


    PS.: Nach dem Dislike von dir, bin ich ohnehin draußen und werde dir keine Fragen mehr beantworten :ziped:

  • Ich will die Diskussion, die sich meiner Ansicht nach mehr oder minder im Kreis dreht, mal kurz unterbrechen mit einer Anekdote,zu einer Umgebung, die ich kürzlich kennenlernen durfte:

    Anforderung war ein NAS für 4K-Video-Schnitt mit 2 Macs. Durchgeführt mit einer TS-453B, der ein 10GbE Interface nachgesteckt wurde; die Macs bekamen Thunderbolt zu 10GbE Interfaces.

    Verbaut sind 2x4 (!)TB SSDs sowie 2x 12TB HDDs Jeweils Raid 1. Der Ansatz war hier pragmatisch - es wird schlichtweg alles, was "fertig" bearbeitet ist, auf von Hand die HDDs verschoben. Das läuft jetzt auch so schon einige Zeit und man ist da wohl ganz zufrieden mit dem System.

    Mal abgesehen davon, dass Platten und Zubehör ein Vielfaches der Qnap gekostet hat, macht dies in erster Linie eines deutlich: Der von Dir konsequent bemängelte lahme Durchsatz der SATA-Anschlüsse spielt hier einfach keine Rolle.

    Für 4K Videoschnitt kommt man im Schnitt dort so auf 200-250MB/s Durchsatz, durch die SSDs kann das auch parallel von 2 Rechnern abgerufen werden, ohne dass es da Einbrüche gibt.


    Es ist sicher möglich, dass ich mich Irre, aber ich hege leichte Zweifel, ob die Datenraten, die Du hier immer wieder ansprichst, irgendeinen relevanten Nutzen für dich bringen werden.

    In der oben beschriebenen Umgebung ist man sich übrigens sicher, dass man das Gerät nicht bis in alle Ewigkeit einsetzen wird, sondern nach gewisser Zeit sich wieder umschaut, welche Technik dann soverfügbar sein wird.

    Wenn ich nach einem Choetech Kabel "A3002" suche, finde ich übrigens nur ein USB 3.1 Kabel...

  • Ich würde das so lösen:


    M2 SSD als Qtier für die HD -> das bringt auch bei dem Start von Programmen / System etwas und beschleunigt die Zugriffszeiten


    Das ist bei so wenigen Festplatten sicher die bestere Lösung


    zusätzlich würde ich allerdings


    2 x SSD mit Raid 1 für den Serverbetrieb !!! OHNE Qtier !!! einrichten - das bringt viel und ich habe die Erfahrung gemacht, dass Datenbanken mit Qtier NICHT rund laufen.


    In dem Fall hast du dann auch die volle Bandbreite der Festplatten für den Fileserver