iSCSI - Praktische Erfahrungen

  • Hallo zusammen


    Mich würde mal interessieren, wie bei Euch so die praktischen Erfahrungen mit iSCSI und QNAP NAS sind.


    Situation:

    Von einem Windows Server (VMWare) wird ein Backup (VMs) über Veeam (Backup-Software) auf ein QNAP NAS (TS-809 Pro) gefahren. Das QNAP NAS dient dabei als Speicherziel. Im Moment wird dies über CIFS bewerkstelligt und ist mit 1GbE angebunden. Bis zu QTS 4.1.x hat dies auch recht flott funktoniert, über 100 MB/s. Seit QTS 4.2.x ist die Performance fast auf 90 MB/s gesunken.

    Es soll nun ein neues NAS (TS-873U-RP) geben, welches über 10GbE SFP+ angebunden werden soll.


    Theoretisch sollte über iSCSI-Anbindung das Maximale an Durchsatz erreicht werden. Aber wie sieht es praktisch aus? Nachteile oder Probleme beim Betreiben und Anbinden? Stolpersteine auf die man achten sollte? Ihr seht schon, habe bis jetzt noch keine QNAP damit angebunden. Was sind hier Eure Erfahrungen?


    Danke schon mal.


    Gruß

    Mavalok2

  • Hallo Mavalok2,

    Theoretisch sollte über iSCSI-Anbindung das Maximale an Durchsatz erreicht werden. Aber wie sieht es praktisch aus? Nachteile oder Probleme beim Betreiben und Anbinden?

    Mod: :handbuch::arrow: Die Zitat Funktion des Forums richtig nutzen

    Die Realität sieht leider etwas anders aus.

    Ich kann dir folgendes über mein 10Gb Netzwerk berichten. Angeschlossen sind ein Qnap-NAS AMD RX-421BD mit 10Gb und zwei Windows PC´s mit 10Gb Netzwerkkarten und Switch 1203C. Alle Festplatten(NAS+PC) sind über SSD´s mit Raid 0 angelegt.

    10GByte großen Einzeldatei.

    Bei Übertragungen vom PC zu NAS einer 10GByte großen Datei erreiche ich ca. 850 MByte/s zum NAS über SMB(Windows Explorer). Mehr schaft die NAS-CPU nicht. Oder die Netzwerkkarte PCI-e 2.0 x4

    Bei Übertragungen vom PC zum iSCSI-Laufwerk über Explorer (PC zu NAS) werden leider nur ca. 300Mbyte/s max. erreicht. Meist ca. 200MByte/s

    Bei Übertragung vom NAS zum PC per SMB-Freigabe der Datei kommen ca. 700MByte/s zu stande.

    Bei vielen kleinen Dateien oder Bildern ist es noch viel lamgsamer.


    Wenn du noch etwas (2 Wochen) warten kannst, kann ich dir bald Ergebnisse mit einem AMD Ryzen™ 7 1700 8 Kerne liefern. Ich kriege bald ein Leihgerät zum testen.


    Ich hoffe ich konnte dir etwas helfen.


    vG

  • Ich habe schon seit Jahren auf einem meiner NAS iSCSI im Einsatz, aber auf die Leistung habe ich ehrlich gesagt nie wirklich geachtet.

    Die iSCSI LUNs dienen nur zur "Auslagerung" von Speicherplatz.

    Angeschlossen sind ein Win 8.1(!) und ein alter ESX 5.5 Rechner. ESX kann leider auf dem alten Blech nicht mehr mit einer v6 umgehen, einen neuen Server nur dafür war ich bisher zu geizig 8o.


    Auf den Datastores laufen nur Windows VMs mit einem kompletten AD und NetApp Simulatoren in fast allen Varianten.

    Also rein zur privaten Nutzung ist da gar nichts drauf, insofern mach ich da auch kein Backup oder sonstiges.

    Habe aus Spass mal die iSCSI LUN des Win(2TB) gesichert auf ein anderes NAS:

    Ohne Verschlüsselung ca. 2Tage, mit 5 Tage, das Backup habe ich dann abgebrochen, 5 Tage ohne meine VMs war mir zu lang.


    Angeschlossen ist alles über 1GB/s, damit bin ich zufrieden. Es werden aber nicht groß Daten bewegt.


    Gruss

  • Hallo Crazyhorse,


    ich benutze die Dateibasierte LUN Version. Blockbasiert kann ich nicht anklicken, da ich nur statische Volumen habe und keine freie Festplatte/Partition mehr drin habe. Dafür braucht mann Thin-Volumen, diese sind aber ca. 20-25% langsamer als statische Volumen laut Qnap.

    Auch wenn die blockbasiert LUN laut Qnap etwas schneller ist wird sie wohl kaum viel viel schneller als die 300MByte sein, da sie ja insgesamt ca. 25% langsamer im Thin-Volumen ist.

    Lat Qnap:"Im Vergleich zu dateibasierten LUN Snapshots bieten blockbasierte LUN-Snapshots eine schnellere Sicherung und Wiederherstellung von Snapshots. Die blockbasierte iSCSI LUN bietet weniger Overhead, was die gesamte Lese-/Schreibleistung verbessert."

    Ich glaube nicht das "verbessert" bedeutet, dass es doppelt so schnell wird. SMB ist bist zu 3 x schneller.


    Ich habe die Jumboframe bei 1500, wenn ich auf 9000 stelle fällt die Übertragung vom SMB vom ca. 850 MByte auf nur noch 300-380 MByte.

    SMB ist mir wichtiger als LUN-iSCSI, deshalb zurück auf 1500 mit der Jumboframe.


    Die QTS macht keinen Unterschied sowohl 4.3.6 als auch die 4.4.1 Beta 4 haben die gleichen Ergebnisse.


    vG

    Einmal editiert, zuletzt von qnappeter ()

  • Jumbo Frame musst du auf Client Seite, am NAS und vor allem muss es der Switch unterstützen.

    Bei managed muss man das einstellen.

    Dann sollte das noch mal einen Boost bringen, denn du sparst Faktor 6 beim Overhead.

  • Hi Crazyhorse,


    ich habe das Jombo Frame am NAS umgestellt(Virtual Switch, Adapter). Auch am Windows. Leider fällt damit die SMB Rate auf die hälfte runter.

    Habe leider nur ein unmanaged Switch von Qnap 1208C-8C und der hat schon fast 500 euro gekostet. Kann aber Jumbo Frames 9000.

    Die guten Managed Switchs kosten ab 800-1000 euro. da muss ich wohl bis Weihnachten warten.


    vG

  • Dann stimmt was nicht, denn wenn die Kette NAS, Switch, Client 9k Jumbos eingestellt hat oder unterstützt, geht es mit der Datenrate nicht runter sondern hoch.

    Stecke Client und NAS mal direkt zusammen, dann messe noch mal, wenn es dann richtig ab geht, kann der Switch das wohl nur auf dem Datenblatt.

  • Ich sehe schon, ich sollte hier ein wenig Zeit für Konfigurations-Test reservieren. Bin aber doch verwundert, dass iSCSI so massiv langsamer als SMB sein soll. Das entspricht eher nicht dem Sinn von iSCSI.


    qnappeter

    Welche Windows Version verwendest Du bei den Client-PCs?

  • Mavalok2


    Es ist immer Windows 10 Pro Version 1903 mit aktuellsten Updates. War aber bei 1809 auch so.


    @Crazyhorse

    Der Switch ist von Qnap. Die sollten eigentlich die Wahrheit schreiben.

    Wenn ich die NAS direkt an den PC anschliesse habe ich doch kein DHCP mehr. Da müsste ich doch die IP´s fest vergeben.

    Hast du da Tipps wie man das ohne großen Aufwand testen kann ? Heute ist doch Sonntag, ein Ruhetag :) .

    Habe ja am NAS und PC noch jeweils mehrere 1GB LAN frei . neueste Fritz.Box ist der Router. Am Router ist der 10GB Switch dran. Am Switch sind alle Clientanschlüsse.


    vG

    Einmal editiert, zuletzt von qnappeter ()

  • So. Habe auf meiner Testumgebung mal ein paar Tests gefahren.


    Testumgebung:

    NAS: TS-328 mit QTS 4.4.1 Beta 3

    Switch: 1 GbE D-Link DGS-108 Layer2 Switch

    PC: Virtuelles Windows 10 Pro 1903 x64


    Leider ist das Bottleneck die CPU-Leistung des virtuellen PCs. Leider habe ich zum Testen nicht gerade Workstations zuhause herumstehen. :(

    Aber nichtsdestotrotz kann ich bestätigen, SMB ist auf die vorhandene CPU-Leistung schneller. Bei ausreichend CPU-Leistung kann dies wieder anders aussehen. Ging aber irgendwie davon aus, dass iSCSI ressourcenschonender ist. Hmm, auf die CPU-Leistung gesehen scheint dem nicht so zu sein.


    Werte mit Explorer 2.5 GB Filmdatei kopieren:

    SMB lesen: ~63 MB/s

    SMB schreiben: ~80 MB/s

    iSCSI lesen: ~55 MB/s

    iSCSI schreiben: ~75 MB/s

  • Block LUN. Sollte ja die effizienteste Methode sein oder?

    Datei-LUN habe ich noch nicht ausprobiert.


    Edit:

    So habe noch etwas herumprobiert. Wenn man das iSCSI Laufwerk nicht wie nach Anleitung QNAP als Speicherpool einbindet sondern als "Einfaches Volume", dann gibt es mehr Geschwindigkeit für gleiche CPU-Leistung. Sieht doch gleich schon besser aus.

    iSCSI schreiben: ~90 MB/s

    iSCSI lesen: ~63 MB/s


    Edit 2:

    Habe eben mal NFS unter Windows ausprobiert. Hmm.

    NFS schreiben: ~43 MB/s

    NFS lesen: ~47 MB/s


    Edit 3:

    Dateibasiertes LUN

    iSCSI schreiben: ~49 MB/s

    iSCSI lesen: ~47 MB/s

    Hier ist die CPU jedoch nicht voll ausgelastet.


    Unter Strich nach einem kurzen schnellen testen: Block-LUN oder SMB.


    Edit 4:

    Habe eben festgestellt, dass man die LUNs (Block und Datei) im laufenden Betrieb erweitern kann und die nach Aktualisieren und Erweitern unter Windows sofort verfügbar sind. Ganz im Gegensatz zu der von QNAP in der Erklärung empfohlenen Methode mit dem Speicherpool:

    https://www.qnap.com/de-de/how…auf-einem-qnap-turbo-nas/

    Sehe eigentlich keinen Grund, wieso man hier noch einmal einen Speicherpool erstellen soll. Das Ganze läuft ja unter QTS schon unter einem Speichpool (Block) und RAID.


    Wie handhabt Ihr dies?

    4 Mal editiert, zuletzt von Mavalok2 ()

  • Hallo Mavalok2,


    anbei die Werte mit einem AMD Ryzen 7 1700 im 10Gbit-Netzwerk ohne Portbündelung. Schreiben und Lesen einer 25 GByte-Datei. LUN nicht als Speicherpool.


    dateibasiert und Block LUN getestet. Vom Windows 10 zur LUN auf der NAS sind es 580 MByte/s. Beginn mit 280 MByte/s und nach 3 Sekunden auf 580MByte.


    Über SMB3 Windows zu NAS sind es 1150 MByte/s. Jumbo Frame 9K.


    vG

  • qnappeter Besten Dank für die Werte.

    Bestätigt meine Wert. SMB3 ist wohl doch nicht so verkehrt. Hängt aber vermutlich auch stark vom Einsatzgebiet ab. Aber da ich vor allem wenige aber sehr große Dateien kopieren muss, kommt dies meinem Szenario wohl sehr nahe. Eine höhere Flexibilität ist mit SMB3 auf jeden Fall gegeben.