Fix für 16 TB limit

  • Hallo zusammen,


    habe über die Suchfunktion nichts brauchbares gefunden daher die Frage hier (bin mir auch nicht wirklich sicher ob hier der richtige Ort ist)


    Ist absehbar wann das 16 Tb Limit für die Online-RAID-Kapazitätserweiterung fallen wird (AFAIK gefixt in Linux-Kernel 3.7 - also der Vorgänger vom aktuellen Kernel)?
    Ohne Fix brauch ich bei meinem Anwender Szenario nämlich keine TS-869 kaufen und muss mich nach alternativen umsehen.


    Danke und Gruß
    Sudder

  • Du weisst, dass das 16TB-Limit nur für die Online-Kapazitätserweiterung gilt, dass eine 8xx also durchaus bis (aktuell) 32TB verwalten kann, wenn man sie oberhalb 16TB halt neu aufsetzen würde ?


    Nächste Alternative wäre, 2 RAID-Verbunde statt nur einem in so einer Station zu fahren, oder, oder, oder...


    Für mich wäre diese Limitation daher kein Grund, eine solche Station nicht zu kaufen, ich finde, da gibt es genügend Workarounds, vielleicht auch für Deinen Anwendungsfall. Vielleicht beschreibst Du den mal etwas genauer...


    GLG GBD

  • Zitat von "GorillaBD"

    .... für Deinen Anwendungsfall. Vielleicht beschreibst Du den mal etwas genauer...


    Würde mich auch rein privat interessieren. Rechnungen zur Quantenchromodynamik, Proteiinfaltung, Dynamik von Galaxien, Strukturbildung im frühen Universum oder die Simulaion der Verschmelzung Schwarzer Löcher oder von Neutronensternen? ab initio-Rechnungen an großen Molekülen?

  • Die angesprochenen Alternativen sind keine, da ich die Online-RAID-Kapazitätserweiterung über die 16T-Grenze hinaus brauche.


    Ausserdem langt Qnap für die SW ja schon ordentlich hin (wenn ich mal den Preis für die HW überschlage) - da erwarte ich dann eigentlich schon dass ich die versprochene Online-RAID-Kapazitätserweiterung auch über 16T hinaus nutzen kann (erst recht bei einem 8 HD System) speziell da das Problem im Linux-Kernel ja schon gelöst ist. Es fehlt ja "nur" noch das implementieren und testen im qnap Kernel.


    Wenn Qnap nicht in der Lage ist das ganze zeitnah umzusetzten (der 3.7er kam am 11.12. raus) oder wenigstens einen groben Zeitrahmen angeben kann wann das gefixt sein wird, dann suche ich mir eben eine andere Lösung.


    Gruß Sudder

  • Dito.


    Auch Deine Kritik solltest Du dann eher direkt an QNAP richten, dort bewirkt die vielleicht etwas. Wir sind hier in einem privaten "Selbsthilfeforum" zu den Geräten.
    Helfen können wir scheinbar nicht, weil Du uns Deinen Anwendungsfall nicht schildern möchtest.


    Vielleicht weiss auch jemand im offiziellen QNAP-Forum eine Antwort auf Deine gezielte Frage nach dem Zeitplan für einen Fix. --> http://forum.qnap.com/


    GLG GBD

  • Zitat von "sudder"

    dann suche ich mir eben eine andere Lösung.


    Mich würden in dem Zusammenhang dann 3 Fragen interessieren.


    1. In welchem Preissegment du dann fündig wurdest.
    2. Wieviele Monate lang eine Online-Erweiterung von einem fast vollen 24TB RAID5 auf 28TB dauert
    3. Wie die Backupstrategie dieser Menge an Daten ausschaut, falls der Rebuild fehlschlägt.

  • Zitat

    1. In welchem Preissegment du dann fündig wurdest.


    Asustor / Synology.. haben Produkte im gleichen Preissegment wie Qnap - ich hab aber noch nicht rausgefunden ob die auch noch das 16T Problem haben.
    Und dann hätte ich noch einen alten AMD Quadcore rumstehen der mit z.B. nas4free oder OMV ähnliches oder gar besseres leisten könnte als ein gekaufter NAS (natürlich dann mit deutlich mehr Zeitaufwand)
    Teurer als der TS-869 wird meine Lösung also in keinem Fall - egal was es dann wird.


    Zitat

    2. Wieviele Monate lang eine Online-Erweiterung von einem fast vollen 24TB RAID5 auf 28TB dauert


    ?? genauso lange wie sie auf einem Qnap dauern würde - alle angesprochenen Hersteller verwenden Hardwareseitig das Referenzdesign von Intel
    ( http://www.heise.de/ix/meldung…fuer-NAS-vor-1724762.html )
    Ein DIY-NAS dürfte dank deutlich mehr CPU-Power eventuell sogar etwas schneller sein.


    Zitat

    3. Wie die Backupstrategie dieser Menge an Daten ausschaut, falls der Rebuild fehlschlägt.


    um Linus Torvalds zu "misquoten": "Only wimps use tape backup.."


    aber im Ernst: das wiederbeschaffen meiner Daten wäre zwar aufwendig aber nicht unmöglich. Wenn ich die Kosten / Logistik eines Vollbackups dieser Menge Daten mit dem Aufwand der Wiederbeschaffung vergleiche, dann kann ich das Risiko ohne Backup zu fahren rechtfertigen.


    Gruß Sudder

  • Zitat von "sudder"

    Teurer als der TS-869 wird meine Lösung also in keinem Fall - egal was es dann wird.


    Was den Energieverbrauch bei einem AMD-Quad anbetrifft, würde ich mich bei momentanen Strompreisen nicht so weit aus dem Fenster lehnen.

    Zitat von "sudder"

    genauso lange wie sie auf einem Qnap dauern würde


    Das ist sicher richtig. Nur in Ermangelung von Erfahrungswerten kann keiner sagen WIE lange es dauert. Das war die Frage.

    Zitat von "sudder"

    Wenn ich die Kosten / Logistik eines Vollbackups dieser Menge Daten mit dem Aufwand der Wiederbeschaffung vergleiche, dann kann ich das Risiko ohne Backup zu fahren rechtfertigen.

    Dir ist aber auch bewusst, dass die Fehleranfälligkeit eines RAID statistisch gesehen exponentiell zu Grösse und Anzahl der Platten ansteigt.
    Dann mal viel Spass beim Wiederbeschaffen.

  • FYI:




    Jetzt muss ich wohl nur noch entscheiden ob ich bis April warten will.

  • Zitat von "dr_mike"

    Dir ist aber auch bewusst, dass die Fehleranfälligkeit eines RAID statistisch gesehen exponentiell zu Grösse und Anzahl der Platten ansteigt.
    Dann mal viel Spass beim Wiederbeschaffen.


    Das ist in der Tat ab hier alles soooo vorhersehbar. Grosses RAIDx mit regelmässiger Online-Kapazitätserweiterung und ohne Backup... :roll:


    Gruselig, echt gruselig. Als ob wir die "überraschten" Hilferufe, gerne auch noch in "Tateinheit" mit einer Schuldzuweisung an die NAS dann, bei solchen Konstruktionen nicht schon hinlänglich oft hier gehabt hätten.


    Aber manche Erfahrung muss der eine oder andere scheinbar halt unbedingt selbst erstmal machen. :( Mehr als warnen können wir nicht.



    GLG GBD

  • Zitat

    Aber manche Erfahrung muss der eine oder andere scheinbar halt unbedingt selbst erstmal machen. :( Mehr als warnen können wir nicht.


    musst nicht traurig sein - die Erfahrung mit einem zerschossenen RAID (damals HW) habe ich schon. Trotzdem entscheide ich mich bewusst dafür ohne Backup zu fahren (von wirklich wichtigen Daten habe ich natürlich ein Backup)


    Jetzt würde mich aber schon mal interessieren wie viele _Privatanwender_ mit einem Datenbestand > 10Tb (was in Zeiten wo jedes Handy Videos in 1080p aufnehmen kann und DVRs weit verbreitet sind so ungewöhnlich ja nicht mehr sein sollte) tatsächlich Vollbackups haben (ich glaube nämlich dass das < 5% sind)

  • Jeder muss das für sich selbst entscheiden, wieviel Backup er fahren möchte.


    Wo ich drauf hinaus möchte ist der deutliche Hinweis, die Warnung, dass grosse RAIDx-Systeme ohne Backup ein höheres Verlustrisiko von Daten bedeuten können, als eine Ansammlung von Einzeldisks ohne Backup. Dies, weil hat bei einem Einzeldiskausfall die Daten einer Disk verloren sind, beim Crash eines RAIDs kann ein ganzer Verbund mit Daten ins Nirwana gehen.


    Dieses Risiko wird noch erhöht, wenn häufige Rebuilds durch Online-Kapazitätserweiterungen mit einem System gefahren werden, das ohnehin bereits nur eine stark verringerte Wiederherstellwahrscheinlichkeit aufweist. Plattenfehlerstatistisch bedingt, nicht NAS bedingt:
    --> http://de.wikipedia.org/wiki/R…i_gro.C3.9Fen_Festplatten , Kap. 3.5


    Und diese "Bedrohung" ist real, sonst hätten wir die diesbezüglichen "Hilferufe" hier im Forum dazu nicht. Und oft sind die Betroffenen sehr überrascht, weil sie diese o.g. Zusammenhänge nicht gekannt haben und somit quasi schlicht in eine "Falle" getappt sind.


    Ich persönlich habe auch nicht von jeder HDD aus meinem Bestand mit wiederbeschaffbaren Daten ein Vollbackup. Aber gerade diesen Datenbestand würde ich niemals in ein Monster-RAID setzen, um den Schaden im Versagensfall einer Platte halt eben zu begrenzen. Das Verlustrisiko eine Monster-RAIDs zu tragen käme für mich nicht in Frage, aber das soll halt jeder gerne für sich anders sehen.


    Dass ein Monster-RAID crashen wird, ist sicher vorhersagbar. Nicht sicher vorhersagbar ist lediglich der Zeitpunkt, wann es passieren wird.


    GLG GBD

  • Zitat von "GorillaBD"

    Nicht sicher vorhersagbar ist lediglich der Zeitpunkt, wann es passieren wird.


    Bei der Grösse eher früher als später.

  • [/quote]


    Jetzt würde mich aber schon mal interessieren wie viele _Privatanwender_ mit einem Datenbestand > 10Tb (was in Zeiten wo jedes Handy Videos in 1080p aufnehmen kann und DVRs weit verbreitet sind so ungewöhnlich ja nicht mehr sein sollte) tatsächlich Vollbackups haben (ich glaube nämlich dass das < 5% sind)[/quote]


    Das kommt auf die innere Einstellung an.
    Ich habe zum Beispiel aktuell nur einen Datenbestand von 1,3 TB. Ich habe aber schon frühzeitig Geld in die Hand genommen, und kann so auch einen Datenbestand >10 TB backuppen. Ich sichere nämlich ganz komfortabel auf eine 2.NAS.
    Das mache ich automatisiert per RTRR zweimal in der Woche und habe bei mehreren Testaufbauten (Raidlevel?) die Daten auch schon zurückgesichert.
    Geht per RTRR bequem und im Hintergrund.
    Du siehst, das hängt nur von Deiner inneren Einstellung ab. Ich möchte jedenfalls keine Daten verlieren.
    Ich habe sogar noch für mein Raid eine nagelneue Festplatte im Schrank. Und wenn dann der Rebuilt fehlschlägt, egal ich habe ja alles auf Backup.
    Mache ich auch im Job (Administrator) so, da ist ein regelmäßiges Backup meine Lebensversicherung !
    Lies dir Mal die Links von GorillaBD durch, da steht auch was zu der Wiederherstellungswahrscheinlichkeit von so grossen Raid5-Verbünden. Wenn dir rund 30% ausreichen (im Klartext: das heisst, nur rund jeder 3. Rebuilt gelingt !),
    ist das ok, aber daran glaube ich nicht. Wer so ein gr0ßes Raid benutzt, sollte auch das Geld für eine entsprechende Backuplösung haben.


    Tip: Warum kaufst du dir nicht einfach eine NAS zum Backup dazu? Speed ist dann egal.
    Kein Stress mehr......
    Aber jeder wie er will.


    Gruß
    Martin

  • Zitat von "sudder"


    Das ist ja interessant. Danke für die Info. :)
    Heißt wohl: Neue FW, alles platt machen, RAID neu aufsetzen, Backup zurückspielen. Oh je, das wird einiges an Zeit kosten. Aber wenn ich dann die Online Volume Expansion habe. :)
    Das Problem ist doch: Daten werden eher mehr, als weniger. Wenn man schaut, was früher locker gereicht hat - sagen wir mal so vor 20 Jahren. Da würde man heute überhaupt nichts mehr drauf bekommen. Und wenn man heutige Platten nimmt und durch die Zeit zurückschicken würde - die Leute würden wohl durchdrehen. ;)
    Und da finde ich eine Online Volume Expansion schon sinnvoll. :)


    Zum Thema Eigenbau und viel billiger: Dem kann ich so nicht zustimmen. Ich habe früher auch mal gedacht, dass so ein File Server Marke Eigenbau eigentlich viel günstiger sei. Und mehr zum Rumspielen hatte man auch (ich hatte damals Ubuntu drauf). War es aber leider nicht. Okay, das lag auch an mehreren Dinge. Zuerst hatte ich einen billigen RAID Controller drin, welchen ich über eBay erstanden hatte. Der konnte gerade so RAID 5. Und es hat im Endeffekt gar nicht funktioniert. Erst als ich richtig Asche in die Hand genommen und mir einen anständigen RAID Controller geleistet habe, war Ruhe. Aber auch die Lärmentwicklung sowie der Stromverbrauch waren immens. Stromsparprozessor ist ja eine Sache. Aber Du musst bspw. die Platten ja auch noch alle Kühlen. Das ist eine fertige RAID deutlich besser: (Deutlich) weniger Ärger und weniger Stromverbrauch. Wenn ich keine speziellen Schmerz (sprich Anwendungsfall) hätte (und den habe ich aktuell nicht), würde ich auf jeden Fall auf eine NAS setzen.


    --- ModEdit ---


    Äh, Frage: Kann jemand bestätigen, dass die 16 TB Grenze mit Firmware 4.x gefallen ist?

    2 Mal editiert, zuletzt von dr_mike () aus folgendem Grund: Quote gekürzt. Doppelte Beiträge vermeiden, siehe Forenregeln! Bitte den 'Ändern' Button verwenden.

  • Hat sich da eigentlich zwischenzeitlich etwas getan? Weiß da jemand mehr?


    Erst kürzlich habe ich gelesen, dass das Problem gar nicht QNAP an sich ist, sondern das verwendete Dateisystem. Ext3 kann maximal nur 16 TB verwalten (sogar 32 TB anscheinend bei einigen System). Ext4 kann allerdings deutlich mehr. Zumindest wenn es in der entsprechenden Version verwendet wird (bis 2011 gab es anscheinend auch hier eine Limitierung auf 16 TB. Die liegt seit dem bei 1 EB).


    Sprich wenn ich es richtig verstehe, liegt das Problem nicht an irgendwelchen QNAP spezifischen Einschränkungen, sondern daran, mit welchem Dateisystem man seine Platten formatiert hat. Wenn man Ext3 verwendet hat, ist klar, dass man so einen RAID nicht über die 16 TB erweitern kann, weil schlicht und einfach das Dateisystem das nicht hergibt. Und das wird sich auch in keine Firmware mehr ändern.


    Wenn man allerdings - wie ich ;) - gleich von Anfang an Ext4 verwendet hat, sollte eine Erweiterung auf mehr als 16 TB ohne Probleme möglich sein. Zumindest wenn QNAP einen aktuellen Kernel mit aktuellen Tools verwendet. Oder liege ich da falsch?


    Apropos aktuell: Ich sehe gerade, dass ich immer noch Firmware 3.8.3 Build 20130426 verwende und es zwischenzeitlich 4.1.3 Build 0408 gibt. :oops: Sollte vielleicht mal ein Update machen. :D

  • Die 16TB-Grenze gibt es neines Wissen für 2 Situationen:
    1.) Bei NAS die nur ein 32bit-Betriebsystem haben, diese können nicht mehr als 16TB für ein Volume adressieren.
    2.) Bei einem bestehenden RAID ist auch keine Erweiterung auf >16TB möglich.
    Meine Vermutung ist, das beim Erstellen eines RAIDs <16TB die Datenstruktur in 32bit festgelegt wird,
    egal ob das Betriebsystem 32bit oder 64bit ist.
    Bei RAIDs mit >16TB wird wahrscheinlich eine 64bit Datenstruktur verwendet
    und eine Konvertierung von 32bit auf 64bit bei einer Erweiterung ist zu aufwendig.