Höchstmöglicher Datendurchsatz

Hallo Allerseits,

für eine spezielle Grafikanwendung brauche ich höchstmöglichen Datendurchsatz. Der Preis ist (zumindest bei der jetzigen Infosuche) erst einmal zweitrangig. Der Rechner mit seinen 6 Terrabyte HDD Speicherplatz ist sowieso sauteuer. Nach meiner jetzigen Informationslage komme ich mit einem RAID-5-System auf ca. 70 MB pro Sekunde. Das bedeutet, dass das ca. 200 MB große zu speichernde Bild ca. 3 Sekunden zum speichern benötigt. Für die vorliegende Anwendung ist das aber zu wenig.

Nun hätte ich gerne mal gewußt - ohne superspeziallösung wenn´s geht - wie ich einen noch höheren Duchsatz schaffen kann. Falls es aber nur mit einer Speziallösung geht, bitte auch die hier posten.

Danke im Voraus.

MfG

Andreas Lange

Spassmachinen plannen
Moien

für eine spezielle Grafikanwendung brauche ich höchstmöglichen
Datendurchsatz.

Von wo nach wo ? also vom RAM zur Platte oder von der Platte zum Netzwerk… ?

Ich nehm mal an vom RAM zu Platte.

Der Preis ist (zumindest bei der jetzigen
Infosuche) erst einmal zweitrangig.

Das hört man doch gerne.

Der Rechner mit seinen 6
Terrabyte HDD Speicherplatz ist sowieso sauteuer. Nach meiner
jetzigen Informationslage komme ich mit einem RAID-5-System
auf ca. 70 MB pro Sekunde.

90 MB/s ist schon drin, aber nicht mit billigen Controllern…

Das bedeutet, dass das ca. 200 MB
große zu speichernde Bild ca. 3 Sekunden zum speichern
benötigt.

Für die vorliegende Anwendung ist das aber zu wenig.

Die Anwendung sollte geändert werden. Wozu braucht ihr 200MB-Bilder ?

Nun hätte ich gerne mal gewußt - ohne superspeziallösung
wenn´s geht - wie ich einen noch höheren Duchsatz schaffen
kann.

OK…

Wie gross muss die Platte mindestens sein ?

Muss der Speicherplatz Redundanz haben ? (Sprich muss das System einen Plattencrash überleben ?)

Darf’s ein spezielles Motherboard sein, oder muss es mit was bestehendem auskommen ?

Darf’s SCSI sein ?

cu

Ich weiß ja nicht, wieviel von dem Kram am Stück gespeichert werden muss, aber am schnellsten kämest du wohl mit einer RAM-Disk.

Hallo Allerseits,

genauer:

Tyan Board - S2676; 4 GB RAM; 2 Xeon-Prozessoren; Win XP Prof.

MfG

Andreas Lange

Hallo Olaf,

Ich weiß ja nicht, wieviel von dem Kram am Stück gespeichert
werden muss, aber am schnellsten kämest du wohl mit einer

Wie genau meinst Du das? Es wird ein Bild aufgenommen und die anfallenden Daten sind ca. 200 MB groß. Und für das Speichern soll halt sowenig Zeit wie irgendmöglich aufgewendet werden.

RAM-Disk.

Da mehrere Bilder im Speicher gehalten werden, ist leider kein Platz für eine RAM-Disk.

MfG

Andreas Lange

Moien

Tyan Board - S2676; 4 GB RAM; 2 Xeon-Prozessoren; Win XP Prof.

2 PCI-X Slots… Klasse:

2x das Ding: http://www.directron.com/2230slp.html und 16x sowas: http://www.seagate.com/cda/products/discsales/enterp…

Darüber dann ein RAID-0. Das wären dann (laut Datenblatt, konservative Schätzung) 16x 80MB/s = 1.2GB, verteilt auf 3 U320-Kanäle. Leider wird der PCI-X Bus das etwas einbremsen. Aber auf 700MB/s sollte man schon kommen.

Von der Grösse her wären das dann 2.3 TB.

cu

Da mehrere Bilder im Speicher gehalten werden, ist leider kein
Platz für eine RAM-Disk.

Ja wieso? RAM gibt es in GB-Größen und (Server)Boards mit zig Speicherplätzen.

Moien

'n Abend,

Tyan Board - S2676; 4 GB RAM; 2 Xeon-Prozessoren; Win XP Prof.

Hat’s auch ein Gehaeuse? Ist da _Platz_ drin? Konntet ihr euch kein Betriebssystem leisten?

2 PCI-X Slots… Klasse:

Und PCI-E…

2x das Ding: http://www.directron.com/2230slp.html

Wenn’s intern und etwas mehr sein darf: http://www.areca.com.tw/products/html/pcix-sata.htm

und 16x sowas:
http://www.seagate.com/cda/products/discsales/enterp…

Naja, 48 SATA-Platten findet man schon: http://www.hitachigst.com/portal/site/en/menuitem.8f…

Darüber dann ein RAID-0. Das wären dann (laut Datenblatt,
konservative Schätzung) 16x 80MB/s = 1.2GB, verteilt auf 3
U320-Kanäle. Leider wird der PCI-X Bus das etwas einbremsen.

Stimmt, weshalb es mit dem Areca auch nicht schneller wird (aber groesser).

Aber auf 700MB/s sollte man schon kommen.

Weshalb man dann ja zur Not den PCI-E bestuecken kann. Ueber den hab ich schon 900MB/s+ ins Netzwerk geblasen. Da dann vielliecht sowas http://www.areca.com.tw/products/html/pcie-sata.htm und 16x das andere und schon duerfte auch billiger sein.

Von der Grösse her wären das dann 2.3 TB.

24TB. Meiner ist groesser.

Gruss vom Frank.

Hallo,

Tyan Board - S2676; 4 GB RAM; 2 Xeon-Prozessoren; Win XP Prof.

Hat’s auch ein Gehaeuse? Ist da _Platz_ drin? Konntet ihr
euch kein Betriebssystem leisten?

Ich habe mich auch spontan gefragt, ob man die Daten bei hinreichend großem RAM nicht einfach erstmal im Write-Cache des Betriebssystems versenken kann. Naja, der Fragende sagt ja wenig über den Zeitverauf der anfallenden Daten …

Sebastian

Moien

Aber auf 700MB/s sollte man schon kommen.

Weshalb man dann ja zur Not den PCI-E bestuecken kann. Ueber
den hab ich schon 900MB/s+ ins Netzwerk geblasen. Da dann
vielliecht sowas
http://www.areca.com.tw/products/html/pcie-sata.htm
und 16x das andere und schon duerfte auch billiger sein.

Ich wusste gar nicht dass die für PCIe schon raus sind. Danke für die Info, das hilft mir hier gerade weiter.

Von der Grösse her wären das dann 2.3 TB.

24TB. Meiner ist groesser.

Schluck. Wieviel TB schaft eigentlich NTFS so … ?

cu

Moien

Ich mach einen 2. Vorschlag: das H8501-sytem von iwill.

http://www.iwill.net/product_2.asp?p_id=90&sp=Y

128GB RAM, sollte deutlich mehr als 4 GB/s speichern können. Opterons sind Xenons im Moment überlegen was Datendurchsatz (und Rechenspeed) angeht…

Und fürs wirteback stehen 4 PCI-X zur Verfügung. Und 2x Gigabit Ethernet.

Und das Gehäuse ist auf viele Platten ausgelegt.

cu

Hallo,

Für die vorliegende Anwendung ist das aber zu wenig.

Die Anwendung sollte geändert werden. Wozu braucht ihr
200MB-Bilder ?

Die Anwendung kann so einfach nicht geändert werden. Die 200MB setzen sich aus drei Bildern zusammen, die von 3 ganz speziellen proprietären Framegrabbern (geniales Eigenprodukt) geliefet werden.

Wie gross muss die Platte mindestens sein ?

Für´s Erste ca. 6 GB.

Muss der Speicherplatz Redundanz haben ? (Sprich muss das
System einen Plattencrash überleben ?)

Derzeit haben wir eine Lösung, bei der 2 Platten kpl. crashen können und die Redundanz automtisch ins Raid gefahren wird.

Darf’s ein spezielles Motherboard sein, oder muss es mit was
bestehendem auskommen ?

Hier liegt ein Problem. Es muß meines Wissens das von mir in dem anderen Post angegebene Mainboard sein, da dieses mit den „eigenwilligen“ Framegrabbern sicher zusammenarbeitet. Neuere/Andere sind derzeit im Test.

MfG

Andreas Lange

Darf’s SCSI sein ?

cu

Hallo,

Hat’s auch ein Gehaeuse? Ist da _Platz_ drin? Konntet ihr

19"-Gehäuse 4HE (Tiefe glaube ich ca. 70 cm). 16 3,5"-Einschübe.

euch kein Betriebssystem leisten?

Verzeihung, darauf habe ich keinen Einfluß.

Wenn’s intern und etwas mehr sein darf:
http://www.areca.com.tw/products/html/pcix-sata.htm

Das sieht schon sehr gut aus.

Danke für die Infos.

MfG

Andreas Lange

Hallo,

Ich habe mich auch spontan gefragt, ob man die Daten bei
hinreichend großem RAM nicht einfach erstmal im Write-Cache
des Betriebssystems versenken kann. Naja, der Fragende sagt ja
wenig über den Zeitverauf der anfallenden Daten …

Der RAM wird jetzt schon so voll mit Bilddaten geschrieben, dass die Queue überläuft. Die Bilddaten werden zu verschiedenen Codierungsstationen gesandt und von Personen ausgewertet. Die Objekte kommen aber schneller als die Codierung stattfindet.

Die Lücke zwischen den 200 MB großen Bildern ist ca eine halbe bis eine Sekunde. Dann muß mit der Acquirierung des nächsten begonnen werden.

MfG

Andreas Lange

Moien

Die Anwendung kann so einfach nicht geändert werden. Die 200MB
setzen sich aus drei Bildern zusammen, die von 3 ganz
speziellen proprietären Framegrabbern (geniales Eigenprodukt)
geliefet werden.

Also maximal 200MB alle 0.5 Sekunden ?

Das Zeug müsste dann also über PCI-X reinkommen ? OK, damit fallen PCI-X Raid-Controller schonmal raus. Der Bus ist ja schon vorbelastet. Bleidt die PCIe Lösung vom Frank.

Wie gross muss die Platte mindestens sein ?

Für´s Erste ca. 6 GB.

RAM-Disk. Gar nicht weiter diskutieren, baus auf eine RAM-Disk. Das wird billiger und schneller als alles was du mit Platten aufbauen kannst.

Du schreibst in den anderen Post was von verschicken an andere Stationen: welches Netzwerk wird dazu benutzt ?

Nur so mal in’s Unreine gesponnen: ihr bekommt 200-400 MB/s rein. Das Zeug muss zu anderen Stationen. Nehmen wir mal an es sind viele andere Stationen (10). D.h. die anderen Stationen müssen „nur“ 20-40MB/s speichern. Das geht mit normalen 7200’er IDE-Platten. Wenn Ausfallsicherheit gegeben sein muss eben mit Software RAID-1.

OK, die Übertragung wird nicht billig. 10GB Ethernet wär eine Möglichkeit. Nach einem Switch kanns dann runter auf 1 GB Ethernet.

Muss der Speicherplatz Redundanz haben ? (Sprich muss das
System einen Plattencrash überleben ?)

Derzeit haben wir eine Lösung, bei der 2 Platten kpl. crashen
können und die Redundanz automtisch ins Raid gefahren wird.

Hast du nicht was von RAID5 (=1 Platte darf draufgehen) geschrieben ?

Darf’s ein spezielles Motherboard sein, oder muss es mit was
bestehendem auskommen ?

Hier liegt ein Problem. Es muß meines Wissens das von mir in
dem anderen Post angegebene Mainboard sein, da dieses mit den
„eigenwilligen“ Framegrabbern sicher zusammenarbeitet.

Stell kein grosses Problem dar: welche PCI-Slots sind noch frei und wie stark wird welcher PCI-Bus durch die Graber belastet ?

cu

Hallo,

Die Anwendung kann so einfach nicht geändert werden. Die 200MB
setzen sich aus drei Bildern zusammen, die von 3 ganz
speziellen proprietären Framegrabbern (geniales Eigenprodukt)
geliefet werden.

Also maximal 200MB alle 0.5 Sekunden ?

Bei der derzeit eingesetzten Lösung kommen die Objekte mit einer max. Lücke von 1 Sekunde. D.h. spätestens zu diesem Zeitpunkt müssen die 200 MB gespeichert sein.

Das Zeug müsste dann also über PCI-X reinkommen ? OK, damit
fallen PCI-X Raid-Controller schonmal raus. Der Bus ist ja
schon vorbelastet. Bleidt die PCIe Lösung vom Frank.

Wie gross muss die Platte mindestens sein ?

Für´s Erste ca. 6 GB.

RAM-Disk. Gar nicht weiter diskutieren, baus auf eine
RAM-Disk. Das wird billiger und schneller als alles was du mit
Platten aufbauen kannst.

Das ist natürlich Blödsinn. Ich meinte eigentlich 6 TB, die geschrieben werden müssen. Und dann halt die einzelnen Files in entsprechender Geschwindigkeit.

Du schreibst in den anderen Post was von verschicken an andere
Stationen: welches Netzwerk wird dazu benutzt ?

1 GB Ethernet

Nur so mal in’s Unreine gesponnen: ihr bekommt 200-400 MB/s
rein. Das Zeug muss zu anderen Stationen. Nehmen wir mal an es

Die Angabe versteht sich pro Objekt. Danach wird es aus dem RAM zu den einzelnen Stationen geschickt. Dort bearbeitet und dann verworfen. Das gespeicherte Bild auf dem Server bleibt erhalten. Da das Bearbeiten einige Zeit dauert, die Applikation auf dem Server läuft, wird der gesamte RAM für die Bevorratung/Behandlung der gescannten Bilder benötigt. Deswegen fällt auch die RAM-Disk als Lösung weg.

sind viele andere Stationen (10). D.h. die anderen Stationen
müssen „nur“ 20-40MB/s speichern. Das geht mit normalen

Die Arbeitsstationen speichern gar nichts. Sie bearbeiten die Bilder online.

OK, die Übertragung wird nicht billig. 10GB Ethernet wär eine
Möglichkeit. Nach einem Switch kanns dann runter auf 1 GB
Ethernet.

Ob letzten Endes ein 1GB-Ethernet ausreicht hängt von der entgültigen Anzahl der Stationen ab und kann derzeit noch nicht entschieden werden. Dies hat aber prinzipiell nichts mit der Speichergeschwindigkeit auf die HDD des Servers zu tun.

Muss der Speicherplatz Redundanz haben ? (Sprich muss das
System einen Plattencrash überleben ?)

Derzeit haben wir eine Lösung, bei der 2 Platten kpl. crashen
können und die Redundanz automtisch ins Raid gefahren wird.

Hast du nicht was von RAID5 (=1 Platte darf draufgehen)
geschrieben ?

Der Kollege, der den Rechner aufgebaut hat, hat diese Angaben so gemacht. Leider ist er derzeit nicht erreichbar. Evtl. ist es ein spezieller Kontroller, der dies kann. Ich bin intensiv dran diese Info zu bekommen.

Darf’s ein spezielles Motherboard sein, oder muss es mit was
bestehendem auskommen ?

Hier liegt ein Problem. Es muß meines Wissens das von mir in
dem anderen Post angegebene Mainboard sein, da dieses mit den
„eigenwilligen“ Framegrabbern sicher zusammenarbeitet.

Stell kein grosses Problem dar: welche PCI-Slots sind noch
frei und wie stark wird welcher PCI-Bus durch die Graber
belastet ?

Auch das bin ich gerade am eroieren. Da ich aber nicht ständig vor Ort bin, zieht sich das alles ein wenig.

Auf jeden Fall danke für Deine Infos.

MfG

Andreas Lange

Hallo,

Wie gross muss die Platte mindestens sein ?

Für´s Erste ca. 6 GB.

RAM-Disk. Gar nicht weiter diskutieren, baus auf eine
RAM-Disk. Das wird billiger und schneller als alles was du mit
Platten aufbauen kannst.

Das ist natürlich Blödsinn. Ich meinte eigentlich 6 TB, die
geschrieben werden müssen. Und dann halt die einzelnen Files
in entsprechender Geschwindigkeit.

Mann oh Mann, auch das ist so nicht korrekt. Letzten Endes werden 6 TB Bilddaten zur Auswertung vorliegen. Und diese werden in den vorgenannten Zeitfenstern geschrieben. Wenn nun das Schreiben zu langsam ist, wird das nachfolgende Objekt nicht gespeichert (per RAM jedoch weiter verarbeitet).

Ich hoffe, dass ich es jetz richtig dargestellt habe.

MfG

Andreas Lange

Moien

Das ist natürlich Blödsinn. Ich meinte eigentlich 6 TB, die
geschrieben werden müssen.

6 TB sind ±12 IDE/SATA-Platten à ±500GB oder ±42 SCSI-Platten à 140GB.

Und das ist ohne Redundanz. Das wird nicht billig. Allerdings reicht die Geschwindigkeit von 12 SATA-Platte locker aus um 200MB/s zu fressen, d.h. SCSI ist vom Tisch.

Du schreibst in den anderen Post was von verschicken an andere
Stationen: welches Netzwerk wird dazu benutzt ?

1 GB Ethernet

6TB bei maximal 100MB/s… ±18 Stunden. Ihr habt also massig Zeit zum verarbeiten ?

Derzeit haben wir eine Lösung, bei der 2 Platten kpl. crashen
können und die Redundanz automtisch ins Raid gefahren wird.

Hast du nicht was von RAID5 (=1 Platte darf draufgehen)
geschrieben ?

Der Kollege, der den Rechner aufgebaut hat, hat diese Angaben
so gemacht.

Wenn er sehr viele Platten verbaut hat kann er auf RAID5 mit 2 crashs maximal kommen. Allerdings verwundern mich dann die 70MB/s doch etwas.

cu

Hallo,

Hi,

Das ist natürlich Blödsinn. Ich meinte eigentlich 6 TB, die
geschrieben werden müssen.

Es duerfte schwer werden, dieses Volume als eine Partition in das (irgendein) Betriebssystem einzubinden. Im Linux werden solche Storage-Controller als SCSI angesprochen. Der SCSI-Standard hat bei 2TB eine ziemlich haessliche Grenze. (Es gibt Controller/Treiber, die SCSI etwas erweitern und dann nicht mehr an sowas scheitern.) Dann muss man oberhalb von SCSI mit Software-RAID oder LVM anfangen, rumzuzaubern. Alles nicht so richtig schoen. (Ich spreche von Linux, das kann bei einem modernen Betriebssystem wie Windows XP natuerlich ganz anders aussehen; aber davon verstehe ich nichts.)

Gruss vom Frank.