Höchste Beschleunigung im CERN-Datennetz mit Glasfaser-Komponenten von tde
tde implementiert maßgeschneiderte Glasfaser-Verkabelungslösung im weltweit führenden Forschungslabor für Teilchenphysik

Höchste Beschleunigung im CERN-Datennetz mit Glasfaser-Komponenten von tde

Gewaltig sind die Datenmengen, die die Europäische Organisation für Kernforschung, CERN, tagtäglich produziert. Allein beim weltweit größten Teilchenbeschleuniger LHC (Large Hadron Collider) rauschen pro Sekunde Milliarden von Sekundärteilchen durch die Detektoren. Die Archivierung dieser riesigen Datenmenge zählt zu den wesentlichen Aufgaben des CERN. Ohne ein hoch verfügbares Hochleistungsdatennetz und ein High-End-Rechenzentrum ist diese Datenflut nicht zu bewältigen. CERN-Ingenieure haben daher mit ihrem Partner, dem Netzwerkspezialisten tde, ein maßgeschneidertes, hoch kompaktes Verkabelungssystem mit Multimode-Glasfasern realisiert. Damit ist eine zuverlässige Hochgeschwindigkeitsübertragung auch für künftige Anforderungen gewährleistet.

Das CERN Forschungslabor

Die Europäische Organisation für Kernforschung CERN hat ihren Sitz an der schweiz-französischen Grenze in der Nähe von Genf. Mit seinen rund 2.500 Mitarbeitern ist die Organisation das weltweit größte und modernste Teilchenphysik-Forschungszentrum. Über 12.000 Gastwissenschaftler aus 105 Nationen arbeiten an Experimenten und betreiben physikalische Grundlagenforschung. Schwerpunktmäßig erforschen die Wissenschaftler den Aufbau der Materie mit Hilfe großer Teilchenbeschleuniger.

Mehr Schnelligkeit im Datennetz

Nachdem das CERN beschlossen hatte, ihre bestehende Glasfaser-Infrastruktur auszubauen, mussten Rechenzentrumsmitarbeiter eine geeignete Lösung finden. Mit einem Upgrade der bestehenden Infrastruktur wollte das CERN die Datenübertragungsgeschwindigkeit zwischen den installierten Komponenten im Datenzentrum steigern, um für gegenwärtige und künftige Ansprüche bestens gerüstet zu sein. „Glasfaserverbindungen sind eine optimale Lösung, um den Anforderungen an immer höhere Übertragungsgeschwindigkeiten gerecht zu werden“, erklärt Stefano Meroli, verantwortlicher Mitarbeiter für die Installation der neuen Lösung. „Wir hatten bereits Multimode-Verbindungen mit Trunkkabel, MPO-Steckern und optischen Modulen installiert. Die derzeitige Situation erforderte jedoch eine besser strukturierte und leistungsfähigere Verkabelungslösung“, so Stefano Meroli weiter.

Die Messlatte lag hoch

Um die hohe Datenübertragungsgeschwindigkeit sicherstellen zu können, mussten die neuen Glasfaserkomponenten qualitativ hochwertig und ausfallsicher sein. Nur eine hohe Qualität der Netzwerkbausteine kann maximale Zuverlässigkeit über einen langen Lebenszyklus bieten. Minderwertige Komponenten hingegen können auf lange Sicht die Performance des Rechenzentrums beeinträchtigen. Die neue Multi-Mode-Verkabelungslösung mit zunächst 10 Gbit/s sollte modular sein, um später einfach und schnell auf höhere Übertragungstechnologien mit 40 und 100 Gbit/s migrieren zu können – ohne dass tiefgreifende Veränderungen in der Infrastruktur vorzunehmen sind. Schließlich musste eine Lösung gefunden werden, die sich kundenspezifisch an die technischen Anforderungen des CERNs anpassen ließe.

tde macht das Rennen

Im ersten Schritt legten die Projektverantwortlichen des CERN die technischen Anforderungen an die neue Verkabelungslösung fest. In einer umfassenden Studie bestimmten sie anschließend sowohl Netzwerktopologie als auch Art und Umfang der Glasfaserkomponenten. Nachdem das CERN seine Wünsche und Anforderungen an die neue Glasfaserverkabelung definiert hatte, musste das Forschungsinstitut nur noch den geeigneten Partner für die Umsetzung finden. CERN unterzeichnete einen Support-Rahmenvertrag, bei dem die tde – trans data elektronik Lieferant für Glasfaser-komponenten wie Glasfaser-Kabel und Endgeräte war. Die Netzwerkspezialist tde sitzt in Dortmund. Da die tde das CERN bereits im Rahmen früher Verträge mit vorgefertigten optischen Glasfaserkabeln und Terminhardware (optische Module und Baugruppenträger) erfolgreich beliefert hatte, lag es nahe, den Netzwerkspezialisten erneut zu beauftragen.

Schritt für Schritt zum Hochleistungsdatennetz

Im ersten Schritt erstellte CERN eine detaillierte Analyse der Anforderungen und reichte die Aufstellung aller benötigten Glasfaser-Komponenten an die tde weiter. Unter der Leitung von CERN-Ingenieuren installierten die beiden Vertragspartner erfolgreich die vorgefertigten Trunkkabel mit Multimode-Fasern der Kategorie OM4 sowie optische Module und Modulträger von tde. Die biegeoptimierten Trunkkabel mit OM4 Fasern besitzen einen Außenmantel in Magenta und weisen an ihren Enden jeweils sechs MPO-Stecker auf, wobei jeder Stecker 12 Fasern umfasst. Bei den ausgewählten MPO-Steckverbindern handelt es sich um Mehrfaserstecker vom Typ MTP ausgestattet mit Elite–Ferrulen. Die Glasfaserkabel sollten dem im Juni 2010 verabschiedeten Ethernet-Standard IEEE 802.3ba entsprechen. Die folgende Tabelle fasst die Anforderungen gemäß dieser Norm an eine Verbindung mit 40 Gbit/s und 100 Gbit/s Datenübertragungsrate bei einer Wellenlänge von 850 nm zusammen.

Bild 2
Tabelle 1: Glasfaserspezifikation nach IEEE 802.3ba Standard für 40 Gb/s und 100 Gb/s bei 850 nm Wellenlänge. Kanal Einfügedämpfung beinhaltet die Einfügedämpfung aller Verbindungen. Die Einfügedämpfung der Verbindungen umfasst jeweils die Einfügedämpfung von zwei Anschlüssen mit je 0,5dB

Zugleich musste die tde berücksichtigen, dass ein kompletter Link aus mindestens zwei Modulen und einem Trunkkabel besteht, woraus vier Steckverbindungen pro Link resultierten. Da Netzwerktechniker in modernen Rechenzentren wie dem CERN mehrere Links zusammenpatchen, können bis zu acht oder mehr Steckverbindungen in einem Gesamtlink existieren. Entsprechend muss der Verlust jedes einzelnen Steckverbinders gering sein. Die tde bietet für ihre MPO-Komponenten eine außerordentlich gute Performance weit über den Standard hinaus.

Module nach Maß

„Das CERN wünschte sich einige Modifikationen bezüglich der Verteilertechnik“, berichtet André Engel, Geschäftsführer der tde. „Die Modulträger sollten ausziehbar und die Module werkzeuglos zu befestigen sein.“ Zugunsten der Ausziehbarkeit musste die tde die Packungsdichte um zwei Module von acht auf sechs reduzieren. Da das CERN die Module und Modulträger auch im Feld am Teilchenbeschleuniger einsetzen wollte, benötigte die Forschungseinrichtung eine nichtmagnetische Variante. Dafür musste die tde die Module in Edelstahl anfertigen. „Für das CERN haben wir quasi eine eigene Verkabelungs-Systemplattform entwickelt. In enger Zusammenarbeit haben wir zudem die Konfiguration von Grund auf neu entwickelt“, erklärt André Engel. Mit nachhaltigem Erfolg: Aus der kundenspezifischen Lösung hat der Netzwerkexperte anschließend den Belegungstyp eines neuen Produktes entwickelt, das tde anschließend ins Portfolio aufgenommen hat: Das “tML Xtended“. Die Module baute das CERN in tBG2 Baugruppenträger mit 19 Zoll auf 3HE mit einem 1HE Überlängenfach ein. Die Frontplatte besteht aus Aluminium. Wie die MPO-Stecker im CERN-Rechenzentrum an die Module angeschlossen sind, zeigt die Abbildung 1. Für Übertragungsgeschwindigkeiten von 10 Gbit/s erfolgt die Anbindung über OTM (Optical Transport Module). Diese Module teilen die 24 Fasern der zwei MPO-Steckverbinder in 24 Einzelfaser-LC/PC-Stecker an der Frontseite. Bei Geschwindigkeiten von 40 Gbit/s oder 100 Gbit/s ist die Anbindungsmöglichkeit über Teilfrontplatten mit MPO-„Key-up-to-Key-up“- Anschlussplatten möglich. Hier sind die Trunkkabel über MPO-Multi-fibre patch cords (MPO--Mehrfaserverbindungskabel) direkt an die aktiven Komponenten angebunden.

Bild 3
Abb. 1 - Modulares Verkabelungssystem (Prinzip)

Die Infrastruktur: Unter einem guten Stern

Als Topologie wählte das CERN die Sterntopologie. Hierbei sind alle Übertragungsstationen sternförmig an einen zentralen Knoten angeschlossen. An der Sternpunktseite erfolgt der Anschluss über Standard 19"-Baugruppenträger (3 HE) mit 1HE-Überlängenfach. Jeweils ein Kabel verläuft vom Sternpunkt zu den Zielracks innerhalb des Serverraums. Auf der Zielseite erfolgt der Anschluss über 19"-Modulträgermit 1HE. Jeder 19"-Modulträger (1HE) kann an seiner Frontplatte bis zu drei Module mit 24 LC/PC-Anschlüssen (siehe Abbildung 2) oder

Bild Seite 4
Abb.2 - Modulträger 19"/1HE geöffnet mit installiertem Modul

MPO-Anschlussplatten für das Anschließen von Multifaser-Steckverbinder aufnehmen. Abbildung 3 zeigt die Installation

Bild Seite 5
Abb.3 - Modulträger 19"/3HE mit installierten Modulen im Zentralverteiler

innerhalb eines Sternpunkt-Racks. Zwei der insgesamt sechs Kabel eines Trunkkabels sind mit einem OTM verbunden. Die übrigen vier sind Vorratskabel und lassen sich im Führungskanal für künftige Upgrades zwischenlagern. Um den Platz für weitere OTMs oder Anschlussplatten freizuhalten, werden Blindfrontplatten eingesetzt. Die Trunkkabel finden in Kabelschächten im Doppelboden Platz. (siehe Abbildung 4) Vor der Übergabe an das CERN wurden finale Feldtests durchgeführt, um zu prüfen, ob die Verluste mit der CERN-Spezifikation übereinstimmen.

Bild Seite 6
Abb. 4 - Gitterrinnen im Doppelboden

Auf Jahre vorgebaut

„tde realisierte die Lösung innerhalb der vereinbarten Zeitspanne und erfüllte die Anforderungen hinsichtlich optischer Performance, mechanischem Design und Qualität“, so Stefano Meroli. Der Faktor „Qualität“ spielte eine immens große Rolle. Durch präzise Qualitätssicherungstests, zunächst bei tde in der Fertigung und anschließend während und nach den Installationsarbeiten bei CERN, konnten die Partner garantieren, dass die Lösung höchste Qualitätsstandards erfüllt. Das CERN plant für die Zukunft: Mit dem neuen modularen Verkabelungssystem erreicht das Forschungsinstitut derzeit Datenübertragungs-geschwindigkeiten von 10 und 40 Gbit/s und ist für künftige Upgrades auf 100 Gbit/s bestens gerüstet. Durch die qualitativ hochwertigen, ausfallsicheren Komponenten profitiert das CERN von einem langen Infrastruktur-Lebenszyklus.

Bildauswahl:

Bild Seite 7
Bild 1 - Stefano Meroli

Bild 2- Rechenzentrum