science >> Wetenschap >  >> Elektronica

Record-setting overdracht van 1 petabyte aan gegevens

Deze screenshot van MyESnet toont de zuidelijke links van het netwerk donkerrood, gegevensoverdrachten van meer dan 50 Gbps aangeven tijdens de 5, 000 mijl overdracht uitgevoerd door SLAC en Zettar Inc.

Met behulp van een 5, 000-mijls netwerklus beheerd door ESnet, onderzoekers van het SLAC National Accelerator Laboratory (SLAC) van het Department of Energy en Zettar Inc. hebben onlangs 1 petabyte in 29 uur overgedragen, met encryptie en checksumming, het record van vorig jaar met 5 uur verbeteren, een verbetering van bijna 15 procent.

Het project is gericht op het bereiken van de hoge gegevensoverdrachtsnelheden die nodig zijn om de hoeveelheid gegevens die door de Linac Coherent Light Source II (LCLS II) moet worden gegenereerd, op te vangen. die naar verwachting in 2020 online zal komen. De LCLS is 's werelds eerste harde röntgenvrije-elektronenlaser (XFEL) en zijn stroboscoopachtige pulsen zijn slechts een paar miljoenste van een miljardste van een seconde lang, en een miljard keer helderder dan eerdere röntgenbronnen. LCLS II zorgt voor een grote sprong in capaciteit - van 120 pulsen per seconde naar 1 miljoen pulsen per seconde. Wetenschappers gebruiken LCLS om scherpe foto's te maken van atomaire bewegingen, kijk hoe chemische reacties zich ontvouwen, de eigenschappen van materialen onderzoeken en fundamentele processen in levende wezens onderzoeken.

De verhoogde capaciteit zal naar verwachting gegevensoverdrachten van meerdere terabits per seconde genereren - aangezien de experimentele resultaten van SLAC naar de supercomputerfaciliteiten van het Department of Energy (DOE) in de nationale laboratoria van Lawrence Berkeley en Oak Ridge worden gestuurd voor analyse. Als de toegewijde netwerkgebruikersfaciliteit van de DOE voor wetenschappelijk onderzoek, ESnet vervoert gegevens tussen universiteiten en DOE's nationale laboratoria en nationale gebruikersfaciliteiten langs een multi-100 gigabit-per-seconde (Gbps) backbone-netwerk.

Volgens Stanford Emeritus Les Cottrell, de huidige demonstratie van datatransport met hoge snelheid maakt deel uit van een programma om tools te ontwikkelen en te evalueren om te voldoen aan de kritieke vereisten voor gegevensoverdracht van het komende decennium voor de volgende generatie XFEL's bij SLAC.

De grafiek laat zien dat de proef van de overdracht van petabyte gedurende 29 uur goed was voor een derde van het totale netwerkverkeer op ESnet. Krediet:US Department of Energy

Zettar, een door de National Science Foundation gefinancierd softwarebedrijf in Palo Alto, ontwikkelt hyperscale datadistributiesoftwareoplossing die in staat is tot multi-100+Gbps overdrachtsnelheden en werkt samen met ESnet en DOE nationale laboratoria. Voor de proef, het team gebruikte ESnet's On-Demand Secure Circuits en Advance Reservation System (OSCARS) om de bandbreedte voor de run te reserveren.

"Het innovatieve en veelzijdige karakter van ESnet's OSCARS stelde ons in staat om een ​​unieke 5000-mijl 100 Gbps loop te ontwerpen, die onze ESnet-collega's in 2015 snel hebben helpen opzetten "Zei Zettar-oprichter en CEO Chin Fang. "Het ontwerp van ESnet maakt het gebruik van een apart speciaal kanaal voor het testen mogelijk zonder impact op of interferentie van productieverkeer. We waren dus in staat om de gegevensopslagclusters en de gegevensoverdrachtknooppunten samen in hetzelfde rack te plaatsen, hoewel ze zich aan beide uiteinden van de lus bevonden. Fysiek waren ze gescheiden door inches, maar digitaal zijn ze gescheiden door 5000 mijl. Verder hebben de clusters zelf een zelfopgelegde cap van 80 Gbps."

Fang zei dat de vijf uur durende verbetering in het overbrengen van de petabyte aan gegevens werd bereikt dankzij verbeteringen in zowel software als hardware. Dit jaar, Zettar heeft de parallelliteit van zijn software aanzienlijk verbeterd om gegevensoverdrachten voor zowel versleutelde als niet-versleutelde gegevens te versnellen. Intel voorzag het team ook van snellere processors en solid-state geheugenproducten om gegevens sneller van en naar de hoofdopslagsystemen te verplaatsen. In dit geval, het project gebruikte gesimuleerde datasets met bestandsgrootteverdelingen geleverd door de LCLS Data Management Group.

"Het flexibele verkeerstechnische ontwerp van het ESnet-netwerk zorgt ervoor dat op TCP gebaseerde overdrachtsprotocollen effectief kunnen worden gebruikt voor gegevensverplaatsing met hoge doorvoer. ", zegt ESnet-directeur Inder Monga. "De leidende strategie van ESnet is om te anticiperen op en voorop te blijven lopen op de vereisten voor gegevensoverdracht van onze wetenschappelijke gebruikers. Lopende proeven zoals die we ondersteunen voor SLAC zijn belangrijk voor ons omdat we zien welke richting de onderzoeksteams uitgaan en we onze ondersteuning en infrastructuur kunnen verbeteren om klaar te zijn wanneer faciliteiten zoals LCLS II online komen."