Bereit für Exascale: Forscher entwickeln Algorithmus für Gehirn-Simulationen auf Superrechnern der nächsten Generation
Jülich, 19. Februar 2018 – Das menschliche Gehirn mit seinen hundert Milliarden Nervenzellen ist ein Organ von ungeheurer Komplexität. Selbst mithilfe der schnellsten Superrechner ist es bis jetzt unmöglich, den Austausch von Gehirnsignalen in einem Netzwerk dieser Größe zu simulieren. Wissenschaftler des Forschungszentrums Jülich, des japanischen RIKEN-Instituts in Kobe und Wako und des schwedischen KTH Royal Institute of Technology in Stockholm haben gemeinsam nun die Voraussetzungen geschaffen, das Potenzial kommender Rechnergenerationen für entsprechende Simulationen voll auszuschöpfen. Die verbesserte Software beschleunigt auch Simulationen auf heutigen Superrechnern deutlich.
„Seit 2014 sind wir in der Lage, mit unserer Software Netzwerke bestehend aus ungefähr einem Prozent aller Neuronen des menschlichen Gehirns zu simulieren“, erklärt Prof. Markus Diesmann vom Forschungszentrum Jülich. Die nächste Generation von Supercomputern, die sogenannte Exascale-Klasse, wie der in Kobe geplante Nachfolger des K Computers und JUWELS in Jülich, werden die Leistungsfähigkeit heutiger Supercomputer um das zehn- bis hundertfache übertreffen. Zum ersten Mal wird Wissenschaftlern dann die Rechenleistung zur Verfügung stehen, um neuronale Netzwerke in der Größenordnung des menschlichen Gehirns zu simulieren.
Scheinbar eine Sackgasse
Die Forscher nutzen für die Simulationen die weitverbreitete, frei verfügbare Software NEST, die unter anderem ein wichtiger Bestandteil im europäischen Human Brain Project ist. Das Verhalten jedes Neurons im Netzwerk wird von der Software durch eine Handvoll mathematischer Gleichungen repräsentiert. Bei der Erweiterung des Codes für immer leistungsstärkere Maschinen steckten die Experten um Markus Diesmann vor ein paar Jahren trotz aller Erfolge in einer Sackgasse. Supercomputer bestehen aus hunderttausend vernetzten Einzelrechnern, die auch als Rechenknoten bezeichnet werden. Jeder von ihnen ist ausgerüstet mit mehreren Prozessoren, die die anfallenden Berechnungen durchführen. „Während der Simulation der Nervenzell-Aktivität beherbergt jeder Rechenknoten Zehntausende von virtuellen Nervenzellen. Obwohl jedes dieser virtuellen Neuronen nur mit einem kleinen Teil aller Neuronen im gesamten Netzwerk verbunden ist, sendet bislang jedes dieser simulierten Neuronen seine Signale an alle Rechenknoten“, erklärt Dr. Susanne Kunkel vom KTH Royal Institute of Technology in Stockholm. „Auf welchen Knoten die Zielneuronen liegen, mit denen die Neuronen verbunden sind, ist der Software nicht bekannt. Daher muss jeder Rechenknoten entscheiden, ob ein eintreffendes Signal für ihn relevant ist oder nicht.“
Durchbruch durch neuen Algorithmus
Für vergleichsweise kleine Simulationen auf weniger als zehntausend Rechenknoten ist ein solches Kommunikationsschema optimal. Doch für Simulationen auf Exascale-Systemen ist diese Software kaum geeignet. Den Durchbruch, beschrieben in der jüngsten Veröffentlichung der Wissenschaftler, brachte ein neuer Algorithmus für die Konstruktion der virtuellen neuronalen Netzwerke. Vor dem Start der eigentlichen Simulation verständigen sich die Rechenknoten nun zunächst darüber, welche Knoten während der Simulation miteinander Informationen über die Aktivität der Neuronen austauschen. Jeder Rechenknoten erhält anschließend gezielt nur noch die Informationen, die auch für ihn bestimmt sind. Der speicherzehrende Test auf die Relevanz der empfangenen Signale gehört damit der Vergangenheit an.
Ein willkommener Nebeneffekt
Von der verbesserten Datenstruktur profitieren Neurowissenschaftler bereits auf heutigen Supercomputern. „Im Laufe unserer Untersuchungen sahen wir, dass aufgrund der effizienteren Kommunikation die neue Technologie auch jetzt schon unsere derzeitig größten Simulationen deutlich beschleunigt“, berichtet Susanne Kunkel. Dauerte auf dem Jülicher Supercomputer JUQUEEN die Simulation einer Sekunde biologischer Aktivität in einem neuronalen Netzwerk aus einer halben Milliarde Nervenzellen bisher knapp eine halbe Stunde, reduziert der neue Code diese Zeit auf nur noch etwas mehr als fünf Minuten. Das beschleunigt nicht nur die Forschung mit großen Netzwerkmodellen, sondern spart auch Energie und Rechenzeit auf dem Superrechner.
„Mit der neuen Technology werden wir die erhöhte Parallelität in den Prozessoren der Rechner der Exascale-Klasse deutlich besser nutzen können“, bemerkt Jakob Jordan, Erstautor der Studie und zu dieser Zeit Doktorand am Forschungszentrum Jülich. „Mit Exascale-Computern und der entsprechen Simulationssoftware werden sich erstmals Aspekte höherer Hirnfunktionen wie Plastizität und Lernprozesse in großen Netzwerken praktisch untersuchen lassen, die sich biologisch über mehrere Minuten erstrecken“, erläutert Markus Diesmann.
„Wir haben NEST bei der Erforschung von Parkinson bereits auf dem K Computer zur Simulation der komplexen neuronalen Aktivität in den Basalganglien eingesetzt. Mit der neuen Version von NEST werden wir auf dem post-K Computer Simulationen auf der Gehirn-Skala durchführen können, um die Mechanismen zu studieren, die der motorischen Kontrolle und mentalen Prozesse zugrunde liegen“, sagt Kenji Doya vom Okinawa Institute of Science and Technology (OIST).
„Die Arbeit ist ein wunderbares Beispiel für die internationale Kooperation bei der Entwicklung von Supercomputern der Exascale-Klasse“, freut sich Prof. Mitsuhisa Sato vom japanischen RIKEN-Institut in Kobe, der seit einigen Jahren mit Diesmann zusammenarbeitet. „Es ist wichtig, dass wir über Anwendungen verfügen, die diese wertvollen Maschinen vom ersten Tag an nutzen können.“
Die Forscher werden die neue Technologie mit der nächsten Version des NEST-Simulators als Open-Source-Software frei zugänglich machen, sodass nicht nur die beteiligten Forschungspartner, sondern die gesamte neurowissenschaftliche Community von dieser Entwicklung profitieren kann.
Originalpublikation: Jakob Jordan, Tammo Ippen, Moritz Helias, Itaru Kitayama, Mitsuhisa Sato, Jun Igarashi, Markus Diesmann and Susanne Kunkel
Extremely Scalable Spiking Neuronal Network Simulation Code: From Laptops to Exascale Computers. Front. Neuroinform., 16 February 2018 | https://doi.org/10.3389/fninf.2018.00002
In Jülich wird diese Arbeit unterstützt von dem Simulation Laboratory Neuroscience, einer Einrichtung des Bernstein Network Computational Neuroscience. Teilfinanzierung kommt von dem European Union Seventh Framework Programme unter grant agreement no. 604102 (Human Brain Project, HBP) und dem European Union’s Horizon 2020 research and innovation programme unter grant agreement no. 720270 (HBP SGA1) und dem Exploratory Challenge on Post-K Computer (Understanding the neural mechanisms of thoughts and its applications to AI) des Ministry of Education, Culture, Sports, Science and Technology (MEXT) Japan. Mit ihrem gemeinsamen Projekt zwischen Japan und Europa hoffen die Wissenschaftler zu dem Aufbau einer International Brain Initiative (IBI) beizutragen.
Weitere Informationen:
Pressemitteilung vom 16. November 2017: Wer folgt JUQUEEN auf den Thron?
Pressemitteilung vom 2. August 2013: 10,4 Billionen Synapsen auf K Supercomputer simuliert
Artikel auf der Webseite der Helmholtz-Gemeinschaft vom 14. Februar 2018: „Supercomputer: Einer für alle“
Institut für Neurowissenschaften und Medizin, Computational and Systems Neuroscience (INM-6)
