(english) (top)


Heinz, G.: Neuronale Interferenzen.
Autor gleich Herausgeber. Persönlicher Verteiler, 1993, 301 S.

Vorwort

Informationen können nur dann miteinander verknüpft werden, wenn sie zur selben Zeit am selben Ort anwesend sind. Digitale Gatter im PC oder Smartphone setzen zum Beispiel voraus, daß zwei zu verknüpfende Signale statisch für eine gewisse Zeit an den Eingängen eines Gatters anliegen. Computer besitzen deshalb einen Takt und eine Taktfrequenz. Die Dauer des Signals "Takt = high" definiert die kleinstmögliche Zeiteinheit einer Verarbeitung. Nach Ablauf des Taktes müssen alle Signale stabil an Eingängen anliegen.

Während Drähte und Schaltkreise (IC) im Computer jedes Signal mit etwa einem Zehntel der Lichtgeschwindigkeit übertragen, sind Nervennetze eine Million mal langsamer. Dafür haben sie auch keinen Takt. Und als ob das nicht schon Horror genug wäre, sind die Signale pulsartig. Neudeutsch sprechen wir von "Spikes".

Versuchen wir, zwei Spikes an einem AND-Gatter zusammenzubringen, so werden diese selten gleichzeitig ankommen: Der Gatterausgang wird still bleiben. Digitale Schaltungen funktionieren nicht so recht mit Spikes. Insbesondere dann nicht, wenn die Leitungen so langsam wie unsere Nerven sind. Informationen können nur dort verarbeitet werden, wo sie zur selben Zeit anwesend sind. Nervennetze funktionieren offenbar nicht so, wie unsere Computer. Wie aber funktionieren sie?

Um herauszufinden, wie Nervennetze funktionieren könnten, stellen wir uns vor, daß jeder Nerv in viele Richtungen verzweigt. Wenn wir jetzt zwei Spikes betrachten, die in unterschiedlichen Nerven herumirren, dann finden wir sicher eine Stelle, an der sich sich begegnen. Liegt an dieser Stelle eine Nervenzelle, wird sie erregt.

Im Gegensatz zum Computer, bei dem logische Pegel (0 oder 1) den Informationsgehalt bestimmen, bestimmt im Nervennetz der Ort der Gleichzeitigkeit des Zusammentreffens verschiedener Spikes eine Information. Nervennetze lassen sich damit nur schwer mit dem Computer nachbilden. Sie sind wesensverschieden.

Denkt man diesen Gedanken sehr lange weiter, entdeckt man das Prinzip dahinter: Nervennetze können nur projizierend (abbildend, bildartig) kommunizieren, niemals statisch wie ein Computer. Das erklärt, warum wir Jahre brauchen, um das Einmaleins zu lernen. Oder warum Gedächtniskünstler eine Bildergeschichte erfinden müssen, um sich ein paar Spielkarten merken zu können: Wir sind bei den Interferenznetzwerken angekommen. Der Informationsgehalt steckt wie bei einem Photo in der Schärfe einer Projektion. Aus Wellen werden Bilder und umgekehrt - Optik und Akustik fließen unter dem Dach der Interferenznetzwerke zusammen: "Sehend Hören" stand 1996 auf der ersten, akustischen Kamera.

Es grenzt an ein Wunder, daß der mit seinen Rattenexperimenten bekannt gewordene Karl Lahley ("In search of the engram") schon 1942 dazu kam, Interferenzen in Nervennetzen zu postulieren. Ich entdeckte folgendes Zitat leider erst im Nachlaß von Karl Pribram nach dessen Tod im Januar 2015. Karl hatte mir über die Jahre verschiedene Aufsätze zugesandt.

    “Lashley (1942) had proposed that interference patterns among wave fronts in brain electrical activity could serve as the substrate of perception and memory as well. This suited my earlier intuitions, but Lashley and I had discussed this alternative repeatedly, without coming up with any idea what wave fronts would look like in the brain. Nor could we figure out how, if they were there, how they could account for anything at the behavioral level. These discussions taking place between 1946 and 1948 became somewhat uncomfortable in regard to Don Hebb’s book (1948) that he was writing at the time we were all together in the Yerkes Laboratory for Primate Biology in Florida. Lashley didn’t like Hebb’s formulation but could not express his reasons for this opinion: “Hebb is correct in all his details but he’s just oh so wrong”." (Karl Pribram in 'Brain and Mathematics', 1991)

Der Autor bemerkte 1992 eher zufällig, daß Pulse in Verbindung mit sehr geringen Leitgeschwindigkeiten von Nerven eine unbekannte Art von Kommunikation und Informationsverarbeitung hervorbringt. Die Verzögerung nadelscharfer Impulse bewirkt, daß nur dort Informationen verarbeitet werden können, wo Pulse sich treffen. Zeitliche Muster werden damit zu räumlichen Codes. Pulswellen breiten sich durch verschiedene Nervenfasern aus. Dort, wo eine Pulswelle mit sich selbst oder mit einer anderen interferiert, ist ihr Ziel erreicht. Oder dort, wo sich verschiedene Wellenfronten begegnen. Eine Wellentheorie im Zeitbereich war ebenso zu entwickeln, wie eine Wellentheorie auf diskreten und inhomogenen Räumen. Daraus entstand der Begriff 'Wave Interference Networks'. Im Manuskript sind Ideen auf dem Wege hin zu dieser unbekannten Informatik skizziert.

Titelblatt

1992 war die Forschung zu "Neuronalen Netzwerken" (NN ~ Neuronale Netze, heute ANN ~ Artifical Neural Nets) an einem Wendepunkt angelangt. Glaube und Fördermittel versiegten langsam. Techniker lehnten NN zunehmend ab, weil deren Lernverhalten nicht verifizierbar war, den Biologen hingegen war der Zugang zu mystisch, siehe Zitat oben. Teils katastrophale Lernerfolge brachten das Aus. Übrig blieb als mathematisch/informatische Disziplin der sog. Konnektionismus. Zur Interpretation von Nervennetzen fehlte den NN etwas. Matrixartige, getaktete "Neuronale Netze" verletzen die Raumzeitstruktur eines zu modellierenden Nervennetzes, dies führt zu katastrophalen Modellierungsfehlern bereits im Ansatz.

Digitale Filter nutzen die zeitliche Dimension, Netzwerke die räumliche. Im Nervennetz aber sind beide Dimensionen verbandelt: Je größer die Länge eines Axon oder Dendriten, je größer der Abstand zweier Neurone, desto höher sind Verzögerungszeiten. Folglich wird die verzögerungszeitliche Struktur im Nervennetz durch räumliche Distanzen bestimmt.

Nervliche Netzwerke stellen, so die erste Erkenntnis, so etwas wie n-dimensionale Digitalfilter dar, man denke an komplexe, dreidimensionale IIR-Filter ohne zentrale Taktung. Taktung wird durch Eigentaktung des Netzes ersetzt. Um Eigenschaften zu erkennen, erschien der aus der Optik bekannte Begriff der "Interferenz" als kleinster, gemeinsamer Nenner brauchbar. Informationen werden dort verarbeitet, wo Wellenberge in hoher, relativer Gleichzeitigkeit eintreffen. Folglich hießen diese Netze beim Autor ab 1996 "Interferenznetzwerke" (IN) (von "to interfere" - überlagern).

Schon 1992 war die Erkenntnis gereift, daß Pulsabbildungen (nervlicher Art) wenn überhaupt, dann nur spiegelverkehrt (siehe Titelblatt rechts) kartieren können. Als Adressierungsprinzip in neuronalen Räumen wurde damit die Relativität der Pulsausbreitung nachgewiesen, siehe im Kapitel 6 das Daumenexperiment vom 16.12.1992. Unbekannte Aspekte einer neuronalen Informatik fernab von Neuronalen Netzen oder Boolescher Algebra deuteten sich an.

Spiegelverkehrte Abbildungen waren in der Praxis aus Optik und aus Nervenexperimenten (Penfields Homunculus, Jeffress Schallortung) bekannt, nicht aber konnte man sie in der Literatur des Neurocomputing entdecken, die damals bereits zehntausende Aufsätze und hunderte Bücher umfasste. Systemtheoretisch stimmte etwas nicht mit den sogenannten Neuronalen Netzwerken. So begann eine Recherche.

Mit der Entdeckung der spiegelverkehrten Pulsabbildungen war es nötig geworden, die physikalisch realen Möglichkeiten dieser "Verzögerungsnetze", zu erkunden und sich an deren Eigenheiten "heranzupirschen" (Zoom, Movement, Interferenzüberlauf, Verbindung und Zerlegung, Überbestimmtheit, n-Dimensionalität, Spatio-Temporal Coding, ...).

Diese Untersuchungen verliefen überaus erfolgreich. Sie führten in kürzester Zeit zum Manuskript. So verschmelzen zum Beispiel Sehen und Hören über Untersuchungen zu Eigeninterferenzen (Seh-Karten) und zu Fremdinterferenzen (Hör-Karten) miteinander. Diese Erkenntnis bildete die Grundlage für die Entwicklung der ersten, akustischen Bilder und Filme zwischen 1995 und 1996 und der akustischen Bildgebung schlechthin (Akustische Kamera).

Eigentlich nur als Gedankenstütze gedacht, war es nötig, in kürzester Zeit die ungefähre Richtung eines Paradigmenwechsels von einer mathematischen hin zu einer physikalischen, wellentheoretischen Sicht auf nervliche Netze (Pulswellen auf Leitbahnen) zu skizzieren.

Interferenznetze können bei einer Vielfalt von Aufgaben, von der Optik über digitale Schaltungen, Radar, Sonar, GPS, Beamforming, neuronale Netze bis hin zur Signalverarbeitung entdeckt werden. Digitale Schaltungen, Zustandsautomaten, digitale Filter, Pattern- oder Gewichtsnetze (klassisch-neuronale Netze) stellen aus dieser Sicht Untergruppen mit diskretem Timing dar. Da diese Erkenntnis bereits im Buch vermittelt wird, sprengt es sich folglich selbst. Nervennetze werden nur zum Synonym, um eine Vision einer abstrakteren Systemtheorie zu skizzieren, die der Interferenznetze. Die Vielfalt der betroffenen Wissensgebiete drängte förmlich auf eine theoretische Grundlage abstrakterer Natur. Ebenso wie digitale Filter sind Boolsche Algebren nur ein Untergebiet der Interferenznetze.

Im Buch sind einige Abschnitte zu finden, die heute als überholt gelten müssen. So hinterfragte Teuvo Kohonen** 1995 zum Beispiel die Verwendung des Begriffes "Faltung" (z.B. KA06.pdf, Seite 147). Hier stoßen wir auf eine Besonderheit von Interferenzsystemen, die möglicherweise ursächlich für den komplizierten Zugang ist. Während die multiplikative, eindimensionale Interferenz zweier Impulse auf einer Leitung (Ischias-Nerv-Experiment, Kapitel 6, S.144) der mathematischen Faltung ähnelt, verzichten wir im zwei- oder dreidimensionalen Raum auf den Begriff der Faltung vollständig, siehe auch spiegelnde Interferenz-Projektionen vom Typ f(t-T), bzw. seitenrichtige Interferenz-Rekonstruktion vom Typ f(t+T). Die eindimensionale Betrachtung (Faltung) entspricht einem analytischen Vorgehen der Feldtheorie, deren Grenze in höherdimensionalen Räumen erreicht ist, hier sind numerisch andere Ansätze gefragt. Der Ansatz für Projektion und Rekonstruktion (als Grundlage z.B. der akustischen Photo- und Kinematographie ) war indes mit diesem Buch gelegt, siehe Maskenalgorithmus, Kapitel 14, S.284. Eine Abgrenzung zwischen Interferenzintegral und Faltungsintegral konnte 2011 in Bangkok vorgestellt werden.

Da Veröffentlichungen algorithmischer Art seit 1994 gegen kommerzielle Verwertbarkeit der Ergebnisse standen, z.B. gegen die der daraus entwickelten, ersten, akustischen Kamera, erfolgten diese teils sehr zögerlich.

Eine Kernaussage des Manuskripts lautet kurzgefaßt etwa: Nervennetze können nur mit einer dreidimensionalen, elektrischen Netzwerksimulation adäquat simuliert werden. Jeder Netzknoten benötigt Raumkoordinaten. Jeder Zweig benötigt eine Verzögerung (Delay). Alle aus der dreidimensionalen Struktur des Nervennetzes ablesbaren Delays sind genauestens abzubilden: Diese bilden wesentlich die Funktion aus ("Form kodiert Verhalten"). Daneben sind natürlich statische (anregende oder hemmende) Synapsen und Schwellwertparameter zu beachten. Mit einer ersten Anwendung zur akustischen Bildgebung zeigten sich bereits zwei Jahre später (1995) Erfolge: welterste akustische Bilder und Filme entstanden mit der Software "PSI-Tools" (Parallel and Serial Interference Tools) von Sabine Höfs.

Das Buchmanuskript wurde mit Lotus AmiPro 3.1 unter Windows 3.1 geschrieben (1988-1994). Leider funktionierten Absatzformatierungen nur bis zu Windows 98 korrekt. Korrekturen konnten deshalb nur etwa bis zur Jahrtausendwende eingearbeitet werden. Die Datumsangabe im Einband ist versehentlich auf 'File Creation Date' gesetzt. Das Manuskript wurde aus eigenen Mitteln erstellt. Es musste im Mai 1993 beendet werden, da ab 1.6.1993 ein neuer Job anstand. Ergänzungen und Korrekturen folgten noch bis Anfang 1994 (z.B. der Abschnitt zur Schleiereule in Kap.1 "Jeffress Verzögerungsmodell 1948"). Mark Konishi hatte 1993 parallel zum Manuskript NI die Gedanken seines Lehrers Jeffres zur Hörortung publiziert***.

Das ursprüngliche Kapitel 10 (Interferenzlogik) war im Ansatz mißraten. Es wurde nach simulativen Verifikationen mit Puschmann und Schoel (1994) später (etwa 1996) gegen das Kapitel "Elementarfunktionen des Neurons" ausgetauscht, siehe auch das originale Inhaltsverzeichnis von 1993. Im Index finden sich ebenfalls noch alte Verweise.

Das Buch stellte eigentlich ein Arbeitsmanuskript dar. Zusammenhänge und Ideen sollten notiert werden. Einschließlich aller Bilder und Formeln in einhundert Tagen geschrieben (Januar 1993 bis Mai 1993), ist es in Details unausgereift, Begriffsbildungen sind noch unsicher, es ist hin und wieder euphorisch, ohne daß der Leser dies immer nachvollziehen kann. Es zeigt anschaulich, in welchen Wirren sich ein neues Wissensgebiet entfaltet. Kurz: man vermißt die Rundung gereifter Werke. Dennoch erscheint es auch heute noch lesenswert. Viele generelle Erkenntnisse sind noch immer brandaktuell. So ist bis 2016 noch immer nicht bekannt, daß an irgendeiner Universität ein Fach "Interferenznetzwerke" gegeben werden würde. Das ist insofern betrüblich, als ein Verständnis vom Nervensystem erst möglich wird, wenn der Lernende diese Grundlagen beherrscht.

Um mit T.S.Kuhn* zu sprechen: Das Manuskript zeigt im Rückblick die Hürden des Weges, nicht aber den Glanz der Abstraktionen. Es ist eher für Wissenschaftshistoriker denn für Studenten geeignet. Dennoch: Es ist das Buch, dem wir akustische Bildgebung verdanken und dem wir allmählich eine Konsolidierung der Neuroforschung verdanken.

Da bis heute noch kein richtiges Buch geschrieben ist (dazu wäre es wohl zu früh), mich aber ab und an Bitten zu erklärenden Materialien zu Interferenznetzwerken erreichten, verbleibt dieses Arbeitsmanuskript solange im Web, solange nichts besseres vorhanden ist.

Oft ist der Weg das Ziel.


Neuronale Interferenzen

Einband

Inhalt (html)

Kap. 0
Kap. 1
Kap. 2a
Kap. 2b
Kap. 3
Kap. 4
Kap. 5
Kap. 6
Kap. 7
Kap. 8a
Kap. 8b
Kap. 9a
Kap. 9b
Kap. 10
Kap. 11
Kap. 12
Kap. 13
Kap. 14
Kap. 15
Kap. 16

Index (pdf)


____________________________

Inhalt (pdf)

Vorwort
Einführung
Wellenausbreitung 1
Wellenausbreitung 2
Abbildungen ohne Brechzahländerung
Abbildungen mit Brechzahländerung
Spezielle Abbildungen
Laufzeitleitungen
Systemoptimierung
Zeitfunktionen
Codeselektion mit Laufzeitleitungen
Visualisierung von Wellen 1
Visualisierung von Wellen 2
Elementarfunktionen des Neurons
Gefärbte Interferenzsystems
Biologienahe Modellierungen
Analytische Hilfsmittel
Mittelwert, Korrelation, Faltung
Schutzrechtliche Verwertbarkeit
Ausgewählte Literatur

____________________________





* Thomas Samuel Kuhn: The Structure of Scientific Revolutions. Uni Chicago Press, 1962
** Kohonen, Teuvo: http://www.cis.hut.fi/research/som-research/teuvo.html
*** Konishi, Mark: Die Schallortung der Schleiereule. Spektrum der Wissenschaft, Juni 1993, S.58-71



All rights reserved / alle Rechte bei

Gerd Heinz
http://www.gheinz.de
http://www.acoustic-camera.com
info@gheinz.de

Mail to info@gheinz.de

Access No. since last counter reset (weekly?)

Vervielfältigung und kommerzielle Verwertung nur mit Genehmigung des Autors.