Wie flüssige neuronale Netze die Welt der KI verkleinern können

Aug 04, 2023

Kaushik ist ein technischer Architekt und Softwareberater mit über 20 Jahren Erfahrung in der Softwareanalyse-, Entwicklungs-, Architektur-, Design-, Test- und Schulungsbranche. Er…

Eddie Wrenn ist ein Reporter und Nachrichtenredakteur, der in nationalen und internationalen Nachrichtenredaktionen in Großbritannien und Australien gearbeitet hat, mit Schwerpunkt auf…

Flüssige neuronale Netze sind aufgrund ihres dem menschlichen Gehirn ähnlichen, nichtlinearen und kreativen Ansatzes im Gegensatz zu linearen neuronalen Netzen ein wichtiges und charakteristisches Element in der KI-Landschaft. Sie zeichnen sich durch die Bewältigung komplexer Herausforderungen wie Wettervorhersage, Börsenanalyse und Spracherkennung aus, die zuvor von menschlichen Experten dominiert wurden.

Flüssige neuronale Netze gehören zu den wichtigsten und einzigartigsten neuen Komponenten in der Landschaft der künstlichen Intelligenz (KI).

Wenn eine Maschine oder ein Roboter auf externe Reize oder Daten reagieren muss, kann dies extrem ressourcenintensiv sein und zu einem Engpass führen, wenn Sie versuchen, Intelligenz auf sehr kleinem Raum unterzubringen.

VentureBeat beschreibt, wie ein klassisches neuronales Netzwerk 100.000 künstliche Neuronen benötigen könnte, um das Auto bei einer Aufgabe wie dem Fahren eines Fahrzeugs auf einer Straße stabil zu halten.

Eine unglaubliche Entdeckung war jedoch, dass das Team am MIT CSAIL, das flüssige neuronale Netze entwickelte, dieselbe Aufgabe mit nur 19 Neuronen ausführen konnte.

Flüssige neuronale Netze sind eine Art Deep-Learning-Architektur, die entwickelt wurde, um eine Herausforderung für Roboter zu lösen, die komplexe Lernvorgänge und Aufgaben ausführen, und darauf abzielt, das Problem der Abhängigkeit von der Cloud oder begrenztem internen Speicher zu umgehen.

Daniela Rus, die Direktorin von MIT CSAIL, sagte gegenüber VentureBeat: „Die Inspiration für flüssige neuronale Netze war das Nachdenken über die bestehenden Ansätze für maschinelles Lernen und die Überlegung, wie sie zu den sicherheitskritischen Systemen passen, die Roboter und Edge-Geräte bieten.“

„Auf einem Roboter kann man nicht wirklich ein großes Sprachmodell ausführen, weil dafür nicht wirklich die Rechenleistung und der Speicherplatz vorhanden sind.“

Einen Hinweis auf ihr Problem fand das Forscherteam bei der Erforschung biologischer Neuronen, die in winzigen Organismen gefunden wurden.

Stellen Sie sich flüssige neuronale Netze als die miteinander verbundenen Zellen eines menschlichen Gehirns vor, die zusammenkommen, um Informationen zu verarbeiten und Ergebnisse zu liefern.

Das menschliche Gehirn ist eine hochkomplexe Zellanordnung, die äußerst komplexe Berechnungen durchführt.

Flüssige neuronale Netze konzentrieren sich auf sicherheitskritische Anwendungen wie selbstfahrende Fahrzeuge und Roboter, die einen kontinuierlichen Datenstrom benötigen.

Laut Daniela Rus „funktionieren flüssige Netzwerke im Allgemeinen gut, wenn wir Zeitreihendaten haben … man braucht eine Sequenz, damit flüssige Netzwerke gut funktionieren.“

„Wenn Sie jedoch versuchen, die Liquid-Network-Lösung auf eine statische Datenbank wie ImageNet anzuwenden, wird das nicht so gut funktionieren.“

Das Forschungsteam des Computer Science and Artificial Intelligence Laboratory am MIT (CSAIL) hat aufgrund seiner Erfahrung die folgenden Vorteile festgestellt.

Liquid Neural Networks könnten mit einer deutlich geringeren Anzahl an Neuronen arbeiten als klassische neuronale Netze.

Wie oben dargelegt, würde ein klassisches neuronales Deep-Learning-Netzwerk 100.000 Neuronen benötigen, um ein selbstfahrendes Auto in der Spur zu halten – ein flüssiges neuronales Netzwerk benötigt nur 19 Neuronen.

Flüssige neuronale Netze bewältigen Kausalität besser als klassische neuronale Deep-Learning-Netze. Sie können einen klaren Zusammenhang zwischen Ursache und Wirkung erkennen, was klassischen Deep-Learning-Neuronalen Netzen nur schwer gelingt.

Beispielsweise können die klassischen neuronalen Deep-Learning-Netzwerke konsistentere Ursache-Wirkungs-Beziehungen zwischen Ereignissen in verschiedenen Umgebungen effizienter identifizieren als das klassische neuronale Netzwerk.

Das Verständnis der Dateninterpretation eines KI-Systems ist eine der größten Herausforderungen in der KI.

Klassische Deep-Learning-Modelle zeigen oft eine oberflächliche, unklare oder falsche Grundlage für die Interpretation von Daten, aber flüssige neuronale Netze können ihre Grundlage für die Interpretation von Daten erklären.

Flüssige neuronale Netze sind nicht für alles eine umfassende Lösung.

Während sie mit kontinuierlichen Datenströmen wie Audioströmen, Temperaturdaten oder Videoströmen gut umgehen können, haben sie Schwierigkeiten mit statischen oder festen Daten, die für andere KI-Modelle besser geeignet sind.

In der KI-Landschaft gehören flüssige neuronale Netze zu den kritischsten neuen Modellen.

Es koexistiert mit dem klassischen Deep-Learning-Neuronalen Netzwerk, scheint aber besser für extrem komplexe Aufgaben wie autonome Fahrzeuge, Temperatur- oder Klimamessungen oder Börsenbewertungen geeignet zu sein, während das klassische Deep-Learning-Neuronale Netzwerk mit statischem oder einem solchen besser funktioniert -Zeitdaten.

Die Forscher am Computer Science and Artificial Intelligence Laboratory am MIT (CSAIL) haben versucht, die Fähigkeiten flüssiger neuronaler Netze auf weitere Anwendungsfälle auszudehnen, aber es wird Zeit brauchen.

Sowohl flüssige neuronale Netze als auch klassische neuronale Deep-Learning-Netze haben ihre definierten Rollen im Gesamtbild der KI, und es ist definitiv der Fall, dass zwei Modelle besser sind als eines.

Kaushik ist ein technischer Architekt und Softwareberater mit über 23 Jahren Erfahrung in der Softwareanalyse-, Entwicklungs-, Architektur-, Design-, Test- und Schulungsbranche. Er interessiert sich für neue Technologie- und Innovationsbereiche. Seine Schwerpunkte liegen auf Webarchitektur, Webtechnologien, Java/J2EE, Open Source, WebRTC, Big Data und semantischen Technologien. Er hat sein Fachwissen in den Bereichen Anforderungsanalyse, Architekturdesign und -implementierung, technische Anwendungsfallvorbereitung und Softwareentwicklung unter Beweis gestellt. Seine Erfahrung erstreckt sich über verschiedene Bereiche wie Versicherungen, Banken, Fluggesellschaften, Versand, Dokumentenmanagement und Produktentwicklung usw. Er hat mit einer Vielzahl von Technologien gearbeitet, angefangen beim Mainframe (IBM S/390) bis hin zu…

Was ist ein Sybil-Angriff? Ein Sybil-Angriff ist eine Art Cybersicherheitsbedrohung, bei der ein Gegner erstellt und...

Margaret RouseTechnologieexpertin

NAS und SAN – das N in diesen beiden palindromischen Akronymen steht für Netzwerk. Sie sind in diesem SAN eng miteinander verbunden ...

Marshall GunnellTechnologieautor