Autonomous Learning

With the Priority Programme 1527 Autonomous Learning the German Research Foundation supports from 2012-2018 basic research on learning methods in artificial systems. More than 50 scientists from the fields of machine learning, robotics and neuroscience participate in the programme (see map below, a complete list of all projects here).

Initiators of the Priority Programme proposal

See also Initiatorengruppe.

Coordination & information

Marc Toussaint & Marion Lange (TU Berlin)
Stuttgart University, Universitätsstraße 38, 70569 Stuttgart, Germany
marion.lange@ipvs.uni-stuttgart.de

Funded projects

The maps shows all participating projects.

Zusammenfassung des wissenschaftlichen Programms

Eine der großen wissenschaftlichen Herausforderungen ist das Verständnis der Effizienz, der Autonomie, der Flexibilität und der Intelligenz biologischer Systeme — auch in Hinblick auf die Anwendung in neuen Technologien. Ein charakteristisches Merkmal ist hierbei ihre Fähigkeit zu lernen, d.h. sich aus der Interaktion mit der Umwelt Wissen anzueignen, um dieses später zu nutzen. Das Schwerpunktprogramm widmet sich in diesem Kontext dem Problem der Autonomie. Wir meinen damit nicht eine Autonomie, bei der Systeme fest vorprogrammiert sind und ohne menschliche Überwachung auskommen. Statt dessen verfolgen wir das Ziel des autonomen Lernens, d.h. das eigenständige Lernen, das eigenständige Sammeln von Information in einer komplexen Umwelt und die eigenständige Bildung strukturierter Repräsentationen und generalisierender Modelle dessen, was gelernt wurde. Die Erforschung des Lernens ist zentrales Thema sowohl in den Neurowissenschaften als auch in den entsprechenden Disziplinen der Statistik und der Informatik: der statistischen Lerntheorie und dem Maschinellen Lernen. Der Ansatzpunkt unseres Programms ist es, einerseits auf den theoretischen Fundamenten und Methoden, die in diesen Disziplinen gelegt wurden (siehe Stand der Forschung), aufzubauen, andererseits jedoch aufzuzeigen, dass der Kernpunkt der Autonomie in diesem Kontext bislang unzureichend verstanden und betrachtet wurde. Trotz der großen Erfolge bei Anwendungen der Datenanalyse — oder vielleicht gerade wegen dieser Erfolge — scheint das Maschinelle Lernen wenig Fortschritte in Richtung eines seiner ursprünglichen Ziele, intelligente autonome Systeme in der natürlichen Umwelt zu schaffen, gemacht zu haben. Wenn Lernmethoden bei Anwendungen zum Einsatz kommen, so meist als Lösung eines Teilproblems, z.B. eines dezidierten Regressions- oder Klassifikationsproblems, das vom Entwickler als solches identifiziert und genau spezifiziert wurde. In der Praxis muss ein menschlicher Experte

  • das konkrete Lernproblem (Datenquellen, Zielfunktion) vordefinieren,
  • das Gesamtproblem in Teilprobleme zerlegen,
  • die Trainingsbeispiele auswählen,
  • die Daten in einer wohlspezifizierten, vorverarbeiteten Form repräsentieren,
  • entscheiden, welcher Lernalgorithmus mit welchen Parametern angewandt wird, und
  • die Struktur und die intern genutzten Repräsentationen des Systems festlegen.

Dies steht im Widerspruch zu dem Ziel der Autonomie. Die eigentliche Intelligenz in dieser Praxis liegt zu großen Teilen bei dem menschlichen Experten. Das verbleibende Lernen ist ein passiver Prozess. Wenn wir biologische Systeme zum Vorbild nehmen, so erscheint Lernen jedoch als aktiver Prozess. In einer interaktiven Umwelt bestimmen die Aktionen eines Systems die Daten, die es sammelt. In komplexen Szenarien ist es meist unmöglich, alle Daten zu erfassen, und es hängt von dem bereits gesammelten Wissen ab, welche Daten sinnvoll integriert werden können. Das wissenschaftliche Ziel dieses Programms ist die Erforschung der Grundlagen des autonomen Lernens. Insbesondere müssen neue Konzepte und Methoden entwickelt werden, die den nächsten Schritt machen, vom bisherigen Maschinellen Lernen zu einem autonomen Lernen in Systemen, die mit einer variablen, nur partiell modellierbaren Umwelt hoher Komplexität interagieren und diese explorieren. Kernaspekte des autonomen Lernens sind:

  • die autonome Wahl von Parametern, Repräsentationen und genutzten Strukturen beim Lernen, unabhängig von einem menschlichen Experten,
  • die autonome Auswahl dessen, was gelernt wird, d.h. die autonome Exploration und die aktive Suche nach Information, statt des Lernens aus vorgegebenen Datensätzen,
  • das Finden geeigneter Repräsentationen; insbesondere das Lernen hierarchischer Repräsentationen, das inkrementelle Aufbauen immer abstrakterer Ebenen der Repräsentation von Stimuli, Handlungen und Prozessen aufbauen,
  • das eigenständige Vernetzen von Information verschiedener Modalitäten oder Quellen, sowohl im Kontext des Schließen der sensomotorischen Kopplung wie auch die Vernetzung verschiedener Quellen des Wissens und
  • generische Prinzipien der Informationsverarbeitung und des Lernens in tiefen hierarchischen Strukturen.

Weitere Informationen:

[login]