What was I Thinking?

Es ist meist unmöglich nachzuvollziehen, wie moderne Artificial Intelligence (AI)-Systeme Eingaben zu bestimmten Ausgaben verarbeiten. Beispielsweise können Large Language Models (LLMs) zwar plausibel klingende Erklärungen ihrer eigenen Prozesse generieren; erste Fallstudien deuten jedoch darauf hin, dass diese die tatsächlich zugrunde liegenden Verarbeitungsprozesse nicht unbedingt wahrheitsgetreu widerspiegeln. Selbst Post-hoc-Methoden der Explainable Artificial Intelligence (XAI) zeigen meist nur, welche Eingaben für ein Ergebnis ausschlaggebend waren, nicht aber, wie ein Modell diese verwendet hat, um zu diesem Ergebnis zu gelangen. Diese mangelnde Transparenz führt zu einer ganzen Reihe von Problemen, darunter Einschränkungen hinsichtlich der wissenschaftlichen Erkennt nismöglichkeiten, Sicherheitsgarantien, des angemessenen Benutzervertrauens, der Debuggbarkeit, der menschlichen Aufsicht und der Autonomie. Im Gegensatz dazu ist die menschliche Kognition insofern transparent, als sie sich ihrer eigenen Prozesse anhand von metakognitiven Erfahrungen bewusst ist und diese in der Regel zuverlässig wiedergeben kann. Biomimetisch inspiriert stellt sich daher die Frage, wie AI-Systeme metakognitive Erfahrungen nutzen könnten, nicht zuletzt, um ihre Transparenz zu verbessern. Die Metakognitionsforschung in der AI ist bislang jedoch ein weitgehend fragmentiertes Feld: Unterschiedliche Theorien, Terminologien und Designgrundsätze haben zu einer Zersplitterung geführt und die Vergleichbarkeit relevanter Ansätze stark beeinträchtigt. Ein fundierter Bezugsrahmen für metakognitive Erfahrungen, an dem man sich orientieren könnte, fehlt nach wie vor. Diese kumulative Dissertation widmet sich der Forschungslücke, indem sie die metakognitiven Erfahrungen einer etablierten Klasse von AI-Systemen untersucht, die gezielt menschliche Kognition modellieren: Computational Cognitive Architectures (CCAs). Dies geschieht in drei Schritten: Zunächst konsolidiert eine systematische Übersichtsarbeit drei Jahrzehnte der Forschung bezüglich der Frage, wie existierende CCAs metakognitive Erfahrungen modellieren, im episodischen Gedächtnis speichern und später weiterverwenden. Darauf aufbauendschlägtdieseDissertation zweitens ein standardisiertes Vokabular und Repräsentationsschema für metakognitive Erfahrungen in Form der operationalen Ontologie MOI vor. Drittens wird untersucht, wie CCAs über solche Repräsentationen schlussfolgern können—wassowohlDatenbankabfragen alsauchCharakterisierungenabnormalerKognitionverlangt —, indem die Entscheidbarkeit und Komplexität einer Reihe ausdrucksstarker Beschreibungslogiken mit Circumscription etabliert werden. Zusammengenommen etablieren die drei methodisch vielfältigen Studien einen schlüssigen Bezug srahmen für metakognitive Erfahrungen in CCAs, der empirische, modellierende und algorithmische Aspekte vereint. Aus diesen Ergebnissen lassen sich auch konkrete Empfehlungen ableiten, wie zukün ftige CCA-Forschung vorgehen sollte und wie sich Metakognition in undurchsichtigen Systemen wie LLMs als potenziell emergente Eigenschaft untersuchen ließe. Auf diese Weise trägt die Dissertation zur Entwicklung künftig transparenterer AI-Systeme bei sowie zu den Disziplinen der Logik, der Kognitionswissenschaften und der Robotik.