Brain-like Representation Learning and Associative Memory
Tid: To 2026-10-01 kl 14.00
Plats: F3 (Flodis), Lindstedtsvägen 26 & 28
Videolänk: https://kth-se.zoom.us/j/64100876364
Språk: Engelska
Ämnesområde: Datalogi
Respondent: Naresh Balaji Ravichandran , Beräkningsvetenskap och beräkningsteknik, Computational Cognitive Brain Science (Herman's group)
Opponent: Professor Evgeny Osipov, Department of Computer Science, Electrical and Space Engineering, Luleå University of Technology
Handledare: Professor Pawel Herman, Beräkningsvetenskap och beräkningsteknik; Professor Anders Lansner, Beräkningsvetenskap och beräkningsteknik
QC 20260907
Abstract
Hjärnan gör det möjligt för organismer att uppfatta världen, lära av erfarenhet, generera komplext beteende och ge upphov till kognition. Att förstå de informationsbearbetningsprinciper som ligger till grund för hjärnans beräkningar är fortfarande en central utmaning inom beräkningskognitiv neurovetenskap. Att klarlägga dessa principer har potential att utgöra en grund för utvecklingen av intelligenta maskiner samt energieffektiva, skalbara och robusta paradigm för artificiell intelligens.
Denna avhandling undersöker neurala nätverksmodeller som införlivar centrala hjärninspirerade designprinciper, med fokus på representationsinlärning från oövervakad data och bildandet av robust associativt minne. Även om moderna djupa neurala nätverk uppvisar stark prestanda i representationsinlärningsuppgifter, förlitar de sig på optimering baserad på backpropagation, vilket saknar biologisk plausibilitet och är beroende av globalt koordinerade beräkningar. Det finns därför ett behov av neurala nätverksmodeller som kan uppvisa komplex funktionalitet samtidigt som de förblir förankrade i biologiska principer.
För att adressera detta utvecklar denna avhandling en klass av hjärninspirerade modeller baserade på ramverket Bayesian Confidence Propagation Neural Network (BCPNN). De föreslagna modellerna införlivar centrala hjärninspirerade designprinciper, inklusive lokal Hebbsk synaptisk plasticitet, strukturell plasticitet, gleshet samt en modulär arkitektur härledd från neokortex kolumnära organisation. Vidare integrerar modellerna framåtriktade, rekurrenta och återkopplande kopplingar för att stödja både representationsinlärning och associativt minne.
Arbetet omfattar tre huvudsakliga undersökningslinjer. För det första studeras den oövervakade representationsinlärningsförmågan hos en framåtriktad modell, vilket visar att strukturerade interna representationer kan läras direkt från oetiketterad data med hjälp av lokal synaptisk och strukturell plasticitet. För det andra undersöks bildandet av associativt minne genom att integrera rekurrenta kopplingar i representationsinlärningsmodellen, vilket demonstrerar robust återkallelse från partiella, brusiga eller störda indata vid tester av mönsterkomplettering, prototyputvinning och brusrobusthet. För det tredje utvidgas ramverket till spikande neurala nätverk, där neuroner kommunicerar via stokastiska spike-händelser, och det visas att de spikande modellerna, genom synaptisk korttidsfiltrering och lämplig tidsmässig skalning, approximerar beteendet hos sina rate-baserade motsvarigheter samtidigt som funktionalitet och prestanda bevaras.
Sammantaget visar resultaten att hjärninspirerade designprinciper kan stödja skalbar representationsinlärning och robust associativt minne, och därmed etablera en brygga mellan neurovetenskap och artificiell intelligens inom det framväxande området NeuroAI. Detta arbete erbjuder vidare en väg mot energieffektiva, hjärninspirerade neuromorfa system som kan operera i realtid och i dynamiska miljöer.