Sequence learning in the Bayesian Confidence Propagation Neural Network
Tid: Ti 2022-06-14 kl 10.00
Plats: Kollegiesalen, Brinellvägen 8, Stockholm
Videolänk: https://kth-se.zoom.us/j/68643458717
Språk: Engelska
Ämnesområde: Datalogi
Respondent: Ramon Heberto Martinez Mayorquin , Beräkningsvetenskap och beräkningsteknik (CST), University of Edinburgh
Opponent: Dr Thomas Wennekers, University of Plymouth, Plymouth, UK
Handledare: Dr Pawel Herman, Beräkningsvetenskap och beräkningsteknik (CST); Professor Anders Lansner, Beräkningsvetenskap och beräkningsteknik (CST); Matthias Hennig,
QC 20220524
Abstract
Denna avhandling undersöker sekvensinlärning hos en Bayesian Confidence Propagation Neural Network (BCPNN) modell. Arbetsmetodologin inkluderar simulering och analys och bidragen kan beskrivas utgående från följande fyra teman: 1) Arbetet inleds med en återblick på BCPNN-modellen som ett attraktorneuronnät och beskriver en ny formalisering av några av dess egenskaper såsom en Bayesiansk analys av modellens s k epsilonbegränsing, en differensformulering av BCPNNs plasticitetsregel som betonar dess relation till andra liknande regler i litteraturen, samt en matematisk analys av BCPNNs träningsprocess. 2) Dessutom beskriver detta arbete hur tillförandet av en adaptationsprocess till BCPNN möjliggör återkallande av lagrade sekvenser. Mekanismerna specifika för sekvensinlärning studeras i detalj liksom egenskaperna hos sekvensåterkallandet såsom hur länge nätverket uppehåller sig i en specifik del av sekvensen, samt dessa processers brustålighet. 3) Detta arbete visar också hur BCPNN-inlärningen kan kompletteras med minnesspår av tidigare aktivitet, s k Z-traces, vilket ger nätverket förmåga att särskilja överlappande sekvenser. 4) Slutligen tillhandahålls en simuleringsstudie som kvantifierar hur många sekvenser BCPNN framgångsrikt kan lagra. I anslutning till dessa centrala teman presenteras också resultat rörande robusthet, stabilitet och relation mellan inlärda mönster och inputstatistik, både utifrån simulering och i analytisk form. Avhandlingen avslutas med en diskussion av sekvensinlärningsförmågan hos BCPNN i belysning av litteraturen på området och en beskrivning av för- och nackdelar hos BCPNN jämfört med andra attraktorneuronnät.