FEL3311 Distribuerad optimering 8,0 hp

1.    Convexity

2.    Gradient and subgradient methods

3.    Duality and conjugate functions

4.    Proximal algorithms

5.    Limits of performance

6.    Accelerated methods

7.    Coordinate descent

8.    Conditional gradient

9.    Monotone operators

10.    Operator splitting methods

11.    Stochastic gradient descent

12.    Variance reduction techniques and limits of performance

13.    Newton and quasi-Newton methods

14.    Nonsmooth and stochastic second-order methods

15.    Conjugate gradients

16.    Sequential convex programming

17.    Architectures and algorithms for parallel optimisation

18.    Decomposition and parallelization

19.    Asynchrony I – time-varying update rates and information delays

20.    Asynchronous computations II – random effects  and communication efficiency

Efter godkänd kurs skall studenterna kunna:

• grundläggande terminologi och begrepp inom konvex optimeringslära
• designa och analysera optimeringsalgoritmer för konvex optimering
• karakärisera fundamentala prestandagränser för gradient-baserade optimeringsmetoder
• analysera och använda moderna metoder för skalbar konvex optimering
• hantera stokastiska effekter i optimeringsproblem
• beskriva moderna beräkningsarkitekturer för parallella numeriska beräkningar
• använda dualitet och dekomponering för att parallellisera optimeringsalgoritmer
• kvantifiera hur asynkronism och informationsfördröjningar påverkar iterativa algoritmer
• tillämpa moderna tekniker för att reducera informationsutbytet mellan beräkningnoder

Grundkurs i konvex optimering (e.g. EL3300) och åtminstone en kurs i konvex analys (t.ex. SF3810) 

Introductory lectures on convex optimization – a basic course, Y. Nesterov.

Introduction to Optimization, B. T. Polyak

Research papers and lecture notes.

När kurs inte längre ges har student möjlighet att examineras under ytterligare två läsår.

• EXA1 - Examination, 8,0 hp, betygsskala: P, F

Examinator beslutar, baserat på rekommendation från KTH:s handläggare av stöd till studenter med funktionsnedsättning, om eventuell anpassad examination för studenter med dokumenterad, varaktig funktionsnedsättning.

Examinator får medge annan examinationsform vid omexamination av enstaka studenter.

Godkänt betyg på alla kursmoment.

Mikael Johansson

Alexandre Proutiere

• Vid grupparbete har alla i gruppen ansvar för gruppens arbete.
• Vid examination ska varje student ärligt redovisa hjälp som erhållits och källor som använts.
• Vid muntlig examination ska varje student kunna redogöra för hela uppgiften och hela lösningen.