Probabilistic Graphical Models – NAIL104

Zoom: Thursday 12:20 https://cesnet.zoom.us/j/91680360444?pwd=QlhYVThUUWdTMnFPOExrallqSEJEUT09

Anotace:

Cílem kurzu je hlouběji seznámit studenty s pravděpodobnostními modely, předpokládá se znalost NAIL070 Umělé inteligence 2. Od bayesovských sítí a jejich rozšíření (DBN, OOBN) přejdeme přes rozhodovací grafy k částečně pozorovaným markovským rozhodovacím procesům (POMDP) a podmíněným náhodným polím. Kromě tvorby modelů a metod jejich výpočtu se dotkneme i aplikací.

Distanční vzdělávání Čtvrtek 12:20

Přednáška bude po dobu zakázané osobní výuky probíhat distančně. Předpokládám přes zoom: https://cesnet.zoom.us/j/91680360444?pwd=QlhYVThUUWdTMnFPOExrallqSEJEUT09 v případně problémů v mnou již ozkoušeném MS Teams.

Pracovní materiály

Jeden velký balík prezentací Slajdy obsahuje i rozšiřující témata.

Požadavky úspěšnému zakončení

Přednáška je zakončena ústní zkouškou, po dohodě distanční formou, preferuji osobní. Velmi doporučuji účast na přednáškách zoom a opakovací testy na Moodle.

R

Kurz nemá cvičení, na vyžádání můžeme některé přednášky věnovat interaktivním seznámení s knihovnami R: neuklizený R kód s trochu lepším náhledem Prezetnace kódu R

Ukázku vyhodnocení rozhodovacího grafu (=influenčního diagramu) najdete vspreadsheetu. Další spreadsheety k prozkoumání: EM, tygr.

Otázky ke zkoušce:

  1. Bayesian Networks (BN), algoritmus Eliminace proměnných
  2. Bayesův vzorec, Podmíněná nezávislost, d-separace, Markov Blanket
  3. Precise Optimized Evaluation (Junction Tree Evaluation)
  4. Approximate Evaluation
  5. Probabilistic Classifiers (Naive Bayes, Tree Augmented Naive Bayes)
  6. Parameter Learning in BNs
  7. Structure Learning of BNs
  8. EM algorithm
  9. Decision Graphs (=Influence Diagrams)
  10. POMDPs

Obsah:

  1. Definice bayesovské sítě, podmíněné nezávislosti, d-separace, vztah mezi tím, rozdíl mezi pozorováním a akcí=intervencí,"násobení" tabulek, marginalizace.

  2. Přesné vyhodnocení: Algoritmus eliminace proměnných, Strom spojení a posílání zpráv

  3. Přibližné vyhodnocení BN - likelihood weighting, Gibbs sampling

  4. Učení parametrů

  5. Učení struktury, Chow-Liu tree, obecně max. BIC

  6. Kdy jsou data missing at random, kdy ne? Definice věrohodnosti (likelihood). EM algoritmus.

  7. Rozhodovací grafy: definice RG=influenčího diagramu, použití na příkladu.

  8. Markovské rozhodovací procesy – definice, výpočet optimální stragetie.

  9. Částečně pozorovatelné markovské rozhodovací procesy – definice, příklad, idea výpočtu, jak vypadá optimální strategie (možná reprezentace).

Rozšiřující:

  1. Definice markovského náhodného pole a podmíněného náhodného pole, podobnost a rozdíl od jiných pravděpodobnostních modelů, příklad použití. Vysvětlení pojmů generativní a diskriminativní model, výhody jednoho a druhého.

  2. Gaussovské procesy a bayesovská optimalizace

  3. variational approximation, latent dirichlet allocation.

Literatura

  1. Finn V. Jensen, Thomas D. Nielsen: Bayesian Networks and Decision Graphs, Springer 2007

  2. Leslie Pack Kaelbling, Michael L. Littman, and Anthony R. Cassandra. Planning and acting in partially observable stochastic domains. Artificial Intelligence, Volume 101, pp. 99-134, 1998 zde

  3. Zákládní a obsáhlá reference na učení BN je David Heckermann: A Tutorial on Learning With Bayesian Networks, novinky jsou, ale princip zůstává.

  4. Z mnoha nástrojů ukazuji Genie.

  5. POMDPs: Klíčový článek (Cassandra &all), Anytime ... POMDPs .

  6. Conditional random fields např. Sutton et all.

  7. John Lafferty, Andrew McCallum, Rernando Pereira: Conditional random fields: Probabilistic models for segmenting and labeling sequence data, Morgan Kaufmann 2001, pp. 282—289