XAI, czyli interpretowalna sztuczna inteligencja. Jak sieć neuronowa podejmuje decyzje?

Głębokie sieci neuronowe doskonale sobie radzą z problemami zbyt trudnymi dla klasycznych metod uczenia maszynowego, jednak często dużym wyzwaniem jest odpowiedzenie na pytanie, dlaczego sieć neuronowa podjęła taką, a nie inną decyzję. Aktualnie dynamicznie rozwija się dziedzina interpretowalnej sztucznej inteligencji (XAI), której celem jest zajrzenie do czarnej skrzynki, którą są głębokie sieci neuronowe. Na niniejszym wykładzie  zostaną omówione metody XAI w kontekście sieci neuronowych przetwarzających dane obrazowe.