Wyjaśnialna sztuczna inteligencja w praktyce i efekt Mądrego Hansa
W dyskusjach o sztucznej inteligencji nieczęsto przywołuje się pojęcie wyjaśnialnej sztucznej inteligencji (explainable AI, XAI), jeszcze rzadziej pojawiają się konkretne przykłady metod, za pomocą których moglibyśmy w przejrzysty sposób wyjaśnić decyzje podejmowane przez algorytmy. Na czym właściwie miałoby polegać wyjaśnienie zasad działania modelu klasyfikacyjnego? Jak można analizować nie tylko wynik proponowanych predykcji, ale też proces ich podejmowania?... Czytaj dalej