Wat is explainable AI (XAI)?

Explainable AI verwijst naar methoden en hulpmiddelen die de beslissingen van een AI-model begrijpelijk maken voor mensen. Veel krachtige modellen werken als een black box, dus verklaarbaarheidstechnieken laten zien welke factoren een bepaalde voorspelling hebben bepaald. Dit is belangrijk voor vertrouwen, foutopsporing en naleving, vooral waar regelgeving organisaties verplicht om geautomatiseerde beslissingen die individuen raken, zoals lening- of verzekeringsgoedkeuringen, te onderbouwen.