Black box (Černá skříňka)

Termín „black box“ se v AI používá pro modely (zejména hluboké neuronové sítě), jejichž rozhodovací proces je pro člověka těžko srozumitelný. I když model poskytne správný výstup, není vždy jasné, proč se tak rozhodl. Tento nedostatek transparentnosti může být problémem v oblastech, kde je nutné modely auditovat nebo vysvětlovat – například ve zdravotnictví nebo právu. Vzniká proto rostoucí snaha o tzv. „explainable AI“ (vysvětlitelnou umělou inteligenci), která zvyšuje důvěru uživatelů a snižuje riziko zneužití.