Algoritme zegt weinig

Een artikel in NRC (8/2) stelde dat een AI-algoritme kan voorspellen of het antidepressivum sertraline gaat werken of niet. Een AI-model werd gebruikt om te bepalen welke klinische en brein-variabelen correleerden met de sertraline behandelresultaten. Maar dit betekent niet dat het algoritme voorspellende waarde heeft. Echte voorspellende kracht kan alleen worden aangetoond als het algoritme zou worden toegepast op een volledig nieuwe groep patiënten. Pas dan wordt het AI-model getest op data die het nog niet heeft ‘gezien’ en kan blijken of het echt iets voorspelt. Basale behandelfeiten werden vergeten. Het aantal patiënten dat behandeld moet worden met sertraline om bij één patiënt meer een verbetering te zien dan bij placebo het geval zou zijn geweest, is vier. Dit betekent dat bij drie van de vier patiënten die verbeteren op sertraline dit feitelijk komt door het placebo-effect. Als het AI algoritme dus íets voorspelt is het de placeborespons, zelfs in de sertralinegroep.

Biologische systemen met relevantie voor de psychiatrie worden gekenmerkt door drie belangrijke eigenschappen: niet-lineariteit, regulatie en interactie. Dit bemoeilijkt voorspellingen doen op basis van enkele variabelen, zoals in deze studie, aangezien de effecten van een enkele factor kunnen worden versterkt, verminderd of gewijzigd door de aanwezigheid of activiteit van andere factoren. AI-modellen, hoe geavanceerd ook, zijn gebaseerd op wiskundige principes en hebben dezelfde fundamentele beperkingen als andere wiskundige modellen bij het omgaan met de complexe systemen van het brein.