‘Google ontbindt ook AI-waakhond gericht op gezondheidszorg’

Google heeft zijn Independent Review Panel, dat de focus legde op AI-gerelateerde activiteiten in de gezondheidszorg, ontbonden. Er zou onenigheid zijn tussen panelleden en Google Health over de effectiviteit ervan, aldus The Wall Street Journal.

Het is de zoveelste AI-waakhond die intern voor de nodige opschudding zorgt. Eerder raakte bekend dat de Advanced Technology External Advisory Council een week na lancering alweer uit elkaar viel. Bij die adviesraad ging het met name om de leden zelf. Zij werden door eerdere uitspraken of functies zwaar bekritiseerd.

Het Independent Review Panel werd in 2016 opgericht om toe te zien op een nieuwe Health-unit binnen DeepMind, Googles AI-onderzoekscentrum in het Verenigd Koninkrijk. Eind 2018 begon Google de onafhankelijke raad af te bouwen, naar eigen zeggen vanwege een heroriëntering van zijn activiteiten in gezondheidszorg. Die stap kwam evenwel ook te midden van onenigheid tussen leden van de raad en DeepMind.

Onenigheid

Volgens The Wall Street Journal baseren de geschillen zich tussen beide partijen vooral op het vermogen van het panel om toegang te krijgen tot informatie over onderzoek en producten, de bindende kracht van haar aanbevelingen en de mate van onafhankelijkheid die DeepMind ten opzichte van Google kon behouden. Een woordvoerder van DeepMind verklaart aan The Wall Street Journal dat de raad “waarschijnlijk niet de juiste structuur is voor de toekomst.”

Na de overname van DeepMind door Google in 2014,  is DeepMind een mate van zelfstandigheid toegezegd voor wat betreft AI-onderzoek. Het bedrijf zette in 2016 DeepMind Health op, voorzien van een eigen, onafhankelijk reviewpanel, dat jaarlijks een rapport zou publiceren.

Twee maanden later maakte DeepMind Health een grote misstap. Op onheuse wijze verschafte de unit zichzelf toegang tot ruim 1,6 miljoen patiëntendossiers, zonder dat het partnerziekenhuis patiënten hierover kon inlichten. Het Independent Review Panel stuurde aan op het publiek maken van contracten tussen DeepMind Health en zorginstellingen, en werd destijds geprezen voor de manier waarop het openlijk haar zorgen uitsprak.

Inmenging Google

Toch hebben een aantal panelleden het gevoel dat ze hun taak onvoldoende kunnen uitvoeren, omdat ze te weinig informatie vanuit DeepMind toegespeeld krijgen. Daarbij is de spanning tussen beide partijen tot een hoogtepunt gekomen, toen Google aangaf zich meer te willen mengen in de activiteiten van DeepMind Health, en die laatste werd herdoopt tot Google Health.

Zo wordt een project genaamd Streams – dat artsen in de UK helpt nierziekten op te sporen – voortaan vanuit het Google-hoofdkwartier in Mountain View voortgezet. Naar eigen zeggen kan de ontwikkeling van de door AI-aangestuurde app overal plaatsvinden en wil Google ze wereldwijd beschikbaar maken. Dat zorgde voor ongenoegen bij verschillende panelleden, die graag een informatieve rol hadden gespeeld en het gevoel hadden dat achter hun rug om werd gegaan.

Volgens The Wall Street Journal volgt er nog een laatste publicatie vanuit het Independent Review Panel voor het wordt ontbonden. Daarin zullen onder meer aanbevelingen worden gedaan over hoe dit soort panels in de toekomst beter opgezet kunnen worden.