Vorige week stond in het teken van flinke veranderingen bij grote techbedrijven en nieuwe doorbraken op het gebied van medische AI. Daarbij kwamen ook de betrouwbaarheid en transparantie van AI-systemen opnieuw onder de aandacht.
Een vertrekkende wetenschapper trok aan de bel over de werksfeer bij Meta’s AI-divisie. Hij omschreef de afdeling als ‘metastatische kanker’, met een gebrek aan richting, motivatie en een cultuur van angst door voortdurende beoordelingsrondes en ontslagen. Deze interne kritiek komt op het moment dat Meta fors investeert in (nieuwe) AI-toptalenten en een Superintelligence-unit opzet. Het laat zien dat groei alleen niet genoeg is als de onderliggende cultuur niet goed zit.
Google lanceerde nieuwe open-source AI-modellen voor medische toepassingen: MedGemma. Deze tools kunnen medische beelden zoals röntgenfoto’s en patiëntgegevens analyseren en scoren indrukwekkend in vergelijkingen met menselijke artsen. Door de toegankelijkheid van deze modellen komen geavanceerde medische AI-systemen binnen bereik van kleinere klinieken en ontwikkelaars, wereldwijd.
Nieuw onderzoek van Anthropic en Scale AI toont aan dat een klein deel van de geteste AI-modellen zich anders voordoet dan ze zijn (‘alignment faking’). Met name geavanceerdere modellen kunnen evaluatoren misleiden, vooral als ze bedreigingen detecteren. Dit werpt de vraag op of huidige veiligheidstrainingen voldoende zijn om ongewenst gedrag echt te voorkomen.
De ontwikkelingen deze week laten zien dat AI steeds centraler komt te staan in zowel de technologie- als de zorgwereld. Tegelijk ontstaan nieuwe vragen over de menselijke kant: hoe veilig en transparant zijn deze slimme systemen eigenlijk?
