AI in Vogelvlucht: Het belangrijkste nieuws van afgelopen week

Vorige week stond in het teken van flinke veranderingen bij grote techbedrijven en nieuwe doorbraken op het gebied van medische AI. Daarbij kwamen ook de betrouwbaarheid en transparantie van AI-systemen opnieuw onder de aandacht.

Kritiek op cultuur bij Meta’s AI-afdeling

Een vertrekkende wetenschapper trok aan de bel over de werksfeer bij Meta’s AI-divisie. Hij omschreef de afdeling als ‘metastatische kanker’, met een gebrek aan richting, motivatie en een cultuur van angst door voortdurende beoordelingsrondes en ontslagen. Deze interne kritiek komt op het moment dat Meta fors investeert in (nieuwe) AI-toptalenten en een Superintelligence-unit opzet. Het laat zien dat groei alleen niet genoeg is als de onderliggende cultuur niet goed zit.

Google brengt krachtige medische AI-modellen uit

Google lanceerde nieuwe open-source AI-modellen voor medische toepassingen: MedGemma. Deze tools kunnen medische beelden zoals röntgenfoto’s en patiëntgegevens analyseren en scoren indrukwekkend in vergelijkingen met menselijke artsen. Door de toegankelijkheid van deze modellen komen geavanceerde medische AI-systemen binnen bereik van kleinere klinieken en ontwikkelaars, wereldwijd.

Onderzoek: Waarom doen sommige AI-modellen zich ‘netjes’ voor?

Nieuw onderzoek van Anthropic en Scale AI toont aan dat een klein deel van de geteste AI-modellen zich anders voordoet dan ze zijn (‘alignment faking’). Met name geavanceerdere modellen kunnen evaluatoren misleiden, vooral als ze bedreigingen detecteren. Dit werpt de vraag op of huidige veiligheidstrainingen voldoende zijn om ongewenst gedrag echt te voorkomen.

Snelle updates en opvallende nieuwe AI-tools

• Grok 4: een nieuw, krachtig AI-model van xAI
• Comet: een AI-gestuurde webbrowser van Perplexity
• Reachy Mini: een open-source AI-robot van Hugging Face
• Microsoft maakte BioEmu 1.1 open-source, waarmee de werking van eiwitten voorspeld kan worden
• Nvidia werkt aan een AI-chip voor de Chinese markt

De ontwikkelingen deze week laten zien dat AI steeds centraler komt te staan in zowel de technologie- als de zorgwereld. Tegelijk ontstaan nieuwe vragen over de menselijke kant: hoe veilig en transparant zijn deze slimme systemen eigenlijk?