Een man uit San Francisco is flink in de problemen gekomen nadat hij op verzoek van de huisarts een foto van het geslachtsdeel van zijn zoontje had gemaakt, meldt The New York Times. Google markeerde de foto als kindermisbruik, blokkeerde zijn account en deed melding bij de politie.
Door onze techredactie
In februari 2021 namen de ouders van een Amerikaanse peuter contact op met een arts. De peuter had een infectie aan zijn geslachtsdeel. Op verzoek van de arts maakte de vader van het jongetje een foto van de infectie en stuurde de foto naar de arts.
Twee dagen later kon de man niet meer inloggen op zijn Google-account. Volgens Google had de man de richtlijnen van het bedrijf overtreden. In de lijst met mogelijke redenen stond onder andere ‘seksueel misbruik en uitbuiting van kinderen’. De man had direct door dat de foto van zijn zoontje waarschijnlijk de oorzaak was.
Google scant sinds 2018 de cloud-opslagdienst Google Drive met kunstmatige intelligentie. Dit systeem is getraind om beelden van seksueel misbruik te herkennen. De man had op de foto het geslachtsdeel van zijn zoontje vast om de infectie goed te kunnen fotograferen. Dit werd door het systeem van Google gemarkeerd als een seksuele handeling.
Google deed direct melding bij de politie
De man nam contact op met Google om het misverstand recht te zetten. Google meldde dat het niet mogelijk was het account te herstellen omdat er al melding was gedaan bij de politie. De politie moest beoordelen of er sprake was van seksueel misbruik.
In december 2021, negen maanden later, kreeg de man een brief van de politie. Daarin stond dat er een groot onderzoek had plaatsgevonden. De politie had daarvoor zijn zoekopdrachten op internet, locatiegeschiedenis, berichten en alle documenten, foto’s en video’s op de Google Drive onderzocht.
De politie was tot de conclusie gekomen dat er geen sprake was van kindermisbruik en meldde dat het onderzoek was gesloten. Toch kreeg de man zijn Google-account niet terug.
Google had zijn account ondertussen al permanent verwijderd. De man is daardoor veel persoonlijke data kwijtgeraakt, waaronder foto’s en video’s van zijn kinderen. De man eist nu 7.000 dollar (ruim 6.900 euro) schadevergoeding van Google.
Miljoenen kinderpornomeldingen per jaar
Techbedrijven markeren miljoenen keren per jaar beelden van seksueel misbruik. Volgens The New York Times heeft Google in 2021 meer dan 600.000 meldingen van kinderporno gedaan. Als gevolg daarvan blokkeerde Google de accounts van meer dan 270.000 gebruikers.
Het is niet bekend hoeveel accounts onterecht worden geblokkeerd. De kunstmatige intelligentie van Google kan kindermisbruik snel signaleren. Daarmee kunnen kinderen in nood snel gered worden. Het levert echter ook onterechte meldingen op.