Instagram gaat tools testen om gebruikers beter te beschermen tegen sextortion en andere vormen van misbruik van naaktbeelden. Zo gaat de app privéberichten controleren op naaktafbeeldingen.
Instagram ziet dat oplichters privéberichten gebruiken om naaktafbeeldingen te delen of om daarom te vragen. Om daar tegen te beschermen, gaat Instagram een feature testen die scant op naaktafbeeldingen, meldt het bedrijf in een aankondiging. Als een naaktafbeelding wordt aangetroffen, dan wordt deze vervaagd en verschijnt een waarschuwing dat het om een naaktfoto kan gaan. Het is aan de ontvanger om te bepalen of de foto getoond wordt of niet. Instagram herinnert gebruikers er verder aan dat ze niet hoeven te reageren op een bericht. Daarbij staan ook opties om de afzender te blokkeren en de chat te rapporteren bij Instagram.
Verzenders van naaktafbeeldingen krijgen een melding waarin ze worden aangemoedigd om daar voorzichtig mee te zijn. Mocht een gebruiker vervolgens van gedachten veranderen, dan kan de foto teruggetrokken worden. Wel bestaat de kans dat de ontvanger de foto dan al gezien heeft. Wie een ontvangen naaktafbeelding probeert door te sturen, krijgt een melding waarin ze gevraagd worden om dat te heroverwegen.
Moederbedrijf Meta gebruikt voor deze feature on-device machine learning. "Omdat afbeeldingen op het apparaat zelf geanalyseerd worden, werkt deze bescherming in end-to-end versleutelde chats". Meta krijgt naar eigen zeggen geen toegang tot de foto's, tenzij iemand deze rapporteert. Dergelijke technologie valt echter onder client-sidescanning, waar de afgelopen jaren veel ophef over is geweest. De Europese Commissie wilde met deze technologie alle chatberichten van Europeanen controleren. Experts waarschuwen dat dergelijke systemen ook gebruikt kunnen worden om andere vormen van content te controleren en blokkeren.
De nieuwe functie wordt wereldwijd standaard ingeschakeld voor gebruikers jonger dan achttien jaar. Volwassenen krijgen een notificatie te zien, waarin ze aangemoedigd worden om de functie aan te zetten.