Instagram gaat controle op naaktafbeeldingen in privéberichten testen

Instagram gaat tools testen om gebruikers beter te beschermen tegen sextortion en andere vormen van misbruik van naaktbeelden. Zo gaat de app privéberichten controleren op naaktafbeeldingen.

Instagram ziet dat oplichters privéberichten gebruiken om naaktafbeeldingen te delen of om daarom te vragen. Om daar tegen te beschermen, gaat Instagram een feature testen die scant op naaktafbeeldingen, meldt het bedrijf in een aankondiging. Als een naaktafbeelding wordt aangetroffen, dan wordt deze vervaagd en verschijnt een waarschuwing dat het om een naaktfoto kan gaan. Het is aan de ontvanger om te bepalen of de foto getoond wordt of niet. Instagram herinnert gebruikers er verder aan dat ze niet hoeven te reageren op een bericht. Daarbij staan ook opties om de afzender te blokkeren en de chat te rapporteren bij Instagram.

Verzenders van naaktafbeeldingen krijgen een melding waarin ze worden aangemoedigd om daar voorzichtig mee te zijn. Mocht een gebruiker vervolgens van gedachten veranderen, dan kan de foto teruggetrokken worden. Wel bestaat de kans dat de ontvanger de foto dan al gezien heeft. Wie een ontvangen naaktafbeelding probeert door te sturen, krijgt een melding waarin ze gevraagd worden om dat te heroverwegen.

Moederbedrijf Meta gebruikt voor deze feature on-device machine learning. "Omdat afbeeldingen op het apparaat zelf geanalyseerd worden, werkt deze bescherming in end-to-end versleutelde chats". Meta krijgt naar eigen zeggen geen toegang tot de foto's, tenzij iemand deze rapporteert. Dergelijke technologie valt echter onder client-sidescanning, waar de afgelopen jaren veel ophef over is geweest. De Europese Commissie wilde met deze technologie alle chatberichten van Europeanen controleren. Experts waarschuwen dat dergelijke systemen ook gebruikt kunnen worden om andere vormen van content te controleren en blokkeren.

De nieuwe functie wordt wereldwijd standaard ingeschakeld voor gebruikers jonger dan achttien jaar. Volwassenen krijgen een notificatie te zien, waarin ze aangemoedigd worden om de functie aan te zetten.

Instagram detectie naaktbeelden, april 2024Instagram detectie naaktbeelden, april 2024Instagram detectie naaktbeelden, april 2024Instagram detectie naaktbeelden, april 2024

Door Eveline Meijer

Nieuwsredacteur

11-04-2024 • 12:17

114 Linkedin Whatsapp

Submitter: wildhagen

Reacties (114)

114
110
48
0
0
50
Wijzig sortering
Klinkt positief zoals het nu omschreven en benaderd wordt, maar tegelijk een klein en eenvoudig opstapje naar censuur.
Hoezo? De foto wordt vervaagd en je kunt hem nog steeds zichtbaar maken.

Lijkt me een goed initiatief om minder geconfronteerd te worden met ongewenste beelden.
Zou je Tweakers.net toegang willen geven tot je foto collectie om gratis en voor niets je naaktfoto's te blurren?

Censuur is helemaal niet zo gek gedacht door PvdVen777.
Als ze filteren op naaktfoto's, hoe weet jij dat ze niet een database hebben met alle gevonden naaktfoto's?
Je hoeft niet perse die dienst te gebruiken als je daar bang voor bent. Genoeg communicatie alternatieven. Het aantal ongevraagde berichten op dit soort publieke systemen is aanzienlijk.
Ik weet dat het een persoonlijke keuze voor is voor een platform.
Maar dat zo'n platform filters bedenkt en in mijn data grasduint is iets compleet anders natuurlijk.
En als de instrumenten er zijn wordt er ook gebruik van gemaakt.

En wat als het misbruikt wordt?
Vind jij dat zelf niet discutabel?

Het is geen goede ontwikkeling als Meta ervaring krijgt in het filteren van foto's.
Meta heeft daar al lang ervaring in. Je foto's gaan sowieso al door de Meta-servers heen. Verder zou het blurren sowieso 100% on-device kunnen, dat op de server doen is niet interessant. Voor wat voor vorm van misbruik ben je precies bang?
Iets met privacy en ja dit is Meta. Dus ikzelf gebruik dit ook niet.
Maar voor mij zit er wel een duidelijk verschil tussen wat je openbaar post en wat je verstuurd in priveberichten. Ik zit echt niet te wachten dat echt elke punt en comma eerst geverifieerd moet worden door een zelfbenoemde internetpolitie. Nu is het naaktfotos om misbruik te voorkomen en over 2 jaar is het alle tekst om "desinformatie" in privegesprekken te weren.
Je ziet het ook bij banken die verantwoordelijk zijn voor witwasopsporing. Die zijn ook roomser als de paus en slaan helemaal door. Dat een privepersoon zwaar in de problemen komt voor effectief precies helemaal niets is niet hun probleem, zolang zij maar niet aansprakelijk gesteld kunnen worden. Ideale situatie voor onze overheid, verantwoordelijkheid afgeschoven en effectief geen rechtsbescherming voor de gewone burger. Veel plezier met procederen tegen dit soort instituten.

Gewoon nee.

Voor mensen die een alternatief zoeken, Signal en mijn persoonlijke favoriet Threema.

[Reactie gewijzigd door arbraxas op 11 april 2024 14:17]

Mensen die vertrouwd willen communiceren moeten dat sowieso niet via Instagram doen. Dit is wat dat betreft ook niet direct zelfbenoemde internetpolitie; ze kiezen een bepaald intern beleid en passen dat binnen een eigen platform toe. Het staat je dan inderdaad vrij te vertrekken, en dan kom je deze waakhonden buiten het platform niet tegen.
Wellicht andere, omdat een ander platform zelf ook keuzes maakt, dan is het een kwestie van een passend platform kiezen. Kies dan inderdaad iets als Signal, Threema, Telegram of iets anders, het liefst decentraal.

Ik ben zelf ook geen fan van het concept, maar binnen de kaders van Instagram: veel minderjarige en/of kwetsbare gebruikers, en ongezien misbruik kan hier makkelijk plaatsvinden. Ik snap wel dat men dat probeert in te kaderen; als je door die kaders geraakt wordt zit je gewoon niet op de goede plek.
Geef je het exact aan, gaat het er nog niet in.

Of gebruik Cwtch.
publieke systemen
En prive berichten.... wat maakt het uit dat het een publiek systeem is? Dat is post bezorging ook en daar hebben we toch gewoon een briefgeheim?
Als jij elke dag van vreemde personen, ongevraagde plaatjes in de bus krijgt, zou je denk ik ook blij zijn als je van te voren zelf kunt bepalen wat je wel en niet wilt zien. Overigens, mensen moet hun inbox gewoon dichtzetten voor alleen vrienden, dan heb je dit probleem ook al niet maar stel je voor ze nemen zelf verantwoordelijkheid
Tja, maar de afzender kunnen zien is dan al voldoende filtering toch? Inhoudelijk bepalen wat wel/niet gewenst is voor een ander, is altijd een slecht plan.
Als ze filteren op naaktfoto's, hoe weet jij dat ze niet een database hebben met alle gevonden naaktfoto's?
Hoe weet jij dat ze dat nu ook al niet doen?

Of je vertrouwt een bedrijf en dan ga je er van uit dat ze enkel doen wat ze zeggen. Of .... niet en dan kunnen ze toch alles wat je kan bedenken (en meer) nu al stiekem doen?
Hoe weet jij dat ze dat nu ook al niet doen?
Die AI is toch op de één of andere manier getraind en het lijkt mij heel logisch dat daarvoor naaktfoto's gebruikt zijn. En die naaktfoto's zullen allemaal uit de database van Meta komen.
Waarom zouden ze in hemelsnaam hun model trainen op privé-foto's van gebruikers? Er zijn tig modellen beschikbaar die je al gratis kan gebruiken.

bijv. https://huggingface.co/giacomoarienti/nsfw-classifier

Of gewoon in je browser:

https://nsfwjs.com/

Naaktfoto's detecteren (met een acceptabele foutmarge) is al lang een opgelost probleem. Daar hoef Instagram echt niet stiekem naaktfoto's van hun gebruikers voor te stelen.
Waarom zouden ze in hemelsnaam hun model trainen op privé-foto's van gebruikers?
Waar zie jij staan dat ik schreef dat het privéfoto's betreft van gebruikers? Er staat alleen dat het de database van Meta. Waar staat er dat Instagram stiekem naaktfoto's van hun gebruikers steelt?
Je dicht mij meer toe dan er werkelijk staat.
Zou je Tweakers.net toegang willen geven tot je foto collectie om gratis en voor niets je naaktfoto's te blurren?
Nee? Hetzelfde met Istagram, daar upload ik ook geen foto's naar (ook niet via hun messenger), dus ze zullen het ook niet scannen.
Juist - wat men verstuurd is hun probleem en zou end-to-end encrypted moeten zijn.
Dat zijn twee verschillende onderwerpen, die je noemt. Een goed initiatief kan alsnog een vorm van censuur zijn.

Van detecteren en vervagen is het technisch gezien maar een kleine stap naar helemaal niet meer tonen. Men heeft dan de macht om dat te doen.
Dat zal altijd het dilemma zijn: Beschermen en beknotten of leve de vrijheid. (maar niet voor iedereen)
Eigenlijk is het geen dilemma. Want wat is schokkerend? Naakt? Gewoon regulier naakt zou dat niet hoeven zijn. Maar goed; stel dat iemand wel moeite heeft met naaktheid. Dan is dat zijn/haar probleem en heel simpel tegen te gaan.
Er zijn genoeg beelden die juist wel schokkeren en helemaal niets met naakt te maken hebben. Totaal onzinnige en ongewenste filtering dus.
En we weten notabene dat het altijd zal doorslaan en falen. Filteren op zoiets algemeens als naakt is al gebleken dat het niet goed lukt en ook niet helpt.
Gelukkig blurren ze het bij Instagram. Ik heb weleens gelezen op Tweakers dat iemand een foto van z'n naakte baby naar de huisarts stuurde voor een opinie en die afbeelding kwam niet aan: Kinderporno. Dan word je pas simpel.
Ja, voorbeelden genoeg dat het totaal onzinnig is. En daarbij komt: een kerel met z'n kleren aan maar wel een bepaald deel 'open en bloot' is toch misschien ook wel schokkerend. Wordt dat dan herkend als 'naakt'? Zou niet moeten - want dat is niet de definitie van naakt.

Mensen beschermen tegen schokkerende beelden is een dood spoor. Sommige mensen raken bijv. geschokkeerd bij het zien van dierenmishandeling (ik ook...) maar toch wil je niet alle beelden daaromtrent tegenhouden. Dan lijkt het of het niet gebeurt maar dat is onzin.
en zo gaat alles steeds meer en meer naar een controle systeem wat je absoluut niet moet willen. Al helemaal niet van een bedrijf uit een ander land.
Zou jij liever hebben dat een echte mensen jouw foto's gaan controleren of dat een AI bot dit doet?

Dat afbeeldingen gecheckt moeten worden op content is niet meer dan logisch lijkt mij, dat is een hele goede stap en ik begrijp dat de vraag hiernaar heel groot is. Je wilt niet weten hoeveel mensen lastig gevallen worden met crap. Het alternatief is dat mensen onze foto's gaan controleren (wat overigens onmogelijk is, daarom MOET het wel op deze manier). Niet controleren is waanzin. Dat is net zoiets als overal de vuilnisbakken weg halen en iedereen zijn zooi op straat laten gooien.

En er wordt overigens al jaaaren gecontroleerd op content, maar zolang je het niet weet is er blijkbaar nog niets aan de hand. Maar met dit voorbeeld is het ineens weer een probleem? Absoluut niet willen? Absoluut WEL willen zou ik zeggen.

En laten we wel zijn, vrijwel overal waar je tegenwoordig afbeeldingen kunt uploaden wordt deze al gecheckt op content. De foto gaat soiezo al naar een server, ook als deze niet gecontroleerd wordt zal een bedrijf uit het buitenland die zo graag jouw foto wil misbruiken deze mogelijkheid altijd hebben, dat is al ruim 40 jaar zo! Enig begrip voor het willen blokkeren van troep lijkt mij niet meer dan logisch. In dit voorbeeld wordt een afbeelding alleen maar op voorhand geblurred zodat je je niet rot hoeft te schrikken. Er wordt niet geblokt en je kunt nogsteeds de foto bekijken, hij wordt niet direct geweigerd bij het uploaden ervan. Mocht er dus een false-positive tussen zitten is er nog niets aan de hand. Ik zou graag zien dat de algoritmes zo goed worden dat dit op voorhand al tegengehouden kan worden. Dit zal gelukkig ook niet lang meer duren.

Volgens mij is het onmogelijk om dit probleem op te lossen zonder dit soort maatregelen toe te passen. Als men zo bang is dat zijn afbeelding in een database beland en misbruikt zal worden, dan heb je maar weinig keus, gewoon volledig stoppen met elke vorm van communicatie via het internet. En zoals ik al zei, dit is al ruim 40 jaar zo en valt nauwelijks te controleren maar nu ineens word je bang van wat een bedrijf in het buitenland met jouw afbeelding zal doen vanwege AI die content checkt? Makes no sense.

Laat ik het anders stellen. Hoe zou jij dit probleem willen oplossen?

[Reactie gewijzigd door BruT@LysT op 11 april 2024 14:34]

Zou jij liever hebben dat een echte mensen jouw foto's gaan controleren of dat een AI bot dit doet?
Niemand en dus ook geen AI zou prive berichten mogen lezen/bekijken behalve verzender en ontvanger.

Als de verzender ongewenste data verstuurd dan moet de ontvanger de verzender blokkeren, meer is het niet.
Als men zo bang is dat zijn afbeelding in een database beland en misbruikt zal worden, dan heb je maar weinig keus, gewoon volledig stoppen met elke vorm van communicatie via het internet.
Rare instelling.... end-to-end encryptie bestaat al een tijdje hoor.
Hoezo? De foto wordt vervaagd en je kunt hem nog steeds zichtbaar maken.

Lijkt me een goed initiatief om minder geconfronteerd te worden met ongewenste beelden.
Dan ga je er natuurlijk wel vanuit dat ze straks niet een stap verder gaan, wat vrij makkelijk is als de technologie al geïmplementeerd is. We hebben al gezien dat mensen gebanned zijn van hun volledige Microsoft-account omdat ze een foto van hun kind op het strand dat in hun cloud-opslag stond, als kinderporno werd aangemerkt.

En sowieso hebben de tech-mensen in Californië nogal extreme politieke denkbeelden, wat we ook zagen bij Gemini. En bij Amerikaanse universiteiten hebben ze tribunalen opgericht om zich te bemoeien met het seksuele gedrag van studenten. Daarbij werd iemand van de universiteit gestuurd die S&M seks had met zijn partner, waarbij de vrouw in kwestie bij het tribunaal vertelde dat het met volledige instemming was. Desondanks werd de mannelijke student weggestuurd.

Dus alles wat nodig is, is dat een radicaal persoon bij Instagram bepaald dat S&M eigenlijk misbruik van vrouwen is, of dat alle foto's met een naakte vrouw erin eigenlijk onderdrukking van vrouwen zijn (heel veel feministen vinden alle seksualisering van vrouwen onderdrukkend, waarbij vrouwen het slachtoffer zouden zijn van de 'mannelijke blik').

Sowieso lijkt de norm bij de tech-bedrijven in Californië te zijn dat de rechten van de verdachten totaal niet worden gerespecteerd, dus als je onschuldig bent, maar je iets doet dat oppervlakkig gezien lijkt op fout gedrag, dan zien we in de praktijk dat je vaak niet eens de kans krijgt om je onschuld kan bewijzen, of zelfs maar te horen krijgt wat je volgens hen gedaan kan hebben (verdedig je maar eens tegen een aanklacht die je niet eens krijgt te horen).

[Reactie gewijzigd door Ludewig op 11 april 2024 13:00]

En bij Amerikaanse universiteiten hebben ze tribunalen opgericht om zich te bemoeien met het seksuele gedrag van studenten. Daarbij werd iemand van de universiteit gestuurd die S&M seks had met zijn partner, waarbij de vrouw in kwestie bij het tribunaal vertelde dat het met volledige instemming was. Desondanks werd de mannelijke student weggestuurd.
Dit is inderdaad ziek, dat de uni zich gaat bemoeien met mensen hun privé zaken die volledig met instemmen van elkaar gebeuren.
Het scannen, en deels verbergen van berichten op een bepaalde inhoud lijkt inderdaad een klein opstapje naar censuur.
Censuur is het gebruiken van de macht van de staat, een andere controlerende macht, een bepaalde groepering, of van bepaalde individuen, om informatie achter te houden of de expressie aan banden te leggen.
Dat is ook de bedoeling. Deze bedrijven krijgen regelmatig klachten dat ze te weinig doen. Dinsdag in het VTM nieuws ging het weer over een pedo die 40 minderjarige meisjes chanteerde op TikTok en ze steeds verder liet gaan met foto's.

Hoe moeten ze daar iets aan doen zonder te scannen?
Hoe gaat dit die afpersers stoppen dan?

"Oh, je kreeg een waarschuwing van Insta? Ik was je aan het afpersen maar laat dan maar, dan hoef het niet natuurlijk."
Als ze naaktfoto's kunnen herkennen kunnen ze die blokkeren en kunnen ze niet verstuurd worden en valt er ook niks af te persen.
Dan helpt dit stomme filter toch ook niet??? De ontvanger krijgt toch nog steeds de foto's....

Dat mensen klagen bij bedrijven is al net zo dom. Het bedrijf deed niets fout [ten tijde van jouw voorbeeld]....maar straks wel....
In dit geval is Wikipedia een zeer slechte bron omdat voor deze quote geen bron beschikbaar is.

Censuur is alleen van toepassing wanneer het word gedaan door religie of overheid: https://www.dbnl.org/teks...ela012alge01_01_00757.php
https://www.vandale.nl/gr...erlands/betekenis/censuur

Dat is juridisch ook simpel uit te leggen, in de EU hebben de grondrechten geen directe werking tussen private partijen.
In juridische zin klopt dit, maar de term wordt ook breder gebruikt in de volksmond. Zoals bijvoorbeeld in dit geval.

Het is dus niet illegaal (in juridische zin), maar bepaalde mensen kunnen het onwenselijk vinden.
"maar bepaalde mensen kunnen het onwenselijk vinden."

maar dat maakt het nog geen censuur. En juist dat het wel zo gebruikt wordt in de volksmond is waar ik tegen ageer.
Tja... Taal faciliteert communicatie en niet andersom toch? Iedereen 'weet' wat er bedoeld wordt. Ik zeg niet dat dat het technisch correct moet maken natuurlijk.

Semi-offtopic: Ik moet erkennen dat ik me ook stoor "smart-"xyz. (er is niets slims aan een 'slimme oven' of zo), maar dat is eenmaal het woord dat gebruikt wordt voor een apparaat met een app.

Maar uit nieuwsgierigheid:
maar tegelijk een klein en eenvoudig opstapje naar censuur.
Hoe zou jij de intentie van deze zin dan vertalen naar een dekkend iets?

Iets als "maar tegelijk is er een risico op een glijdende schaal voor verdere beperkingen van vrije onderwerpkeuzes." of zo?

Overigens:
Als we https://nl.wikipedia.org/wiki/Censuur_(informatie) bekijken wordt de beschrijving van censuur breder getrokken dan de technische/juridische betekenis. Nou is Wikipedia natuurlijk geen Van Dale, maar het geeft wel aan dat het in de praktijk breder gebruikt wordt.
Lijkt mij vooral een initiatief om herkenning algoritmes te implementeren, dit is er een fijne toepassing van.

Mogelijk een toekomst waarbij alles door verschillende classificerende scanners gaat voor (w)elk nut.
Ik heb meegemaakt dat ik een foto had gemaakt in het Natuur Historisch Museum in Wenen (2019) van een schaars geklede holbewoner (pop) met een speer in zijn hand. De holbewoner zijn intieme delen waren niet zichtbaar (zie foto) .

Ik wilde deze foto bij mijn Discord travel sectie uploaden maar werd geweigerd omdat Discord vond dat het "inappropriate because of nudity " was.
Dus soms kan het ook te ver gaan qua controle naar mijn mening.

Straks mag je mensen op het strand niet meer fotograferen? Deze lopen ook daar topless of in korte broeken.

[Reactie gewijzigd door aliberto op 11 april 2024 12:52]

Je moet dan ook geen gebruik maken van Amerikaanse producten, dan krijg je dit.
Moet ik dan tweakers vragen of ze me iedere dag het Technieuws per post opsturen dan?

Ik begrijp wat je bedoelt met je opmerking, maar laten we even heel eerlijk zijn, wat kunnen we dan nog wel gebruiken? Europese alternatieven zijn er niet tot nauwelijks en als puntje bij paaltje komt is alles praktisch gebaseerd op globaal werk waar hoe dan ook ergens een regime aan heeft bijgedragen wat je niet wil steunen. Of dat nu een land als US, China of een Afrikaans land is, maakt niet zo veel uit.
Moet ik dan tweakers vragen of ze me iedere dag het Technieuws per post opsturen dan?
@IJsbreker bedoelt Amerikaanse diensten, zoals Discord.
wat kunnen we dan nog wel gebruiken?
Federatieve alternatieven.
Ik denk dat de reacties hier onder wat te ver gaan.

Het argument van dat je het niet meer mag fotograferen gaat niet echt op, het gaat hier om publiceren... Dat jij geen (half) naakte mensen mag publiceren op je instagram waarvan diegene niet op de hoogte is dat ze door een dagje op het strand ineens online staan, wellicht op een profiel die volledig publiek is, lijkt mij logisch, maar dat is niet eens waar dit om gaat. Maar je doet wel alsof dit "de stap is naar", en die stap zou niet eens heel slecht zijn.

Maar goed desalniettemin gaat het hier om een simpele waarschuwing voor de tegenpartij, van hey, dit is sensitive content waar je misschien niet om gevraagd hebt, ben je klaar om dit te zien.

Je ziet dit vaker terugkomen in de vorm van NSFW-filters op bijv. Reddit, twitter, als je SFW-mode aan hebt staan.

Verbaasd me eigenlijk dat instagram dit nog niet had, terwijl het redelijk industrienorm is.

[Reactie gewijzigd door marco282 op 11 april 2024 13:23]

Blijf het verwerpelijk vinden.

Half geslacht varken met allerlei organen er uit geen probleem. Kan iedereen vast tegen. Maar oh jee, een tepel! Ren voor de heuvels!

Kinderachtig gedoe.
Is een privebericht sturen publiceren?
Er is wel enig verschil of je een foto in je plakboek zet of de wijde internetwereld in stuurt.
In het laatste geval heb je geen controle meer over wat men doet met de foto's die jij gemaakt en geplaatst hebt van een ander persoon.
Straks mag je mensen op het strand niet meer fotograferen? Deze lopen ook daar topless of in korte broeken.
Het is ook niet echt de bedoeling dat je dit doet.......
Veel mensen maken een foto van hun geliefde of kinderen van een bepaald moment (vereeuwigen). Wat er op de achtergrond gebeurd heb je niet altijd in de hand , mee eens. Maar fotograferen is van alle tijden.
Enter de nieuwe Google Pixel Pro.

*verzucht zich vanwege de kutreclames die op TV apps wat lastig te vermijden zijn*
Als ik met m'n vrouw en kind op het strand ben mag ik daar toch zeker wel een kiekje van schieten? 8)7
Wettelijk gezien mag dat gewoon, want het is openbare ruimte. Dat je met je telelens zo geen vrienden maakt is een ander verhaal. :P
Een foto van je gezin op het strand mag dus niet?
das gewoon een kwestie van dat filter uitzetten/minder streng zetten op je server

[Reactie gewijzigd door dakka op 11 april 2024 13:17]

Ik heb meegemaakt dat ik een foto had gemaakt in het Natuur Historisch Museum in Wenen (2019) van een schaars geklede holbewoner (pop) met een speer in zijn hand. De holbewoner zijn intieme delen waren niet zichtbaar ( .

Ik wilde deze foto bij mijn Discord travel sectie uploaden maar werd geweigerd omdat Discord vond dat het "inappropriate because of nudity " was.
Dus soms kan het ook te ver gaan qua controle naar mijn mening.
Die holbewoner is niet eens naakt, waar gaat dit over man 😂 Slaat echt helemaal nergens op

[Reactie gewijzigd door Remzi1993 op 11 april 2024 16:52]

Het is voor mij erg raar dat toen iets als AI image-classification ontwikkeld werd, men er toen ontzettend positief over was. Wauw kijk deze nieuwe techniek eens, wat gaaf. Maar dat was pas een opstap naar censuur, de techniek ontwikkelen om geautomatiseerd content te classificeren volgens arbritaire criteria. Het is zo te zien hoe dat bijvoorbeeld door een authoritaire overheid misbruikt kan worden, maar men had het alleen maar over hoe cool de technologie was.

Maar zodra we het inzetten om te zorgen dat minderjarigen geen random piemels in hun inbox krijgen, dan moet er opeens groot alarm zijn? Als we de techniek nu eenmaal hebben, laten we hem dan ook voor goede dingen inzetten. Als dit er voor zorgt dat de meest vreselijke dingen van het internet niet meer ongewenst op je beeldscherm komen, dan hebben we de AI doos van Pandora tenminste niet voor niks geopend.
Censuur vanuit een bedrijf?
Tja, mensen hebben van heel veel termen geen benul van de betekenis. Fraude, smaad, laster en censuur worden continue rondgeslingerd zonder dat ze in die situatie relevant zijn.

Beetje als mensen die klagen dat wanneer ze een social media platform afgegooid worden hun vrijheid van meningsuiting wordt aangetast. Dat is niet hoe dat werkt... Ik denk niet dat je hier nog veel aan gaat doen.
alsof er zonder deze beperking geen censuur is. Alles wat je ziet is tailor made voor jouw bubbel, waarmee je de rest niet ziet, waarmee er dus censuur wordt toegepast. Sowieso is het een commercieel bedrijf en hebben ze niet zoveel met censuur te maken.
Los van de mogelijkheid tot censuur vind ik het sowieso niet prettig dat Instagram mijn privéberichten gaat scannen en analyseren.
Dat er controle is op wat je op een openbare feed plaatst vind ik an sich prima (al wordt er wel erg veel aan shadowbanning gedaan op Instagram), maar wat je in je privéberichten deelt, zou privé moeten zijn...)
Ik vind mensen sowieso dom die digitaal en/of online naakt delen van zichzelf. Wat op internet is zal altijd op het internet blijven.

Ik snap er werkelijk waar niks van en ik ben een Millennial.
Ik ben ook een millennial maar ik garandeer je dat wij dat ook gedaan zouden hebben. We hadden alleen de technologie nog niet.
Nee, ik zou het nooit doen en ik ben in 1993 geboren en toen ik op de middelbare school zat was er Hyves en Facebook kwam in opmars in Nederland. Toen deed ik dit soort gestoorde dingen ook niet. Het is echt heel laag niveau die naakt online deelt. Mijn potentiële toekomstige partner zou gelijk afgekeurd zijn als ze naakt online zou delen 😂
Nou dat lijkt mij ook! Fijn dat dames niet meteen met een tampeloeris vol in beeld worden geconfronteerd, daar snap ik het nog wel een beetje voor. Maar hoe worden slachtoffers van sextortion hier mee geholpen? Niet door een waarschuwing te tonen lijkt me.
Als er een tool wordt gemaakt die toegang heeft tot deze data op je apparaat, dan heb je ook meteen een mogelijke kwetsbaarheid die misbruikt kan worden.

Het is denk ik maar een kwestie van tijd totdat iemand een virus heeft gemaakt die alle afbeeldingen uit privéberichten kan stelen.
:? huh, er is nu al een "tool" die toegang heeft tot die data op je apparaat, de app zelf...
Een extra controle als dit wordt gewoon in diezelfde app gedaan, lokaal, die stuurt dan gewoon een flag mee, daar zijn geen extra rechten of toegang voor nodig.

Dit is geen app van een 3e partij ofzo
Maar alle apps waar deze tool in gebruikt zal gaan worden hebben al toegang tot alle data op je apparaat.

(@dakka was me voor)

[Reactie gewijzigd door CivLord op 11 april 2024 13:48]

En is er straks ook een afdeling ter training en controle van de AI waar mensen de hele dag naar privé naaktbeelden van minderjarigen zitten te kijken? |:(

Hoe zit het met bandbreedtegebruik voor nog 'n keer extra ergens heen sturen van alle foto's? En wat als de verbinding slecht is / deze nieuwe 'dienst' een storing heeft. Kun je dan nog wel afbeeldingen verzenden? Of als je geen zin hebt in het batterijgebruik van een stevige AI op je device? Etc.

Afijn.. ik sluit mij aan bij de mensen die haken-en-ogen zien in een mate die tenminste even groot lijkt als het probleemoplossend gehalte van deze maatregel.

[Reactie gewijzigd door Gwaihir op 11 april 2024 15:01]

Voordat je dit soort doom-scenario's bedenkt, zou ik eerst het artikel lezen:
Moederbedrijf Meta gebruikt voor deze feature on-device machine learning. "Omdat afbeeldingen op het apparaat zelf geanalyseerd worden, werkt deze bescherming in end-to-end-versleutelde chats"
Die foto's verlaten pas je telefoon waneer je ze verstuurt, net zoals nu.

[Reactie gewijzigd door svane op 11 april 2024 14:31]

Apple was van plan om zo’n feature te implementeren precies op dezelfde technische wijze, om CSAM (google) tegen te gaan. Dat hebben ze toen niet doorgevoerd na groot protest.

Deze tool van meta blokkeert verder niets dus hoe effectief het is: voor mij voelt het vooral als theater om te voorkomen dat de overheid drastischere eisen gaat stellen.

En ik durf te wedden dat meta metrics bijhoud en dus weet welke minderjarigen dit soort beelden doorstuurt. 😬

[Reactie gewijzigd door Q op 11 april 2024 12:32]

Klinkt allemaal positief en goed om de verstuurders en ontvangers nogmaals te waarschuwen en een extra bevestiging te vragen. Ik kan dit alleen maar toejuichen.
Mag ik bij jou dan ook even meekijken in je post, e-mail en al je andere berichtverkeer?
Alleen maar om ontvangers eventueel te waarschuwen voor 'gevoelige content' hoor!
Dat wordt al jaren gedaan, scannen op terroristsische motieven, kinderporno etc. En gaat in eerste unstantie met computers, pas bij echt alarmbellen kijkt er iemand mee. Als je dat niet wilt moet je niet gebruik maken van een (grote) dienstverlener, maar je eigen servertje met je eigen versleuteling toepassen. Ik snap dat je het kan zien als inbreuk op je privacy, maar zover zijn we nu. En voor veel mensen en zeker kinderen/jong volwassenen vind ik het een goed idee om deze waarschuwingen en extra bevestiging toe te voegen.
Het is de Instagram app van de ontvanger die extra code krijgt om te beslissen of het een naaktafbeelding moet laten zien, en in dat geval eerst een blur-versie produceert met een vraag ervoor. De foto had je dus sowieso al verstuurd.
Wie een ontvangen naaktafbeelding probeert door te sturen, krijgt een melding waarin ze gevraagd worden om dat te heroverwegen.
Beter is om de orginele verzender daarvan op de hoogte te stellen.
Als aanvulling: foto's niet opslaan en mogelijkheid om screenshots te blokkeren.

[Reactie gewijzigd door moonlander op 11 april 2024 12:52]

Klopt. Op ontvangen naaktbeelden mag een totale blokkade komen op bewerken, opslaan en doorsturen.
Een beetje zoals je een -1 op Tweakers eerst moet openklikken alvorens je hem kan lezen, maar je kan hem nog altijd lezen. Niks mis mee zou ik denken.
Niks mis mee, behalve dat Instagram dus je privéberichten scant...
"Omdat afbeeldingen op het apparaat zelf geanalyseerd worden, werkt deze bescherming in end-to-end-versleutelde chats"
Ondertussen zie je wel allemaal blote vrouwen met nepbaby's aan de tiet als je scrollt. Was aan het kijken voor baby uitzet cadeaus van winkels voor een familielid, krijg ik dit ook te zien.........
Dat kan gewoon. Weer wat geleerd.

[Reactie gewijzigd door Wasabi! op 11 april 2024 12:29]

Men is enorm creatief. Je ziet op FB ook veel van die shorts van dames die nét niet met blote borsten aan het koketeren zijn. Ik heb er geen onderzoek naar gedaan, maar ik vermoed dat ze dit niet doen om mij een plezier te doen, maar om mij naar OnlyFans/FansOnly of hoe dat ook heet te lokken.
De reels zitten ook vol met volledig naakte vrouwen. En dat zijn natuurlijk vrouwen met een fans account. Die zoeken letterlijk de grenzen op van wat toegestaan wordt op instagram. Alles wordt toegestaan zolang de daadwerkelijke gaten niet zichtbaar zijn. Maar ook die zijn nu zichtbaar in de zogenaamde “pause games”
Maar gelukkig blijven advertenties wel doorkomen, ook al zijn ze misleidend, onjuist, of promoten ze verslavende middelen. Zuck moet namelijk nog de developer die z'n gelijkenis heeft gemodelleerd in de Metaverse €14.99 betalen heb ik gehoord..
Tsja, wat is erger: je prive berichten scannen, of ze beschikbaar stellen aan Netflix?
Gelukkig hoeven we niet kiezen, want Meta doet het gewoon allebei.
Dat mensen zo zelf kunnen kiezen of ze dergelijke foto's willen zien dat snap ik.
Maar ik zie niet hoe het tegen sextortion en andere vormen van misbruik gaat helpen.
Mensen die kwaad willen trekken zich hier niets van aan.
Het kan helpen omdat mensen onder de 18 nu ook gewaarschuwd worden wanneer zij een naakt-foto versturen. In deze waarschuwing kan de verzender hopelijk overtuigd worden om geen foto naar een onbekende (mogelijke sextorter) te sturen :)


Om te kunnen reageren moet je ingelogd zijn

Tweakers maakt gebruik van cookies

Tweakers plaatst functionele en analytische cookies voor het functioneren van de website en het verbeteren van de website-ervaring. Deze cookies zijn noodzakelijk. Om op Tweakers relevantere advertenties te tonen en om ingesloten content van derden te tonen (bijvoorbeeld video's), vragen we je toestemming. Via ingesloten content kunnen derde partijen diensten leveren en verbeteren, bezoekersstatistieken bijhouden, gepersonaliseerde content tonen, gerichte advertenties tonen en gebruikersprofielen opbouwen. Hiervoor worden apparaatgegevens, IP-adres, geolocatie en surfgedrag vastgelegd.

Meer informatie vind je in ons cookiebeleid.

Sluiten

Toestemming beheren

Hieronder kun je per doeleinde of partij toestemming geven of intrekken. Meer informatie vind je in ons cookiebeleid.

Functioneel en analytisch

Deze cookies zijn noodzakelijk voor het functioneren van de website en het verbeteren van de website-ervaring. Klik op het informatie-icoon voor meer informatie. Meer details

janee

    Relevantere advertenties

    Dit beperkt het aantal keer dat dezelfde advertentie getoond wordt (frequency capping) en maakt het mogelijk om binnen Tweakers contextuele advertenties te tonen op basis van pagina's die je hebt bezocht. Meer details

    Tweakers genereert een willekeurige unieke code als identifier. Deze data wordt niet gedeeld met adverteerders of andere derde partijen en je kunt niet buiten Tweakers gevolgd worden. Indien je bent ingelogd, wordt deze identifier gekoppeld aan je account. Indien je niet bent ingelogd, wordt deze identifier gekoppeld aan je sessie die maximaal 4 maanden actief blijft. Je kunt deze toestemming te allen tijde intrekken.

    Ingesloten content van derden

    Deze cookies kunnen door derde partijen geplaatst worden via ingesloten content. Klik op het informatie-icoon voor meer informatie over de verwerkingsdoeleinden. Meer details

    janee