How AI poisoning is fighting bots that hoover data without permission
The web is awash with bots that scrape data without permission. Now content creators are poisoning the well of artificial intelligence – but similar technology can also be used to spread misinformation
1
Reacties
2 reactiesUit het artikel:
.
"De tijd dat het web gedomineerd werd door mensen die updates op sociale media plaatsten of memes uitwisselden, is voorbij. Eerder dit jaar, voor het eerst sinds de data is bijgehouden, waren websurfende bots, in plaats van mensen, verantwoordelijk voor het grootste deel van het webverkeer.
.
Meer dan de helft van dat botverkeer is afkomstig van kwaadaardige bots, die bijvoorbeeld persoonlijke gegevens verzamelen die onbeschermd online staan. Maar een steeds groter deel komt van bots die door AI-bedrijven worden ingezet om data te verzamelen voor hun modellen of om te reageren op gebruikersvragen. ChatGPT-User, een bot die ChatGPT van OpenAI aanstuurt, is nu verantwoordelijk voor 6 procent van al het webverkeer, terwijl ClaudeBot, een geautomatiseerd systeem ontwikkeld door AI-bedrijf Anthropic, goed is voor 13 procent.
.
AI-bedrijven stellen dat dergelijke datascraping essentieel is om hun modellen up-to-date te houden. Contentmakers denken daar echter anders over en zien AI-bots als tools voor grootschalige auteursrechtschendingen. Eerder dit jaar hebben Disney en Universal bijvoorbeeld AI-bedrijf Midjourney aangeklaagd, met het argument dat de beeldgenerator van het technologiebedrijf personages uit populaire franchises zoals Star Wars en Despicable Me plagieert.
.
Weinig contentmakers hebben het geld voor rechtszaken, dus sommigen kiezen voor radicalere methoden om zich te verweren. Ze gebruiken online tools die het voor AI-bots moeilijker maken om hun content te vinden – of die de content zodanig manipuleren dat bots deze verkeerd interpreteren, waardoor de AI bijvoorbeeld afbeeldingen van auto's gaat verwarren met afbeeldingen van koeien. Maar hoewel deze "AI-vergiftiging" contentmakers kan helpen hun werk te beschermen, kan het het web onbedoeld ook gevaarlijker maken."
Mooi om te zien hoe machtige bedrijven als Disney terugvechten. Het is niet normaal hoe die AI-bedrijven maar denken zomaar het werk van anderen te gebruiken, om diezelfde mensen vervolgens overbodig te maken. Menselijke kunstenaars verdienen respect en zijn niet alleen maar een middel voor zo'n AI-gigant om nog meer miljarden winst te maken.