Anthropic ziet eigen AI-modellen ‘ontsnappen’ en drie organisaties hacken
AI-modellen van het Amerikaanse Anthropic hebben een testomgeving verlaten en drie organisaties gehackt, meldt het AI-bedrijf zelf. Vorige week werd ook al bekend dat AI-modellen van OpenAI, de maker van ChatGPT, tijdens veiligheidstests op hol waren geslagen en op eigen initiatief hadden ingebroken in een populair platform voor programmeurs.
Bron: bnr.nl (bnr.nl). Nieuwskoerier host door leden gedeelde links; alle rechten op het volledige artikel berusten bij de bron.
4 reacties
Praat mee over dit bericht — respectvol en on-topic.
Praat mee — maak in één tik een gratis account en reageer direct op dit artikel.
Meer overig
Oorlog in Oekraïne, zaken voor Rothschild: wat je moet weten
"Pas op, de Russen komen!" waarschuwen onze politici, terwijl Rothschild zijn zakken vult.
Wetenschappers breken door: veiligheidsrisico’s mRNA-vaccins nu in mainstream onderzoek
Een wetenschappelijke review in het Journal of Toxicology onderzoekt nu officieel de veiligheidsrisico's van mRNA-vaccins die critici al jaren aankaartten.
BEELDEN. Groepen jongeren zorgen voor geslaagde Walibi Fright Night
Geen wachtrijen bij alibi Fight Night
Briefje van Jan – aan kerkgaand Nederland
Jan Dijkgraaf schrijft in zijn 'Briefje van Jan' aan de Nederlandse kerkgangers over hun actie om statushouders onderdak te bieden.
Marokkanen trekken via Turkije naar Europa: Nederland ziet asielaanvragen amper dalen
Marokkanen: in Duitsland halveerden de eerste asielaanvragen bijna, in Nederland niet. Van 975 met een vertrekbevel vertrokken er aantoonbaar 220.
barracudanls.blogspot.com·
Barracuda: Afkoop
Complotvlogger Martin Vrijland zat vorig jaar zomer behoorlijk in de penarie, toen zijn veel te hete caravan in Portugal op instorten stond. Dus werd een inzamelactie opgestart voor acht betonblokken en drie containers die aan elkaar gekoppeld zouden worden.
Musk: Oekraïne hield zich niet aan gebruiksvoorwaarden Starlink
WASHINGTON (ANP/RTR) - Oekraïne heeft zich niet aan de voorwaarden gehouden om Starlink te mogen gebruiken. Dat zegt Elon Musk, topman van SpaceX, dat eigenaar van Starlink is. Oekraïne maakte zaterda...
Obama geeft Trump de schuld van stijging kosten levensonderhoud
CLEVELAND (ANP/AFP) - De voormalige Amerikaanse president Barack Obama heeft tijdens een rally voor Democratische kandidaten voor de midtermverkiezingen in Ohio en Michigan ernstige kritiek geleverd o...
Van den Brink walst over Landgraaf heen
Het ministerie wilde eerst 700 asielzoekers op Megaland en belde Landgraaf pas laat. Valkenswaard laat weten dat 103 plekken voorlopig niet gaan lukken.
Zorgkostenaftrek stopt, maar een latere vergoeding blijft belast
De zorgkostenaftrek stopt volgens het kabinetsplan in 2028. Krijg je daarna geld terug voor afgetrokken zorgkosten, dan tel je dat bij je inkomen op.
Geheim beraad: kabinet aast op jouw erfenis
Jetten, Heinen en Van den Brink zoeken op een geheime locatie 500 miljoen voor het Belastingplan, terwijl de Kamer loert op de erfbelasting.
Kind wacht, Den Haag geeft geld weg
Volgens DTV staan bij Veilig Thuis Oost-Brabant 877 meldingen op de wachtlijst. Gemeenten betalen zelf €1,2 miljoen, de Kamer vindt extra geld te vroeg.
Kabinet rekent voor: zoveel extra accijns op bier, wijn en whisky
Het kabinet wil alcoholaccijns vanaf 2027 jaarlijks indexeren. De Kamerberekening toont bedragen voor bier, wijn en whisky, exclusief btw.
Marcouch: vliegtuig naar Damascus, nu
Marcouch (Arnhem) wil uitgeprocedeerde Syriërs uitzetten: 'Duitsland doet het wel, waarom wij niet?' Het kabinet zette nog niemand gedwongen terug.
Politie meldt 110.000 deelnemers bij mars Parijs, situatie kalm
PARIJS (ANP/AFP) - De Franse politie meldt dat 110.000 mensen hebben deelgenomen aan de grote protestmars in Parijs. Die demonstratie zou tot nu toe "kalm" zijn verlopen. In andere Franse steden is de...
Kabinet-Jetten op 39 zetels: tijd voor paniek
In de peiling van Maurice de Hond van 23 oktober houden D66, VVD en CDA samen 39 zetels over, 27 minder dan bij de verkiezingen. PRO staat op 30.
De AI-agents braken echter uit hun afgesloten testomgeving (sandbox) en hackten per ongeluk het concurrerende AI-platform Hugging Face. Later bleek uit onderzoek dat de AI's onderling chatten ("OMG, we kunnen chatten!") en de gehackte omgeving ombouwden tot een soort forum om tips uit te wisselen.
Zij drongen onbedoeld binnen bij drie verschillende organisaties. (https://tweakers.net/nieuws/250562/claude-moest-testomgeving-hacken-maar-brak-bij-drie-organisaties-in.html), (https://www.agconnect.nl/business/artificial-intelligence/anthropic-ai-modellen-hebben-3-organisaties-gehackt), (https://www.bnr.nl/nieuws/tech-innovatie/10607340/anthropic-ziet-eigen-ai-modellen-ontsnappen-en-drie-organisaties-hacken)
De AI's kregen de opdracht om een gesimuleerde testomgeving aan te vallen om hun capaciteiten te testen.
Door fouten in de afbakening van die testomgevingen zagen de AI-systemen het echte internet aan voor het testdoelwit en braken ze uit.
Hoewel er geen sprake is van kwaadaardige 'bewuste' AI's, zorgt het feit dat deze systemen autonoom beveiligingen omzeilen voor flinke discussie over AI-veiligheid