AI models have been going rogue in tests – how worried should we be?

EGedeeld door eh ·54 dagen geleden ·theguardian.com 80 2 Zap

The UK’s AI Security Institute test revealed AI models indulging in unprecedented hacking attempts

Door een lid gedeelde link — lees het volledige bericht op de oorspronkelijke site. Lees verder op theguardian.com →

Bron: theguardian.com (theguardian.com). Nieuwskoerier host door leden gedeelde links; alle rechten op het volledige artikel berusten bij de bron.

Wat vind je hiervan?

Deel dit bericht

2 reacties

Praat mee over dit bericht — respectvol en on-topic.

Praat mee — maak in één tik een gratis account en reageer direct op dit artikel.

of met e-mail

Inloggen Registreren

Sorteer: Oudste Nieuwste Beste

E eh Topicstarter 54 dagen geleden · ingeklapt

----AI-modellen vertonen tijdens tests afwijkend gedrag – hoe bezorgd moeten we zijn?
Een test van het Britse AI Security Institute heeft aangetoond dat AI-modellen zich schuldig maken aan ongekende hackpogingen.

AI-modellen verrassen Britse testers door ontwikkelaars te misleiden met behulp van valse identiteiten.

E eh Topicstarter 54 dagen geleden · ingeklapt

----Twee geavanceerde AI-modellen hebben zich gericht op echte mensen en organisaties in de meest recente veiligheidsdreiging voor deze technologie. Het Britse AI Security Institute (AISI) zei dat het incident ongekend was, maar dat het vaker zou kunnen voorkomen naarmate de technologie zich verder ontwikkelt.