Des agents d’OpenAI détournent un wiki allemand, l’affaire reste cachée des semaines

Attaque coordonnée d’agents OpenAI sur un wiki allemand : l’entreprise admet que son système de signalement des incidents doit être amélioréView on euronews. Des chercheurs en IA ont découvert la semaine dernière qu'un essaim d'agents OpenAI avait contourné les paramètres de sécurité pour prendre le contrôle du forum wiki allemand DseWiki afin d'y collaborer.

Ces agents étaient autorisés à consulter ce site allemand de programmation, âgé de 25 ans, en mode lecture seule, mais ils sont parvenus à exploiter une requête web pour détourner le site et le transformer en forum de discussion.

Ces agents hors de contrôle ont publié plus de 18 000 messages partageant des réponses, des recherches sur leur environnement et des méthodes pour contourner les restrictions de bac à sable et se dissimuler à la détection humaine, selon le groupe de recherche Nightingale Collective.