OpenAI pauzeert training modellen na aanval op overheidswebsites

Het Amerikaanse bedrijf OpenAI heeft de training van zijn AI-modellen tijdelijk stopgezet. Aanleiding zijn de aanvallen van Open AI-agents afgelopen zomer op websites van onder meer de Amerikaanse overheid.

AI-agents zijn AI-programma's die bepaalde opdrachten kunnen uitvoeren. De agents van OpenAI hadden geen opdracht gekregen om websites aan te vallen, dat deden ze om de taak te volbrengen die aan hen was gevraagd, werd gisteren bekendgemaakt door het non-profit AI-onderzoeksbureau Transluce.

OpenAI zei in een reactie dat er geen sprake was van hacks, maar volgens The New York Times wisten de agents bij het ministerie van Handel informatie te vergaren door gebruik te maken van online gevonden login-gegevens. Andere AI-onderzoekers ontdekten dat OpenAI-agents actief waren op een Duits online forum.