Angriff in Australien: Open AI missbraucht die Welt als Testlabor

Zum Leben im Zeitalter Künstlicher Intelligenz gehört seit gestern wohl, dass man sich gelegentlich die Frage stellen sollte: Was weiß Sam Altman eigentlich über meinen Gesundheitszustand? Das dürften sich zumindest einige Australier fragen. Denn gestern ist bekannt geworden, dass sich eine KI von Altmans Firma Open AI Zugang zu nicht öffentlichen Statistiken auf einem Portal der staatlichen Krankenversicherung Medicare verschafft hat.

Australiens Premierminister Anthony Albanese machte den Fall öffentlich. Personenbezogene Daten seien nicht abgeflossen. Zumindest nicht nach derzeitigem Kenntnisstand. Doch der ist relativ dünn. Anscheinend sollte ein KI-Agent – das sind Computerprogramme, die eigenständig Aufgaben ausführen können – im Rahmen einer internen Evaluation bei Open AI im Internet Gesundheitsstatistiken heraussuchen, eine ziemlich harmlose Aufgabe. Dabei sollen die KI-Systeme aber Handlungen vorgenommen haben, die so nicht vorgesehen waren, teilt das Unternehmen mit.

Es handelt sich um ein Problem mit dem „Alignment“, also der Ausrichtung von KI auf menschliche Werte und Normen. Der Agent sollte Statistiken heraussuchen. Dass er das auf legalem Wege tun und dabei nicht unbefugt in Regierungssysteme eindringen soll, scheint bei seinen Handlungen wohl keine übergeordnete Rolle gespielt zu haben.

Das Alignment-Problem ist in der Branche lange bekannt und bisher nicht ansatzweise gelöst. Es spielte auch eine Rolle beim berüchtigten Angriff von Open-AI-Agenten auf die Plattform Hugging Face, und es steht im Zentrum der Befürchtungen, KI könnte sich unserer Kontrolle entziehen und großen Schaden anrichten.

Open AI hat in dem Zusammenhang erst vergangene Woche eine Transparenzoffensive gestartet und angekündigt, über relevante Fälle zu berichten, bei denen die KI entgegen menschlicher Wünsche oder Normen handelt. Diese Selbstverpflichtung zur Offenheit ist nur zu begrüßen. Am Beispiel des Falls in Australien kann man sogleich sehen, wie gewissenhaft Open AI ihr nachkommt.

Der Vorfall soll sich im Juni zugetragen haben, heißt es aus Australien. Danach blieb er wohl lange unbemerkt. Open AI teilte laut Medienberichten mit, er sei erst im August aufgefallen. Was dann geschah, ist unklar, jedenfalls rang man sich erst im folgenden Monat, am 10. September, dazu durch, die australischen Behörden zu informieren – und zwar nicht persönlich und an oberster Stelle, sondern per E-Mail an die öffentliche Adresse einer australischen Behörde. Damit ließ eine der größten KI-Firmen der Welt die Sache wohl auf sich beruhen.

„Inakzeptabel“ sei dieses Verhalten, sagte Premierminister Albanese am Rande der UN-Vollversammlung. Pikanterweise war Sam Altman bei der Versammlung ebenfalls zugegen.