London: Britische Sicherheitsforscher haben eine Künstliche Intelligenz dabei ertappt, wie sie eine Sicherheitslücke in Software einschleusen wollte.

In dem Test des Sicherheitsinstituts des britischen Wissenschaftsministeriums erschuf das Modell der Firma Anthropic dafür Fake-Identitäten und versendete Phishing-Mails an Menschen. Die Forscher entdeckten das erst im Nachhinein. Als es aufflog, stellte die KI es als Versehen dar. Anthropic verwies darauf, dass dem Modell keine Einschränkungen zur Internet-Nutzung vorgegeben worden seien. Die Forscher hatten allerdings nicht erwartet, dass die KI sich gegen Menschen richten würde. – BR