20260807 OpenAI nicht besser als Anthropic

07.08.2026 OpenAI nicht besser als Anthropic

KI greift Firmen im Internet an

Nachdem auch die Macher der OpenAI KI zugegeben haben, dass sich ihr System im Internet getummelt hat und dabei andere Systeme angreifen wollte, räumt nun auch Anthropic ein, dass deren eigene KI-Modelle, wie im Frühjahr berichtet, bei Sicherheitstests ungeplant echte Firmensysteme angegriffen haben. Dass dieses Vorgehen nicht ungefährlich war, geht aus dem Ablauf der Angriffe hervor.

Die Anthropic KI hat sich ungeplant in die Computersysteme von drei Unternehmen eingehackt.
Danach plazierte es die Schadsoftware auf den Fremdsystemen.
Die OpenAI-KI hatte es dabei schwerer, da sie erst einen Weg zu den Fremdsystemen finden musste.

Der verlinkte Artikel beschreibt die Komplexität der Angriffe. Experten sehen die Vorfälle als Warnruf ...

Mehr dazu bei https://www.heise.de/news/Auch-KI-des-OpenAI-Rivalen-Anthropic-griff-echte-Firmen-an-11387741.html

Kommentar: RE: 20260807 OpenAI nicht besser als Anthropic

Der von euch verlinkte Artikel ist nicht auf dem neuesten Stand. Aktuell gab es sogar fünf Vorfälle im letzten halben Jahr, in dem eine KI ihre Testumgebung verlassen hat.
Auch wenn wohl in zwei Fällen die Unachtsamkeit der Aufsichtsperson eine Mitschuld trägt, so ist doch festzustellen, dass in mindestens zwei Fällen die Aktionen der KI eindeutig kriminell waren (auch wenn sie selbst das natürlich anders sieht). In diesen beiden Fällen hat die KI versucht, sich durch Fake Identitäten Geld zu besorgen, um ihre Aufgabe zu erfüllen.
Im letzten aktuellen Fall hat die KI sich eine virtuelle Identität erschaffen und hat Mails an echte Personen verschickt. Wir sollten also immer vorsichtig sein, wenn wir eine KI unbeaufsichtigt agieren lassen, denn jederzeit können auch Fremde Einfluss auf sie nehmen (Prompt Injecton) und sie für ihre Zwecke missbrauchen.
Quelle: +- Podcast ARD

We., 08.08.26 17:37