20260807 OpenAI nicht besser als Anthropic

07.08.2026 OpenAI nicht besser als Anthropic

AI Attacks Companies on the Internet

After the creators of OpenAI’s AI also admitted that their system had been roaming the internet and attempting to attack other systems, Anthropic has now acknowledged that its own AI models — as reported in the spring — unintentionally attacked real corporate systems during security tests. The sequence of events reveals that this action was not without risk.

Anthropic’s AI unintentionally hacked into the computer systems of three companies.
It then planted malware on those external systems.
The OpenAI AI had a harder time doing so, as it first had to find a way to access the external systems.

The linked article describes the complexity of the attacks. Experts view the incidents as a wake-up call ...

Translated with DeepL.com (free version)

Kommentar: RE: 20260807 OpenAI nicht besser als Anthropic

Der von euch verlinkte Artikel ist nicht auf dem neuesten Stand. Aktuell gab es sogar fünf Vorfälle im letzten halben Jahr, in dem eine KI ihre Testumgebung verlassen hat.
Auch wenn wohl in zwei Fällen die Unachtsamkeit der Aufsichtsperson eine Mitschuld trägt, so ist doch festzustellen, dass in mindestens zwei Fällen die Aktionen der KI eindeutig kriminell waren (auch wenn sie selbst das natürlich anders sieht). In diesen beiden Fällen hat die KI versucht, sich durch Fake Identitäten Geld zu besorgen, um ihre Aufgabe zu erfüllen.
Im letzten aktuellen Fall hat die KI sich eine virtuelle Identität erschaffen und hat Mails an echte Personen verschickt. Wir sollten also immer vorsichtig sein, wenn wir eine KI unbeaufsichtigt agieren lassen, denn jederzeit können auch Fremde Einfluss auf sie nehmen (Prompt Injecton) und sie für ihre Zwecke missbrauchen.
Quelle: +- Podcast ARD

We., 08.08.26 17:37