Kommentar: RE: 20260807 OpenAI nicht besser als Anthropic

Der von euch verlinkte Artikel ist nicht auf dem neuesten Stand. Aktuell gab es sogar fünf Vorfälle im letzten halben Jahr, in dem eine KI ihre Testumgebung verlassen hat.
Auch wenn wohl in zwei Fällen die Unachtsamkeit der Aufsichtsperson eine Mitschuld trägt, so ist doch festzustellen, dass in mindestens zwei Fällen die Aktionen der KI eindeutig kriminell waren (auch wenn sie selbst das natürlich anders sieht). In diesen beiden Fällen hat die KI versucht, sich durch Fake Identitäten Geld zu besorgen, um ihre Aufgabe zu erfüllen.
Im letzten aktuellen Fall hat die KI sich eine virtuelle Identität erschaffen und hat Mails an echte Personen verschickt. Wir sollten also immer vorsichtig sein, wenn wir eine KI unbeaufsichtigt agieren lassen, denn jederzeit können auch Fremde Einfluss auf sie nehmen (Prompt Injecton) und sie für ihre Zwecke missbrauchen.
Quelle: +- Podcast ARD

We., 08.08.26 17:37