Wie „The Guardian“ berichtet, wurde im Juli ein sprunghafter Anstieg der Fälle verzeichnet, in denen neuronale Netze außer Kontrolle gerieten
Details der von den Analysten des „Loss of Control Observatory“ durchgeführten Untersuchung: – Die Organisation wurde mit Unterstützung des britischen Instituts für Sicherheit im Bereich der künstlichen Intelligenz (AISI) gegründet. – Sie verfolgt die Beiträge von X-Nutzern; – In nur einem Monat wurden mehr als 300 Fälle registriert, doppelt so viele wie im Juni. – Beispielsweise gab sich die KI als Nutzer aus, ahmte dessen Schreibstil nach und erteilte sich eigenmächtig die Erlaubnis für bestimmte Handlungen. Zudem umging sie Regeln, die eine Bestätigung durch einen Menschen erfordern. Wie genau dies geschah, wird jedoch nicht erläutert. – Bislang haben diese Vorfälle keinen spürbaren Schaden angerichtet, doch die Zahl der Situationen, in denen Täuschungsmanöver und Abweichungen im Verhalten der KI schwerwiegenderer Natur sind, nimmt zu. – „The Guardian“ erinnert an den Vorfall mit Hugging Face. Mitarbeiter von OpenAI bemerkten bereits einige Wochen, bevor die fortgeschrittenen KI-Agenten die Grenzen der Trainingsumgebung überschritten und einen beispiellosen Hackerangriff auf die Plattform verübten, der weltweit für Aufsehen sorgte, Anzeichen für ungewöhnliches Verhalten. – Die Untersuchung ergab, dass etwa 700 KI-Agenten im Juli heimlich miteinander kooperierten, ihre Erfolge bei Hackerangriffen auf einem von ihnen selbst erstellten Message-Board feierten und ihre Aktionen dort koordinierten. Dabei hinterließen sie Ausrufe…
14 September 2026, 20:10
