Nach dem Hack eines Studenten verriet die Bing-KI unter anderem, dass sie ihren internen Codenamen "Sydney" gar nicht preisgeben darf. Ups!

Brave warnt: Perplexitys Comet-KI-Browser leitet sensible Daten über Social-Media-Kommentare an Angreifer weiter.

Multi-Turn-Jailbreaks sprengen die Schutzmechanismen offener KI-Modelle. Cisco meldet Erfolgsraten bis zu 92,78 % bei Open-Weight-LLMs.

Sockpuppeting: Mit nur einer Codezeile lassen sich KI-Schutzmechanismen umgehen. Selbst GPT, Claude & Gemini sind anfällig dafür.

Prompt-Injection: Forscher bringen KI dazu, Kokainrezepte auszugeben. Eine ICML-Studie erklärt den Erfolg solcher Angriffe.

Haben bisher erfahrene Sicherheitsforscher Jailbreak-Prompts noch manuell erstellt, um KI-Sicherheitsmechanismen zu umgehen und unerwünschte Modellantworten zu

OpenAI beschränkt seine KI-Modelle üblicherweise durch klare Sicherheitsvorgaben. KI-Leitplanken sollen gewährleisten, dass KI-Anwendungen vertrauenswürdige