Openai zahlt hacker, um ki-sicherheitslücken aufzudecken
San Francisco – OpenAI, der Gigant hinter ChatGPT, hat einen überraschenden Schritt unternommen: Das Unternehmen startet ein „Safety Bug Bounty“-Programm, um Sicherheitslücken in seinen KI-Modellen aufzuspüren. Anstatt sich ausschließlich auf interne Sicherheitsteams zu verlassen, werden nun externe Forscher und Experten finanziell belohnt, wenn sie Schwachstellen finden – ein Ansatz, der die Art und Weise, wie wir über KI-Sicherheit denken, grundlegend verändert.
Der neue ansatz: ki als angriffsfläche
Bisher konzentrierten sich Sicherheitsprogramme bei OpenAI primär auf traditionelle Cyberbedrohungen. Doch das Safety Bug Bounty geht einen Schritt weiter: Es betrachtet die KI selbst als eine neue, komplexe Angriffsfläche. Das bedeutet, dass Forscher nun gezielt nach Möglichkeiten suchen, KI-Modelle durch gezielte Prompts zu manipulieren oder autonome Agenten für schädliche Zwecke einzusetzen. Die Bandbreite reicht von der Injektion von bösartigen Anweisungen bis hin zur potenziellen Datenlecks und dem Auslösen schädlicher Aktionen durch automatisierte Systeme.
Die Initiative kommt zu einem kritischen Zeitpunkt, da OpenAI kürzlich neue Funktionen in sein ChatGPT-Ökosystem integrierte, darunter Bibliotheken mit Inhalten und integrierte Einkaufstools. Diese Erweiterungen erhöhen die Angriffsoberfläche und machen ein proaktives Sicherheitsmanagement unerlässlich. Das Programm ergänzt die bestehenden Sicherheitsmaßnahmen, konzentriert sich aber auf die Analyse des Verhaltens der KI unter realen Bedingungen.
Um eine gültige Schwachstelle zu melden, müssen Forscher nachweisen, dass der Fehler reproduzierbar ist – etwa in 50% der Versuche. OpenAI akzeptiert zudem Berichte über die Offenlegung sensibler Informationen, einschließlich Einblicke in die interne Funktionsweise der Modelle und deren Denkprozesse. Auch das Umgehen von Einschränkungen oder die Gefährdung der Plattformintegrität zählen zum Geltungsbereich. Allerdings bleiben einfache „Jailbreaks“ und geringfügige Fehler, die keine klaren Lösungen oder praktischen Konsequenzen haben, ausgeschlossen. Die eingereichten Meldungen werden von spezialisierten Sicherheitsteams geprüft und gegebenenfalls an andere Bereiche weitergeleitet, je nach Art des Problems.
Es ist gut möglich, dass OpenAI in Zukunft weitere, private Programme ins Leben ruft, um besonders sensible Bereiche der KI-Sicherheit noch intensiver zu untersuchen. Die Entscheidung, externe Experten in den Sicherheitsprozess einzubeziehen, signalisiert ein Umdenken und den Willen, die Sicherheit von KI-Systemen auf ein neues Level zu heben.