OpenAI fügt Schutzmaßnahmen für Jugendliche, Gewaltbegrenzungen und Sicherheitsberichterstattung hinzu
OpenAI erklärte, dass es die Sicherheitskontrollen in ChatGPT ausweitet, darunter strengere Beschränkungen für gewaltbezogene Inhalte, zusätzliche Schutzmaßnahmen für Nutzer unter 18 und einen geplanten öffentlichen Community Safety Report. Das Unternehmen erklärte, die Änderungen zielen darauf ab, Missbrauch zu reduzieren und gleichzeitig die Transparenz darüber zu verbessern, wie seine Systeme schädliche Aktivitäten erkennen und darauf reagieren.
Beweise und Kontext
In seiner Ankündigung vom 30. Oktober 2026 teilte OpenAI mit, dass es mehr als 200 Polizeimeldungen in Q3 2026 gemacht hat und diese als Teil seines Ansatzes zur Bekämpfung unmittelbarer Gewaltdrohungen bezeichnete. Das Unternehmen erklärte, es sei auf Experten für psychische Gesundheit und Verhalten angewiesen, um schwierige Fälle zu bewerten, und dass seine Systeme darauf ausgelegt seien, glaubwürdige Bedrohungen zu erkennen, zu überprüfen und zu eskalieren.
OpenAI teilte mit, dass es einen Community Safety Report veröffentlichen wird, der sich auf Gewaltprävention und andere Fragen der Gemeinschaftssicherheit sowie auf die Wirksamkeit seiner Schutzmaßnahmen konzentriert. Der erste Bericht ist für Anfang 2027 geplant und wird die zweite Hälfte des 2026 abdecken, mit Updates alle sechs Monate danach. Das Unternehmen erklärte, der Bericht werde anonymisierte Beispiele, Richtlinienänderungen, neue Maßnahmen und unterstützende Daten enthalten.
Die Ankündigung verschärft zudem, wie ChatGPT auf Fragen zu früheren Massenangriffen reagiert. OpenAI erklärte, das System werde in diesen Bereichen weniger detaillierte Informationen liefern, darunter Details zu verwendeten Waffen und Ausrüstung und deren Herankunft sowie detaillierte Vergleiche von Schäden, die die Bekanntheit eines Angreifers erhöhen könnten. Das Unternehmen erklärte, diese Beschränkungen gelten unabhängig vom Alter oder der Absicht.
Für Jugendliche erklärte OpenAI, dass weitere Beschränkungen für waffenbezogene Informationen hinzugefügt werden, einschließlich praktischer Informationen über Waffen und Sicherheitssysteme, die zur Ermöglichung von Gewalt missbraucht werden könnten. Das Unternehmen erklärte, dass Jugendliche ChatGPT weiterhin zur Prävention, Deeskalation, Unterstützung und zur Erreichung eines vertrauenswürdigen Erwachsenen nutzen können. OpenAI erklärte außerdem, dass es die Altersvorhersage gestärkt hat, um neue Signale kontinuierlich zu bewerten und Nutzer bei Bedarf in die under-18 Erfahrung zu bringen, mit einem datenschutzschützenden Verifizierungsweg für Erwachsene, die irrtümlich dort platziert werden.
OpenAI teilte mit, dass es auch auf früheren Arbeiten aufbaut, die kurze sachliche Zusammenfassungen von Warnzeichen aus früheren Gesprächen verwendet und Chats automatisch beenden kann, wenn ein Gespräch Anzeichen einer Fixierung auf Gewalt oder schwerwiegenden Schäden zeigt. Falls dies wiederholt geschieht, erklärte das Unternehmen, dass es das Konto vorübergehend pausieren könnte. Es fügte hinzu, dass Eltern, die über die Kindersicherung verbunden sind, Sicherheitswarnungen erhalten könnten, darunter in einigen Fällen Benachrichtigungen wegen Verstößen gegen Gewaltrichtlinien, und dass es an Benachrichtigungen arbeitet, wenn das Konto eines Jugendlichen wegen wiederholter Diskussionen über Gewalt pausiert wird.
Das Unternehmen teilte mit, dass die Sicherheitsmaßnahmen in den nächsten Wochen mit der Einführung beginnen werden. Es gab keinen vollständigen Bereitstellungsplan für jede Funktion, und einige Maßnahmen, darunter automatische Chatunterbrechungen und mögliche Kontopausen, wurden als laufende Arbeit und nicht als bereits vorhandene universelle Funktionen beschrieben.