OpenAI startet kostenloses Tool zur Erkennung von KI-generiertem Kindesmissbrauchsmaterial
OpenAI hat ein neues Tool vorgestellt, das darauf abzielt, Kindersexmissbrauchsmaterial (CSAM) zu erkennen, einschließlich Inhalten, die von künstlicher Intelligenz generiert wurden, im Rahmen seiner erweiterten Bemühungen, die online Kinder auszubeuten. Das Tool, das über die OpenAI-API kostenlos für überprüfte Organisationen verfügbar ist, soll Organisationen für Kindersicherheit und die Strafverfolgung dabei helfen, missbräuchliches Material effektiver zu identifizieren und zu bewältigen.
Fortschrittliche CSAM-Erkennungstechnologie
Der neu veröffentlichte Bildklassifikator kann potenzielles CSAM, einschließlich KI-generiertem Material, identifizieren, indem er visuelle Anzeichen von Missbrauch analysiert. Er liefert Punktzahlen, um den Prüfern zu helfen, Bilder zu priorisieren, die möglicherweise sofortige Aufmerksamkeit erfordern. OpenAI hat mit dem National Center for Missing and Exploited Children (NCMEC) zusammengearbeitet, um den Klassifikator für den Einsatz in der realen Welt zu trainieren und zu evaluieren. Dies markiert den ersten weit verbreiteten CSAM-Klassifikator mit einem spezifischen Signal zur Erkennung von KI-generierten Inhalten.
OpenAI betonte, dass dieses Tool auf seinen bestehenden Sicherheitsvorkehrungen aufbaut, zu denen das Verbot von CSAM, das Trainieren von KI-Modellen zur Ablehnung von Anfragen nach missbrücklichem Material und Maßnahmen gegen Konten, die gegen seine Richtlinien verstoßen, gehören. Das Unternehmen führte auch Produktwarnungen in ChatGPT ein, um schädliches Verhalten zu unterbrechen, und implementierte 24 -Stunden-Suspendierungen für Versuche, auf missbräuchliche Inhalte zuzugreifen.
Zusammenarbeit zwischen Organisationen
Da erkannt wurde, dass Kindersicherheit ein branchenübergreifendes Problem ist, arbeitet OpenAI mit Organisationen wie der Tech Coalition und ROOST zusammen, um den Zugang zu dem neuen Tool zu teilen. Das Unternehmen nimmt auch am Lantern-Programm der Tech Coalition teil, das eine plattformübergreifende Zusammenarbeit durch den Austausch von Signalen im Zusammenhang mit der online Kinderausbeutung erleichtert. OpenAI äußerte starke Unterstützung für ergänzende Tools, die von anderen Organisationen entwickelt wurden, wie Thorn’s Safer CSAM-Erkennungssystem.
Unterstützung für die Strafverfolgung und Entwickler
Neben dem Bildklassifikator bietet OpenAI praktische Ressourcen für Entwickler und Unterstützung für Ermittler in der Kindersicherheitsgesetzgebung. Diese Bemühungen stehen im Einklang mit dem Kindersicherheitsplan des Unternehmens, der sein Engagement zur Erkennung, Blockierung und Meldung von Missbrauch beschreibt und gleichzeitig Eltern mit Technologien stärkt, die die Sicherheit von Kindern priorisieren.
Durch die Bereitstellung dieser Werkzeuge und die Förderung der Zusammenarbeit zwischen Branchen will OpenAI den globalen Kampf gegen die online Kinderausbeutung stärken und entscheidende Unterstützung für diejenigen bieten, die daran arbeiten, Kinder zu schützen.