OpenAI Engagiert Sich Mit $2 Millionen für KI-Sicherheitsforschung für Kinder
OpenAI hat ein Engagement von $2 Millionen angekündigt, um die Forschung über künstliche Intelligenz (KI) und deren Einfluss auf die Sicherheit und das Wohlbefinden von Kindern zu unterstützen. Das Versprechen wurde während des Pariser Friedensforums abgegeben, wo OpenAI die Charta des Engagements für sicherere KI für Kinder unterzeichnete. Diese Initiative ist Teil eines umfassenderen Bestrebens, globale Standards für die KI-Sicherheit von Jugendlichen zu etablieren und die Zusammenarbeit zwischen Regierungen, Forschern, der Zivilgesellschaft und Industrieakteuren zu fördern.
Fokus auf die Messung von Risiken und Chancen
Die Finanzierung wird das wissenschaftliche Forschungsnetzwerk unter der Koalition für die Rechte und den Schutz von Kindern im Zeitalter der KI unterstützen. OpenAIs Beitrag soll gemeinsam nutzbare Werkzeuge entwickeln, die Forscher nutzen können, um die Risiken und Chancen von KI für junge Menschen zu messen. Diese Werkzeuge sollen die Entwicklung sichererer KI-Produkte und effektiverer Politiken unterstützen.
Die Charta des Engagements umreißt Prinzipien für sichere, altersgerechte KI und enthält ein Forschungsprogramm, das die Unabhängigkeit der Ergebnisse sichert. Die Forschungsteams werden die Kontrolle über ihre Schlussfolgerungen behalten, und alle Ergebnisse – positiv, negativ oder nicht schlüssig – werden veröffentlicht, um Transparenz und Verantwortlichkeit zu fördern.
Evidenz für sicherere KI aufbauen
Diese Initiative baut auf OpenAIs vorherigem Eintreten für umfassende Gesetzgebungen zur KI-Sicherheit für Jugendliche auf. Die Organisation hat Rahmenbedingungen gefordert, die altersgerechte Schutzmaßnahmen, Tools für Eltern, regelmäßige Risikoabschätzungen und sinnvolle Verantwortungsmaßnahmen umfassen. OpenAI betonte ihr Engagement zur Zusammenarbeit mit europäischen Politikern beim EU-Kinderrecht und zur Zusammenarbeit mit globalen Partnern, um den Schutz und die Chancen für junge Menschen zu verbessern.
Durch die Unterstützung dieser Forschung zielt OpenAI darauf ab, die doppelte Herausforderung zu bewältigen, die Vorteile von KI für Kinder zu maximieren und gleichzeitig die Risiken für ihre Sicherheit und Entwicklung zu minimieren. Es wird erwartet, dass die Ergebnisse zur Entwicklung praktischer Schutzmaßnahmen und evidenzbasierter Politiken beitragen, die die Rechte und das Wohlbefinden von Kindern im Zeitalter der KI priorisieren.