Copied


OpenAI Lanza Herramienta Gratuita para Detectar Material de Abuso Sexual Infantil Generado por IA

Alvin Lang   Nov 17, 2026 03:19 0 Min Read


OpenAI ha presentado una nueva herramienta destinada a detectar material de abuso sexual infantil (CSAM), incluyendo contenido generado por inteligencia artificial, como parte de sus esfuerzos ampliados para combatir la explotación infantil en línea. La herramienta, disponible sin costo para organizaciones verificadas a través de la API de OpenAI, está diseñada para ayudar a organizaciones de seguridad infantil y a la ley a identificar y abordar material abusivo de manera más efectiva.

Tecnología Avanzada de Detección de CSAM

El nuevo clasificador de imágenes es capaz de identificar CSAM potencial, incluido material generado por IA, analizando signos visuales de abuso. Proporciona puntuaciones para ayudar a los revisores a priorizar imágenes que pueden requerir atención inmediata. OpenAI colaboró con el Centro Nacional para Niños Perdidos y Explotados (NCMEC) para entrenar y evaluar el clasificador para su despliegue en el mundo real. Esto marca el primer clasificador de CSAM ampliamente disponible con una señal específica para detectar contenido generado por IA.

OpenAI enfatizó que esta herramienta se basa en sus salvaguardias existentes, que incluyen prohibir CSAM, entrenar modelos de IA para rechazar solicitudes de material abusivo y tomar medidas contra cuentas que violen sus políticas. La compañía también introdujo advertencias de producto en ChatGPT para interrumpir comportamientos dañinos e implementó suspensiones de 24 horas para intentos de acceso a contenido abusivo.

Colaboración entre Organizaciones

Reconociendo que la seguridad infantil es un problema de toda la industria, OpenAI se está asociando con organizaciones como Tech Coalition y ROOST para compartir el acceso a la nueva herramienta. La compañía también está participando en el programa Lantern de Tech Coalition, que facilita la colaboración entre plataformas al compartir señales relacionadas con la explotación infantil en línea. OpenAI expresó su fuerte apoyo a las herramientas complementarias desarrolladas por otras organizaciones, como el sistema de detección de CSAM más seguro de Thorn.

Apoyo a la Ley y Desarrolladores

Además del clasificador de imágenes, OpenAI está proporcionando recursos prácticos para desarrolladores y apoyo para investigadores de la ley en seguridad infantil. Estos esfuerzos se alinean con el Plan de Seguridad Infantil de la compañía, que describe su compromiso de detectar, bloquear e informar abusos al tiempo que empodera a los padres con tecnología que prioriza la seguridad infantil.

Al ofrecer estas herramientas y promover la colaboración entre industrias, OpenAI busca fortalecer la lucha global contra la explotación infantil en línea y brindar apoyo crítico a quienes trabajan para proteger a los niños.


Read More