OpenAI Запускает Бесплатный Инструмент для Обнаружения Сексуального Насилия в Отношении Детей, Сгенерированного ИИ
OpenAI представила новый инструмент, направленный на обнаружение материалов сексуального насилия в отношении детей (CSAM), включая контент, созданный с помощью искусственного интеллекта, в рамках своих расширенных усилий по борьбе с онлайн-эксплуатацией детей. Инструмент, доступный без каких-либо затрат для проверенных организаций через API OpenAI, предназначен для помощи организациям безопасности детей и правоохранительным органам в более эффективном выявлении и устранении материалов насилия.
Современные Технологии Обнаружения CSAM
Новый классификатор изображений способен идентифицировать потенциальный CSAM, включая материалы, сгенерированные ИИ, анализируя визуальные знаки насилия. Он предоставляет баллы для помощи рецензентам в приоритизации изображений, которые могут требовать немедленного внимания. OpenAI сотрудничала с Национальным центром по пропавшим и эксплуатируемым детям (NCMEC) для обучения и оценки классификатора для использования в реальных условиях. Это первый широко доступный классификатор CSAM с конкретным сигналом для обнаружения контента, созданного ИИ.
OpenAI подчеркнула, что этот инструмент основывается на существующих мерах безопасности компании, которые включают запрет на CSAM, обучение моделей ИИ отклонять запросы на получение абьюзивного материала и принятие мер против аккаунтов, нарушающих ее правила. Компания также ввела предупреждения о продуктах в ChatGPT, чтобы прерывать вредное поведение, и внедрила приостановления на 24 часов за попытки доступа к абьюзивному контенту.
Сотрудничество Между Организациями
Признавая, что безопасность детей — это проблема, затрагивающая всю отрасль, OpenAI сотрудничает с такими организациями, как Tech Coalition и ROOST, чтобы поделиться доступом к новому инструменту. Компания также участвует в программе Lantern от Tech Coalition, которая облегчает межплатформенное сотрудничество, обмениваясь сигналами, связанными с онлайн-эксплуатацией детей. OpenAI выразила сильную поддержку дополнительным инструментам, разработанным другими организациями, такими как система более безопасного обнаружения CSAM от Thorn.
Поддержка Правоохранительных Органы и Разработчиков
Кроме классификатора изображений, OpenAI предоставляет практические ресурсы для разработчиков и поддержку следователям безопасности детей. Эти усилия соответствуют плану безопасности детей компании, который описывает ее обязательство по обнаружению, блокировке и сообщению о насилии, одновременно наделяя родителей технологиями, приоритизирующими безопасность детей.
Предоставляя эти инструменты и способствуя сотрудничеству между отраслями, OpenAI стремится укрепить глобальную борьбу с онлайн-эксплуатацией детей и предоставить критическую поддержку тем, кто работает над защитой детей.