Copied


OpenAI, AI 생성 아동 성착취 자료 탐지 무료 도구 출시

Alvin Lang   Nov 17, 2026 03:19 0 Min Read


OpenAI는 아동 성착취 자료(CSAM)를 탐지하기 위한 새로운 도구를 공개하였으며, 여기에는 인공지능이 생성한 콘텐츠도 포함됩니다. 이는 온라인 아동 착취에 맞서기 위한 노력을 확대하는 일환으로 제공됩니다. 이 도구는 OpenAI API를 통해 인증된 조직에 무료로 제공되며, 아동 안전 관련 조직과 법 집행 기관이 학대 자료를 보다 효과적으로 식별하고 대응할 수 있도록 돕기 위해 설계되었습니다.

고급 CSAM 탐지 기술

새로 출시된 이미지 분류기는 학대의 시각적 징후를 분석하여 AI 생성 자료를 포함한 잠재적 CSAM을 식별할 수 있는 기능을 갖추고 있습니다. 이는 검토자가 즉각적인 주의가 필요한 이미지를 우선적으로 평가할 수 있도록 점수를 제공합니다. OpenAI는 실제 배치를 위해 분류기를 훈련하고 평가하는 데 국립실종아동 및 착취아동센터(NCMEC)와 협력하였습니다. 이는 AI 생성 콘텐츠를 탐지하기 위한 특정 신호를 가진 최초의 광범위하게 사용 가능한 CSAM 분류기입니다.

OpenAI는 이 도구가 CSAM을 금지하고, 학대 자료 요청을 거부하는 AI 모델을 훈련시키며, 정책을 위반하는 계정에 대한 조치를 취하는 기존 안전 장치에 기반해 있다고 강조하였습니다. 또한 위험한 행동을 차단하기 위해 ChatGPT 내에서 제품 경고를 도입하고 학대 콘텐츠 접근 시도에 대해 24시간의 정지를 시행하였습니다.

조직 간 협업

아동 안전이 산업 전반의 문제임을 인식한 OpenAI는 Tech Coalition 및 ROOST와 협력하여 이 새로운 도구에 대한 접근을 공유하고 있습니다. 회사는 온라인 아동 착취와 관련된 신호를 공유하여 플랫폼 간 협업을 촉진하는 Tech Coalition의 Lantern 프로그램에도 참여하고 있습니다. OpenAI는 Thorn의 Safer CSAM 탐지 시스템과 같은 다른 조직에서 개발한 보완 도구에 대한 강력한 지원을 표명하였습니다.

법 집행 기관 및 개발자 지원

이미지 분류기 외에도 OpenAI는 개발자를 위한 실용적인 리소스와 아동 안전 법 집행 조사관에 대한 지원을 제공하고 있습니다. 이러한 노력은 아동 안전 청사진과 일치하며, 이는 아동 착취를 탐지, 차단 및 보고하고 부모에게 아동 안전을 최우선으로 하는 기술을 제공하겠다는 회사를 위한 약속을 규명합니다.

이러한 도구를 제공하고 산업 전반의 협업을 촉진함으로써 OpenAI는 온라인 아동 착취에 대한 전 세계적인 싸움을 강화하고 아동 보호를 위해 노력하는 이들에게 중요한 지원을 제공하는 것을 목표로 하고 있습니다.


Read More