Newsy AI

OpenAI wprowadza klasyfikator obrazów do wykrywania CSAM

Firma udostępnia bezpłatnie narzędzie partnerom i wprowadza 24-godzinne blokady kont w ChatGPT za próby generowania niedozwolonych treści.

OpenAI wprowadza klasyfikator obrazów do wykrywania CSAM

Firma OpenAI ogłosiła 16 listopada 2026 roku wdrożenie pakietu nowych narzędzi do walki z materiałami przedstawiającymi wykorzystywanie seksualne dzieci (CSAM). W odpowiedzi na rosnące obawy dotyczące bezpieczeństwa narzędzi AI, firma wprowadza zaawansowany klasyfikator obrazów, system ostrzeżeń w ChatGPT oraz wsparcie dla deweloperów i organów ścigania.

Inteligentny klasyfikator do identyfikacji CSAM

Najważniejszym elementem ogłoszenia jest nowy klasyfikator obrazów, zdolny do wykrywania materiałów CSAM, w tym również tych generowanych przez sztuczną inteligencję. Narzędzie zostało opracowane we współpracy z Narodowym Centrum ds. Dzieci Zaginionych i Wykorzystywanych (NCMEC). OpenAI udostępnia je bezpłatnie wybranym firmom za pośrednictwem swojego API. Dostęp do technologii jest również współdzielony z organizacjami Tech Coalition i ROOST.

Klasyfikator analizuje obrazy pod kątem wizualnych oznak wykorzystywania i przypisuje im ocenę, która ma pomóc moderatorom w podejmowaniu decyzji. Jak podaje OpenAI, wczesne testy wykazały dużą skuteczność narzędzia.

Podczas testów z partnerami stwierdzono, że klasyfikator, przy zachowaniu tej samej skuteczności w wykrywaniu szkodliwych materiałów, oznacza o 48% mniej obrazów, co znacząco zmniejsza obciążenie moderatorów. Co więcej, obrazy oflagowane przez system są dwukrotnie bardziej prawdopodobne do bycia faktycznymi materiałami CSAM.

Ostrzeżenia i blokady w ChatGPT

OpenAI wprowadza również zmiany bezpośrednio w ChatGPT, aby zniechęcić użytkowników do prób generowania treści o charakterze pedofilskim. Aplikacja, która już teraz blokuje takie żądania, została wyposażona w nowy system ostrzegawczy. Użytkownik, który spróbuje użyć odpowiednich promptów, zobaczy alert z informacjami o szkodliwości takich działań oraz zostanie skierowany do specjalistycznych organizacji oferujących wsparcie.

Dodatkowo, konto takiego użytkownika zostanie zawieszone na 24 godziny w ramach ostrzeżenia. OpenAI zaznacza, że powtarzające się próby łamania zasad mogą skutkować całkowitym i trwałym usunięciem konta. Wytyczne i komunikaty zostały opracowane we współpracy z organizacjami takimi jak Protect Children, The Lucy Faithfull Foundation oraz badaczami z Uniwersytetu Tasmańskiego.

Wsparcie dla deweloperów i organów ścigania

Firma opublikowała także wytyczne dla deweloperów korzystających z jej narzędzi, aby pomóc im we wdrażaniu własnych systemów zapobiegania, wykrywania i raportowania CSAM. Według OpenAI, wczesne testy pokazały, że wytyczne pomogły wielu programistom zintegrować narzędzia bezpieczeństwa i zarejestrować się w systemie zgłaszania nielegalnych treści do NCMEC. Dokumentacja jest dostępna na stronie deweloperskiej OpenAI.

Specjalne wsparcie otrzymają również organy ścigania zajmujące się bezpieczeństwem dzieci. Otrzymają one dostęp do dedykowanych wtyczek, narzędzi śledczych i funkcji analizy złożonych danych opartych na AI. OpenAI zapewnia także szkolenia dla śledczych oraz przewodnik dotyczący wykorzystania sztucznej inteligencji w ich pracy.

Źródła

OpenAI releases a new image classifier and ChatGPT warnings to combat CSAM, TechCrunch, 2026-11-16. https://techcrunch.com/2026/11/16/openai-releases-a-new-image-classifier-and-chatgpt-warnings-to-combat-csam/

CSAM-related content, OpenAI. https://developers.openai.com/api/docs/guides/csam-guidance

Więcej newsów AI