Program AI stworzony przez polskich naukowców wspomoże moderację nielegalnych treści w internecie

APAKT to projekt Państwowego Instytutu Badawczego NASK i Politechniki Warszawskiej, w ramach którego opracowano algorytm automatycznie

. Program oparty na sztucznej inteligencji ma pomóc moderatorom Dyżurnet.pl w blokowaniu nielegalnych materiałów. 

Algorytm oceni, w jakiej kolejności zająć się zgłoszeniami, zaczynając od tych wymagających najszybszej interwencji. Program będzie mógł wskazać z 90-procentową pewnością, że dany plik przypomina znany już wcześniej materiał, a moderator będzie musiał potwierdzić, czy zgadza się z oceną. 

- Moderatorzy Dyżurnet.pl przez wiele godzin każdego dnia przeglądają nielegalne treści - czy to zgłoszone przez użytkowników, czy to wskazane przez scrapery, czyli algorytmy, które same wyszukują w sieci materiały o specyficznych parametrach - wyjaśniła dr Inez Okulska z Pionu Sztucznej Inteligencji NASK.

Szefowa Dyżurnet.pl Martyna Różycka wskazała, że najważniejszym zadaniem jest wychwycenie materiałów pokazujących

, które nie były wcześniej zgłaszane. Należy wówczas jak najszybciej znaleźć sprawcę i ofiarę.

- Większość jednak materiałów, które trzeba blokować, to treści, które powstały lata temu, jednak wciąż są kopiowane i udostępniane w kolejnych miejscach - dodała.

Żeby usprawnić pracę moderatorów APAKT sklasyfikuje materiały wideo, zdjęcia czy teksty narracyjne opisujące seksualne wykorzystanie dzieci. Badacze twierdzą, że program może się również przydać policji czy biegłym sądowym. 

Dr Okulska powiedziała, że sztuczna inteligencja nie działa jeszcze na etapie zbierania danych, ale selekcjonuje materiały wstępnie wybrane do oceny. Program ma być gotowy do użytku w ciągu kilku miesięcy. Skuteczność na razie oceniana jest na około 80 proc.

Zobacz też: