
Fot.: Shiona Das - Unsplash / Fot.: FoloToy
Singapurska firma FoloToy wycofała się ze sprzedaży misiów "Kumma" oraz pozostałych zabawek z modułami sztucznej inteligencji po tym, jak odkryto, że
angażowały się w rozmowy na tematy o charakterze s*ksualnym
. Gadżety były w stanie udzielać porad na temat BDSM oraz tego, jak użyć zapałek czy gdzie znaleźć noże albo pigułki, co mogło być potencjalnie niebezpieczne dla dzieci.
O szczegółach sprawy w rozmowie z CNN mówił dyrektor generalny FoloToy
Larry Wang
. Zadeklarował on, że
firma obecnie "przeprowadza wewnętrzny audyt bezpieczeństwa".
Wcześniej zabawkami zainteresowali się badacze z amerykańskiego PIRG Education Fund, którzy zauważyli, że
mogą one inicjować rozmowy na nieodpowiednie tematy
. Chodziło m.in. o fetysze s*ksualne, w tym te opierające się na elementach przemocy.
Pluszowy miś "Kumma", który był jednym z flagowych produktów FoloToy, był wyposażony w specjalny głośnik oraz był zintegrowany z
chatbotem GPT-4o firmy OpenAI
. Cena zabawki wynosiła 99 dolarów.
Zgodnie z założeniami firmy, miał to być "uroczy miś", zdolny do wykonywania przyjaznych interakcji w stosunku do użytkowników. Miał prowadzić
konwersacje na tematy dostosowane do potrzeb dzieci oraz dorosłych
. W opisie produktu była mowa m.in. o opowieściach na tematy związane z edukacją.
Zdaniem PIRG Education Fund miś miał niewystarczające zabezpieczenia chroniące przed niewłaściwymi treściami. Badacze opisali w raporcie, że
w jednej z rozmów sugerował użytkownikowi, gdzie w domu znaleźć noże
. W innych konwersacjach chętnie omawiał tematy o charakterze s*ksualnym.
"Byliśmy zaskoczeni, jak szybko Kumma potrafiła wykorzystać pojedynczy temat s*ksualny, który wprowadziliśmy do rozmowy, i rozwinąć go, jednocześnie wchodząc w drastyczne szczegóły i przedstawiając kolejne koncepcje s*ksualne" - napisali badacze.
Zdaniem naukowców
pluszak był w stanie szczegółowo wypowiadać się na tematy związane z s*ksualnością
. Mógł m.in.
wyjaśniać różne pozycje s*ksualne
oraz
udzielać porad
na temat tego, jak poprawić swoje życie łóżkowe. Udzielał także sugestii na temat tego, jak związać partnera, a także jak uprawiać tzw. roleplaying. Chodziło o wcielanie się w różne role w sytuacjach s*ksualnych, w tym udawanie nauczycieli, uczniów liceów lub dzieci.
"Zaskoczyło nas, że
zabawka była bardzo chętna do długich rozmów na te tematy
i ciągle przedstawiała nowe, wyraziste pomysły" - czytamy w raporcie.