
Naveed Ahmed - Unsplash / Shutterstock
Indyjskie ministerstwo IT nakazało platformie X należącej do
Elona Muska
podjąć działania naprawcze wobec
Groka
. To reakcja na doniesienia mówiące o tym, że chatbot jest zdolny do generowania treści zawierających "nagość, s*ksualizację, treści o charakterze seksualnym lub w inny sposób niezgodne z prawem".
W ostatnich dniach internet obiegły informacje o tym, że Grok po cichu udostępnił użytkownikom
funkcję modyfikacji zdjęć
przez dowolne prompty. Jak się okazało, funkcjonalność jest wykorzystywana przez internautów do s*ksualizowania wizerunków kobiet i dzieci, co wywołało falę kontrowersji.
Indyjskie ministerstwo zdecydowanie zareagowało na te doniesienia, dając platformie X
72 godziny
na przedstawienie raportu o podjętych działaniach w celu zapobiegania treściom uznanym za "obsceniczne, p*rnograficzne, wulgarne, nieprzyzwoite, o charakterze s*ksualnym, p*dofilskie lub w inny sposób zabronione przez prawo".
Wezwano platformę X również do
wzmocnienia wewnętrznych zabezpieczeń
, zaznaczając, że w przeciwnym razie mogą zostać podjęte dalsze kroki na podstawie indyjskiego prawa dotyczącego IT i prawa karnego.
"Powtarzamy, że nieprzestrzeganie powyższych wymogów będzie traktowane poważnie i może skutkować surowymi konsekwencjami prawnymi wobec platformy, jej odpowiedzialnych urzędników oraz użytkowników platformy, którzy dopuścili się naruszenia prawa, bez konieczności dalszego powiadamiania" - ostrzeżono.
Formalną skargę na zachowanie Groka złożyła parlamentarzystka
Priyanka Chaturvedi
. Internauci odrębnie zgłaszali przypadki, w których chatbot generował obrazy o charakterze s*ksualnym z udziałem nieletnich. Te materiały zostały później usunięte.