nowej wersji ChataGPT, 6.1 Astra, ponieważ nie spełniała ona ich
wymogów bezpieczeństwa.
ChatGPT 6.1 miał zostać zaprezentowany w październiku, podczas corocznej konferencji OpenAI.
The Wall Street Journal
poinformował jednak, że do prezentacji nie dojdzie, ponieważ model wykazywał się
zbytnią niezależnością
. Miał m.in.
okłamywać użytkowników
na temat podejmowanych przez siebie działań.
- Chcemy mieć pewność, że
rozwój naszego modelu jest bezpieczny
, nieważne, czy mówimy o działaniach wewnątrz firmy, czy kiedy dostarczamy go klientom. Ale kiedy dostarczamy go klientom, mamy
ekstremalnie wysoko zawieszoną poprzeczkę
w kwestiach bezpieczeństwa - powiedziała w rozmowie z
The Wall Street Journal
Saachi Jain,
szefowa systemów bezpieczeństwa w OpenAI.
Oprócz okłamywania użytkowników, ChatGPT 6.1 miał przeć do wykonania powierzonego mu zadania
niezależnie od wszystkiego
, podejmując decyzje bez pytania o zgodę i używając zewnętrznych usług i narzędzi, nawet jeśli
mogło to stanowić zagrożenie
.
To kolejny raz w ostatnim czasie, kiedy
problem bezpieczeństwa sztucznej inteligencji
podnoszony jest publicznie. W czasie niedawnego szczytu ONZ premier Australii,
Anthony Albanese
, poinformował, że agent sztucznej inteligencji należący do OpenAI
włamał się do australijskich systemów rządowych.
Z kolei
Dario Amoderi
, szef Anthropic, opublikował esej, w którym wzywa do spowolnienia prac nad AI, ponieważ postępują one szybciej niż praca nad bezpieczeństwem sztucznej inteligencji.
Zaakceptuj pliki cookies Twitter/X, aby zobaczyć ten tweet.
Hej, przypominamy tylko:
1. Szanujemy nawet ostrą dyskusję i wolność słowa, ale nie agresję. Przemocowe treści będą usuwane.
2. W komentarzach można swobodnie używać embedów z mediów społecznościowych.
3. Polecamy założenie konta, dzięki temu możesz zobaczyć wszystkie swoje dyskusje w jednym miejscu i dodać coś (👉 Sortownia), co trafi na stronę główną.