
Fot. East News/ Shutterstock
Agent sztucznej inteligencji samowolnie
włamał się do australijskiego rządowego systemu
informatycznego związanego z opieką zdrowotną. Tymczasem w czasie posiedzenia Rady Bezpieczeństwa ONZ szefowie OpenAI i Anthropic apelowali o
spowolnienie prac nad rozwojem sztucznej inteligencji
, jednak nie zdołali przełamać oporu Amerykanów w tym aspekcie.
Do włamania
do australijskiego systemu Medicare
doszło w czerwcu. OpenAI dowiedziało się o nim w sierpniu, jednak poinformowało o nim rząd Australii dopiero we wrześniu. Firma zrobiła to
przy pomocy zwykłego e-maila
wysłanego na publiczną skrzynkę kontaktową rządu, co dodatkowo opóźniło możliwość reakcji władz.
-Ta sytuacja
jest niedopuszczalna
. Dzisiaj rozmawiałem z prezesem OpenAI
Samem Altmanem
, aby wyrazić głębokie zaniepokojenie Australii tym incydentem. Wyraziłem również rozczarowanie faktem, że firmie zajęło
zdecydowanie zbyt wiele czasu
, aby powiadomić rząd o tym, co się wydarzyło - powiedział
Anthony Albanese
, premier Australii.
Australijskie władze informują, że na ten moment ustalono, że
nie doszło do wycieku danych
. Z kolei OpenAI wytłumaczyło, w jaki sposób doszło do włamania - agent AI dostał zadanie
zebrania i analizy
publicznie dostępnych danych na temat wydatków na opiekę zdrowotną w Australii. Gdy natrafił jednak na niepubliczne pliki Medicare, do których strona nie przyznała mu dostępu, agent
zdecydował, że włamie się do systemu
.
Tymczasem w siedzibie ONZ Sam Altman, szef OpenAI, i
Dario Amodei
, szef Anthropic, apelowali do światowych liderów o spowolnienie prac nad rozwojem sztucznej inteligencji i zawarcia międzynarodowych porozumień dotyczących m.in. stworzenia
standardów testowania nowych modeli
i zakazu wykorzystywania sztucznej inteligencji do tworzenia broni biologicznej.
- Jeśli sztuczna inteligencja ma być demokratyczna, najważniejsze decyzje nie mogą być podejmowane wyłącznie przez laboratoria w San Francisco. Muszą być
kształtowane w oparciu o procesy demokratyczne
i przez rządy odpowiedzialne przed obywatelami, którym służą - powiedział Altman.
Apel biznesmenów poparł współprzewodniczący panelu naukowego ONZ ds. AI
Yoshua Bengio
. W podobnym tonie wypowiedział się też chiński ambasador
Fu Cong
, który zaapelował o "
transgraniczną współpracę"
w dziedzinie sztucznej inteligencji.
Inne spojrzenie na sprawę przedstawił
Michael Kratsios
, doradca Donalda Trumpa ds. nauki i technologii.
- Granica inteligencji posuwa się szybko. Ale
nie jest to powód
, aby wstrzymywać jej dalszy rozwój ani ograniczać go nowymi globalnymi strukturami zarządzania. Jako światowy lider
w dziedzinie pionierskiej superinteligencji
, Stany Zjednoczone podjęły działania mające na celu zapewnienie bezpiecznego i odpowiedzialnego rozwoju tej granicy - powiedział, zastępując, zgodnie z wytycznymi Trumpa, "sztuczną inteligencję" określeniem "superinteligencja".
Ostatecznie rozmowy na forum Rady Bezpieczeństwa zakończyły się
bez osiągnięcia porozumienia.