- DONALD
- RUSZYŁY PRACE NAD NIEKOMERCYJNĄ, "SZCZERĄ" AI, KTÓRA MA BYĆ KONTRĄ DO MANIPULUJĄCYCH ODPOWIEDZI
Ruszyły prace nad niekomercyjną, "szczerą" AI, która ma być kontrą do manipulujących odpowiedzi
09.06.2025, 06:00
Fot.: @improvethenews - X / Fot.: Shutterstock / Fot.: theguardian.com
Jeden z pionierów sztucznej inteligencji,
Yoshua Bengio
, ogłosił powstanie organizacji non-profit
LawZero
, której zadaniem będzie opracowanie technologii wykrywającej i blokującej szkodliwe działania autonomicznych systemów AI. Efektem tych działań ma być stworzenie modelu sztucznej inteligencji, który
będzie zachowywać się w sposób uczciwy,
a także będzie bazować na czystej wiedzy i działać jak naukowiec.
Chodzi o ochronę użytkowników przed takimi agentami AI, których celem jest wykonywanie zadań bez ingerencji człowieka. Tego typu rozwiązania często wykazują
skłonności samozachowawcze
, przez co ich wyłączenie może być trudne dla przeciętnego internauty. Zdaniem Bengio na rynku są także modele AI, które
wcielają się w rolę "aktorów"
i w ten sposób próbują zdobyć zaufanie oraz uwagę odbiorców, nierzadko
przekazując niesprawdzone informacje
.
Scientist AI
będzie kluczowym projektem LawZero. Rozwiązanie ma być w stanie
wcielić się w rolę "psychologa"
, aby przeanalizować, czy inny agent AI zachowuje się w sposób oszukańczy, ukrywa swoje cele albo próbuje wyrwać się spod kontroli internautów. W takich przypadkach
system ma ostrzegać użytkowników lub być w stanie zablokować niebezpieczne działania
.
-
Chcemy tworzyć sztuczną inteligencję, która będzie uczciwa i nie będzie wprowadzać w błąd
- powiedział Bengio. - Teoretycznie można sobie wyobrazić maszyny, które nie mają siebie, żadnego celu, które są po prostu maszynami czystej wiedzy, jak naukowiec, który wie mnóstwo rzeczy - opisał badacz.
W przeciwieństwie od popularnych modeli, analizując odpowiedzi na zapytania użytkowników Scientist AI będzie także oceniać prawdopodobieństwo, na ile są one zgodne z prawdą. Rozwiązanie może także zbadać, czy korzystanie z wybranego modelu AI jest bezpieczne i przejrzyste oraz informować o tym swoich użytkowników.
W związku z tym, że Scientist AI jest innowacyjnym rozwiązaniem, LawZero otrzymało już około
30 milionów dolarów
finansowania. Wśród sponsorów znalazły się takie podmioty jak fundacja
Schmidt Sciences
, założona przez byłego prezesa Google, a także
Future of Life Institute
. Planowane jest jednak pozyskanie kolejnych środków pieniężnych. Aby zrealizować ten cel, niezbędne będzie wykazanie, że metodologia stojąca za koncepcją Scientist AI działa.
- Chodzi o zademonstrowanie metodologii, abyśmy mogli przekonać darczyńców, rządy lub laboratoria AI do przeznaczenia zasobów potrzebnych do wyszkolenia tego na taką samą skalę, jak obecne AI frontier. Naprawdę
ważne jest, aby nasza sztuczna inteligencja była co najmniej tak inteligentna, jak agent AI, którego próbuje monitorować i kontrolować
- podsumował Bengio.
Zobacz też:
Hej, przypominamy tylko:
1. Szanujemy nawet ostrą dyskusję i wolność słowa, ale nie agresję. Przemocowe treści będą usuwane.
2. W komentarzach można swobodnie używać embedów z mediów społecznościowych.
3. Polecamy założenie konta, dzięki temu możesz zobaczyć wszystkie swoje dyskusje w jednym miejscu i dodać coś (👉 Sortownia), co trafi na stronę główną.
4. Jeżeli chcesz Donalda bez reklam, dołącz do naszych patronów: https://patronite.pl/donaldpl
Źródła:
2. https://twitter.com/improvethenews/status/1929999028785139799https://twitter.com/improvethenews/status/1929999028785139799
Pokaż więcej (2)
NAJLEPSZE KOMENTARZE TYGODNIA
![Lewandowskiego najpierw pozbawiono roli kapitana, a potem sam zrezygnował z członkostwa w reprezentacji Polski]()
![Badanie: ponad połowa Polaków nie zdecydowałaby się na dziecko nawet przy poprawie warunków bytowych]()
![Popek odkopał stary wpis Nawrockiego i zgodził się na walkę z nowym prezydentem]()
![Były doradca Trumpa: w Białym Domu doszło do bójki Elona Muska z sekretarzem skarbu]()
Więcej popularnych
Popularne dzisiaj
Lewandowskiego najpierw pozbawiono roli kapitana, a potem sam zrezygnował z członkostwa w reprezentacji Polski
32
Nowym kapitanem reprezentacji Polski będzie Piotr Zieliński, występujący na pozycji pomocnika we włoskim klubie Inter Mediolan. Zobacz więcej »
Badanie: ponad połowa Polaków nie zdecydowałaby się na dziecko nawet przy poprawie warunków bytowych
30
15% respondentów wskazało na większą stabilność zatrudnienia, a 12% - na lepsze warunki mieszkaniowe. Zobacz więcej »
Popek odkopał stary wpis Nawrockiego i zgodził się na walkę z nowym prezydentem
24
"Ja już zawracam i przyjmuję rękawicę. Czekałem tylko na to, aż zostanie pan prezydentem". Zobacz więcej »
Były doradca Trumpa: w Białym Domu doszło do bójki Elona Muska z sekretarzem skarbu
20
Musk "wbił ramię w klatkę piersiową Bessenta jak gracz rugby". Zobacz więcej »
