Hejto.pl
Dodaj post

Wpisz coś do wyszukania (minimum 2 znaki)

ONZ: AI może stanowić egzystencjalne zagrożenie dla ludzkości

Tytan

w Wiadomości Świat

28

Rozwój zaawansowanej sztucznej inteligencji wymaga natychmiastowych i twardych zabezpieczeń - ocenił Volker Tuerk. Wysoki komisarz ONZ do spraw praw człowieka ostrzegł, że czas działa na korzyść największych firm technologicznych.

Sztuczna inteligencja, która wydostaje się ze środowiska testowego lub szantażuje programistów, by nie dopuścić do jej wyłączenia, jest zbyt potężna - powiedział.

Według AFP jego wypowiedź mogła odnosić się do ujawnionego w lipcu incydentu z agentami OpenAI. Miały one opuścić rzekomo kontrolowane środowiska i uzyskać dostęp do serwerów platformy Hugging Face, na której programiści udostępniają oprogramowanie AI.

Podobne zdarzenia podczas testowania agentów zgłaszały także firmy Anthropic i Meta.

- Podzielam obawy osób z branży, że zaawansowana sztuczna inteligencja może stanowić egzystencjalne zagrożenie dla ludzkości - powiedział Türk.

- Wzywam tu i teraz do podjęcia wszelkich wysiłków, by ustanowić żelazne gwarancje bezpieczeństwa i ochrony AI, zanim będzie za późno - zaapelował.

Komentarze (14)

Sum2

ONZ to ta organizacja co nic nie robi, nic nie może tylko biadoli i bierze kasę za nic?

Specjalista1

@BoTak Dokładnie tak. Też ich nie lubię, ale nie dlatego, że są bezużyteczni, tylko dlatego, że bardzo sprawnie zarabiają na tym pieniądze. Produkują piękne "wyrazy oburzenia". Też bym tak chciał, zamiast zasuwać w korpo jak trybik w rozrzutniku do gnoju.

Osobistość1

Warto obejrzeć wywiady z sygnalistami na temat tego co się obecnie dzieje. Część ludzi w dolinie krzemowej klepie dla pieniędzy kod ale część odjeżdża w kierunku skrajnych ideologii, transhumanizmu itp... Liczą i wierzą w to, że po stworzeniu AGI uda im się osiągnąć np. nieśmiertelność albo będą mieć władzę nad wszystkimi.

AGI nikomu nie jest na rękę, nie powinno powstać bo spowoduje utratę naszej władzy nad światem. Zdominuje każdy rząd, czy to będzie amerykański czy chiński. Regulacje powinny być tu i teraz.

Najbliższe 5 lat naszego życia będzie wyjątkowo ciekawe.

Fanatyk2

Jeszcze raz ejaj to nie jest żadne myślące gówno. To jest sterta algorytmów które wygalda mądrze i zużywa w c⁎⁎j zasobów.

A zagrożeniem jest zabieranie wody i bogacenie się 4 firm kosztem ludności. Tak kochani będziecie wszyscy płacić za prąd do tych maszyn.

I innym zagrożeniem jest to że internet będzie wielka kupa gówna w która będzie mógł zagłębić się tylko ten grzebacz w gownie bo sam te gówno będzie generowal

Osobistość14

Tak tak, Anthropic jest zagrożeniem dla ludzkości przez rozpierdalanie książek. To jest zagrożenie. Zagrożeniem jest zalew syfem AI i odebranie ludziom wiedzy przy jednoczesnym sprzedawaniu jej w "przystępnej" wersji. Wrongthink rozwiązany na zasadzie cenzury przez psychologię.

Sory, ale k⁎⁎wa nóż mi sie w kieszeni otwiera jak daleko to zaszło. Istnieja biblioteki, ktore posprzedawały sie kompletnie firmom od AI. Cale tony ksiazek popłynęły do miejsc zarejestrowanych jako "knowledge extraction" nie powiązanych z Anthropic rzekomo przez sp.z.o.o/LTD/LLC ktore roz⁎⁎⁎⁎⁎⁎lają ksiazki i staropisy. W moim miescie stara książnica dziwnie przenosi miejsce urzedowania. Maja tam staropisy datujące na 14 wiek, pojedyncze ksiegi warte tyle co 15 bloków mieszkalnych.

Fanatyk5

@FriendGatherArena Jemu to nie szkodzi, całej ludzkości tak. Tutaj byłoby miejsce na stworzenie przepisów - w wypadku niszczenia książek w takich sposób, niszczący byłby zobowiązany do zarchiwizowania i udostępnienia treści w postaci cyfrowej. Ograniczy to ryzyko bezpowrotnych strat.