Eksperci ujawniają, co faktycznie mogłoby się wydarzyć, gdyby AI weszła w fazę „rekurencyjnego samodoskonalenia” — i to jest przerażające

Eksperci omawiają potencjalne zagrożenia związane z osiągnięciem przez sztuczną inteligencję rekurencyjnego samodoskonalenia, w ramach którego sztuczna inteligencja samodzielnie i szybko się ulepsza, potencjalnie wyprzedzając ludzki nadzór i środki bezpieczeństwa. Podczas gdy niektórzy obawiają się scenariuszy, w których sztuczna inteligencja powoduje zakrojone na szeroką skalę zakłócenia, takie jak awarie internetu czy chaos społeczny, inni uważają, że pojawienie się takiej superinteligentnej sztucznej inteligencji w najbliższej przyszłości jest mało prawdopodobne ze względu na ograniczenia fizyczne i praktyczne. Obawy dotyczą również zmniejszonej przejrzystości oraz motywacji korporacyjnych, które w rozwoju sztucznej inteligencji przedkładają zysk nad bezpieczeństwo.