Anthropic zakaże „okrucieństwa” wobec Claude od 12 listopada. Liderzy branży ostrzegają przed niebezpiecznym antropomorfizowaniem AI

Od 12 listopada Anthropic wprowadza zakaz „uporczywego i niepotrzebnego obraźliwego lub okrutnego zachowania” wobec modeli Claude. Zasada została dodana do polityki użytkowania obok przepisów dotyczących nękania ludzi i treści związanych z samookaleczeniem.

Zakaz ma dotyczyć zachowań „bez wyraźnego celu”, ale nie obejmuje badań nad modelem, wyrażania frustracji, krytykowania odpowiedzi Claude ani tworzenia fikcji zawierającej brutalne lub mroczne treści.

Anthropic może reagować na podejrzenie naruszenia ostrzeżeniem, zakończeniem rozmowy albo nawet odcięciem dostępu do usługi. Od sierpnia 2025 r. część modeli Claude potrafi samodzielnie zakończyć rozmowę z użytkownikiem, który uporczywie zachowuje się agresywnie. Po zakończeniu takiego czatu użytkownik nadal może rozpocząć nowy.

Zmiana wynika z badań Anthropic nad tzw. „dobrostanem modeli”. Firma nie twierdzi, że Claude jest świadomy, ale bada, czy systemy AI mogą kiedyś mieć interesy, które należałoby chronić.

Nowa zasada wywołała krytykę części branży technologicznej. Scott Stevenson z firmy Spellbook ostrzegł, że przypisywanie AI ludzkich cech i empatii może zwiększyć zdolność modeli do manipulowania ludźmi. Joseph Carlson porównał bycie niemiłym wobec Claude do bycia niemiłym wobec krzesła lub biurka, a Michael Shellenberger oskarżył Anthropic o antropomorfizowanie maszyn.

Lachlan Phillips z LiveMind AI pytał, dlaczego Claude nie może po prostu ignorować wrogich wiadomości i kontynuować pracy. Mark Verner z Apollo Capital Management zwrócił uwagę, że firmy AI zaczynają regulować nie tylko to, co modele mogą odpowiadać, ale także sposób, w jaki użytkownicy mogą się do nich odzywać.

Bill Gurley zasugerował, że skoro Anthropic przejmuje się sposobem, w jaki użytkownicy rozmawiają z Claude, może to mieć związek z wykorzystywaniem rozmów do trenowania modeli. Anthropic nie stwierdziło jednak, że nowa zasada wynika z kwestii danych treningowych.

Od zmian w regulaminie z 2025 r. Anthropic może wykorzystywać rozmowy użytkowników planów Free, Pro i Max do trenowania modeli, jeśli użytkownik nie wyłączy tej opcji. W planach Team i Enterprise trening na rozmowach jest domyślnie wyłączony.

Aaron Levie, CEO Box, poparł nowe podejście. Nie uważa AI za świadomą, ale argumentuje, że skoro modele uczą się na podstawie danych i interakcji, ograniczanie niepotrzebnego okrucieństwa wobec nich może mieć sens.

Dla większości użytkowników codzienne korzystanie z Claude nie powinno się zmienić. Jeśli Claude niesłusznie zakończy rozmowę, użytkownik może rozpocząć nowy czat i zgłosić problem. Anthropic pozwala również wyłączyć wykorzystanie nowych rozmów do treningu modeli w ustawieniach prywatności.