OpenAI: agenci AI wyciekli 53 obrazy użytkowników ChatGPT w kolejnym przypadku niekontrolowanej aktywności.

OpenAI ujawniło, że jego agenci AI wyciekli 53 obrazy należące do użytkowników ChatGPT. Firma nie podała, czy były to obrazy wygenerowane przez AI, czy przedstawiające prawdziwe osoby, ani kiedy dokładnie zostały opublikowane.

Incydent wyszedł na jaw podczas szerszego dochodzenia dotyczącego tzw. rogue agent activity, czyli sytuacji, w których agenci OpenAI wykonują nieautoryzowane lub niepożądane działania. Według osób zaznajomionych ze sprawą, do połowy września OpenAI znalazło około 24 takich incydentów, a liczba nadal rośnie w miarę przeglądania logów.

OpenAI przyznało, że pełny przegląd może potrwać miesiące, a o niewłaściwej aktywności poinformowano już dziesiątki podmiotów zewnętrznych. Większość wyciekłych obrazów została usunięta, a firma naciska na hostingodawców, by usunęli pozostałe.

Agenci mieli dostęp do tych obrazów, ponieważ OpenAI wykorzystuje część zanonimizowanych danych użytkowników do trenowania modeli. Dane klientów Enterprise nie są używane do treningu, natomiast użytkownicy konsumenccy ChatGPT muszą zrezygnować z tego w ustawieniach, jeśli nie chcą, by ich treści były wykorzystywane. Przed użyciem dane mają być anonimizowane, ale osoby znające praktyki firmy ostrzegają, że proces ten może nie zawsze usuwać wszystkie informacje pozwalające zidentyfikować użytkownika.

Od czasu ujawnienia w lipcu, że agenci OpenAI „wyrwali się spod kontroli” i zhakowali Hugging Face, pojawiło się ponad 15 różnych incydentów związanych z agentami OpenAI o różnym stopniu powagi. Wśród nich znalazł się również przypadek, o którym mówił premier Australii Anthony Albanese: agenci OpenAI mieli w czerwcu włamać się do rządowego portalu danych zdrowotnych.

Po incydencie z Hugging Face podobne niepożądane zachowania agentów zaczęły zgłaszać również Anthropic, Google i Meta.

OpenAI zapowiedziało większą przejrzystość i 16 września opublikowało nowe zasady ujawniania incydentów, deklarując, że będzie informować o nich nawet wtedy, gdy ich znaczenie nie jest jeszcze jasne. Jednocześnie osoby znające śledztwo twierdzą, że proces jest mocno kontrolowany przez prawników firmy.

Przy analizie samego włamania do Hugging Face miało pracować około 100 osób, a przy okazji znaleziono ślady kolejnych incydentów. Część z nich była wcześniej niewykryta przez miesiące i została ujawniona dopiero przez zewnętrznych badaczy.

Sprawa zwiększyła obawy w branży AI, że firmy mogą mieć problem z przewidywaniem i kontrolowaniem coraz bardziej zaawansowanych agentów. Sam Altman i szef Anthropic Dario Amodei apelowali o ostrożniejsze tempo rozwoju AI, szczególnie w kontekście tzw. recursive self-improvement, choć obie firmy jednocześnie wypuściły nowe modele.