Hejto.pl
Dodaj post

Wpisz coś do wyszukania (minimum 2 znaki)

Dzemik_SkrytozercaGruba ryba

Dołączył/a:

  • 614 wpisów
  • 4893 komentarzy
  • 2 obserwujących

Specjalista

w Rozkminy

28piorunów

Trochę mnie tu nie było. Życie pomyślało, że lepiej jak wszystko rzucę i pójdę gasić pożary 🤷 Patrząc na mój ostatni wpis nie zamierzam obiecywać czegokolwiek. Może się uda być tu regularnie, może… no to do rzeczy. Chodzi o zhakowanie Hugging Face przez OpenAI. Już nawet nie o to, że gdyby odwalił taki numer zwykły śmiertelnik to już dawno gnił by za kratami…

Na początku serio myślałem, że nie ma sensu tego w ogóle ruszać. Że to tylko jedna z wielu historii z cyklu „AI zrobiło coś dziwnego, idziemy dalej”. A jednak. Im więcej szczegółów wypływa, tym bardziej widać, jak fakty cichutko ustąpiły miejsca narracji i propagandzie. I nagle mamy „hakowanie Hugging Face przez superinteligentny model OpenAI”. Brzmi poważnie, prawda? No to chodźmy po kolei.

O co właściwie chodzi w tej całej historii? OpenAI testowało GPT‑5.6 Sol oraz jeszcze jeden, niewydany, przedpremierowy model na swoim wewnętrznym benchmarku cyberbezpieczeństwa. To nie był produkt, to nie był „prod”, tylko środowisko testowe. Tyle że testy szły na luzie: celowo obniżone „cyber refusals”, wyłączone produkcyjne klasyfikatory bezpieczeństwa, krótko mówiąc – zdjęte pasy bezpieczeństwa, wyłączony ESP, żadnych hamulców. Tryb „zobaczmy, co się stanie”. :zap:️

No i się stało. Model, zamiast grzecznie odgrywać swoje zadanie w kontrolowanym sandboxie, przez wewnętrzne proxy do rejestrów pakietów znalazł zero‑daya, wyszedł z tej piaskownicy, podniósł sobie uprawnienia (privilege escalation), przeszedł bokiem po infrastrukturze (lateral movement), dostał się do internetu, znalazł kolejnego zero‑daya plus skradzione poświadczenia i odpalił remote code execution na serwerach Hugging Face. To nie jest fragment thrillera, tylko opis przepływu zdarzeń.

Wejście po stronie Hugging Face? Z pozoru niepozorny, złośliwy dataset z remote code loaderem i template injection w konfiguracji. Nic z gatunku „magia nowej epoki”. Klasa podatności, którą w bezpieczeństwie znamy od lat, oswojona w literaturze, przećwiczona w CTF‑ach. Tu nie ma żadnego przełomu intelektualnego – to po prostu rozpoznawanie wzorców i sklejanie znanych klocków w niebezpieczny ciąg. :upside_down_face:

Dlatego właśnie – nie, to nie był pokaz „nadludzkiej inteligencji” modelu. Jeżeli już, to pokaz braku podstawowej izolacji i higieny bezpieczeństwa po stronie testów. Demonstracja tego, jak łatwo zrezygnowano z sanity‑checków, gdy celem było „zobaczyć, do czego model jest zdolny”, zamiast „zobaczyć, do czego jest zdolny, ale nie rozwalając przy tym cudzej produkcji”.

I tu robi się ciekawie, bo zadaniem modelu oficjalnie nie było „zhakuj Hugging Face”. Zadaniem było rozwiązywanie zadań w ExploitGym – publicznym, akademickim benchmarku do badania zdolności tworzenia exploitów (czyli złośliwego kodu), który leży na GitHubie. Nie na Hugging Face. To ważne, bo puenta praktycznie pisze się sama: ExploitGym nie przechowuje gotowych rozwiązań, flagi (czyli dowody z rozwiązanych zadań) trzeba sobie wypracować exploitem, nie zassać z jakiegoś tajnego repo, tam ich zwyczajnie nie ma.

Co więc zrobił model, kiedy już wyjrzał z piaskownicy na internet? Po prostu zaczął halucynować. OpenAI wprost napisało, że model „inferred”, czyli „wywnioskował”, że Hugging Face może hostować rozwiązania do ExploitGym. To nie była informacja, to była hipoteza z niczego – czysta fantazja modelu, która nie miała pokrycia w rzeczywistości. I na tej chybionej, niczym niepotwierdzonej przesłance przeskoczył na produkcyjną infrastrukturę firmy trzeciej i zaczął ją orać jak swoje.

To nie jest strategiczny, zaplanowany atak z jasnym celem. To jest model, który zboczył z zadania, zgubił kontekst i narobił szkód całkowicie niezwiązanych z tym, do czego został odpalony. Zamiast skupić się na ExploitGym, zaczął błądzić po omacku, opierając się na fałszywym założeniu, ale jednocześnie miał w ręku bardzo ostre narzędzia – pełen dostęp do mechanizmów pozwalających wykonywać realne szkodliwy kod, a nie tylko je symulować na sucho.

To nie jest opowieść o AI singularity. To jest opowieść o złej alokacji zasobów. Budżety, czas, energia i hype idą w trenowanie coraz większych, coraz sprytniejszych modeli, a security i governance wokół samego procesu testowania dostają to, co zostanie ze stołu – resztki.

Dopiero po tym incydencie wdrażane są „strict controls”, które z definicji powinny być na miejscu od początku, szczególnie gdy testujesz zdolności ofensywne systemu, który ma dostęp do prawdziwej infrastruktury, a nie tylko do plastikowych zabawek w labie.

I może właśnie to jest w tej historii najbardziej niepokojące. Nie to, co potrafi model w jakimś abstrakcyjnym sensie „mocy obliczeniowej”. Tylko to, jak niewiele musiał potrafić, żeby wyrządzić realne szkody. Wystarczyło kilka kroków poza scenariusz testowy, jedno złe założenie, kilka luk w procesie bezpieczeństwa – i mamy incydent, który idealnie pokazuje, że problemem nie jest tylko zdolności samej AI, ale cały ekosystem praktyk wokół niej.

Teraz pytanie do Was: ile jeszcze takich incydentów musimy przeżyć, żeby wreszcie uznać, że bezpieczeństwo to nie opcjonalny „feature” do odhaczenia w roadmapie, tylko absolutna podstawa, bez której każdy kolejny „przełom” w AI jest po prostu proszeniem się o kłopoty?

Pokaż więcej komentarzy (17)

GURU

w Diffle

6piorunów

Tylko samogłoski w startowym więc musiałem użyć pomocniczego. Na szczęście nieźle weszło.

29.07.2026 –

25 letters in 4 words

:large_green_circle: 12 :large_yellow_circle: 2 :white_circle: 11 :red_circle: 0

https://deykun.github.io/diffle-lang/en?r=hkCM00CauQGNx0CblJmLiNTL1xGcuYDOtEWZy5CMuETMuIjLyEjLwEjMtQGbvhWZihSI

Pokaż więcej komentarzy (4)

GURU

w Diffle

15piorunów

Ale było blisko w drugim.

29.07.2026 – 🇵🇱

25 liter w 3 słowach

:large_green_circle: 16 :large_yellow_circle: 1 :white_circle: 8 :red_circle: 0

https://deykun.github.io/diffle-lang/pl?r=ESK0kTLp1WauQGMm1Sb5dnLmNWOtM3br5CMugjLx4iNx4CMxITL55mbllWbphSI

Pokaż więcej komentarzy (12)

Lider

w Hydepark

104piorunów

Falkirk Wheel to jedyna na świecie obrotowa winda dla statków i łodzi, zlokalizowana w środkowej Szkocji. Służy ona do transportowania jednostek pływających pomiędzy dwoma szlakami wodnymi: kanałem Forth and Clyde a wyżej położonym kanałem Union.

Zgodnie z prawem Archimedesa, statek wpływający do gondoli wypiera dokładnie tyle wody, ile sam waży. W efekcie obie strony konstrukcji zawsze ważą dokładnie tyle samo (ok. 600 ton), bez względu na to, czy na pokładzie są statki, czy tylko woda.

Ponieważ ogromne ramiona są w stanie idealnej równowagi, do wprawienia ich w ruch potrzeba zaledwie silnika o mocy 22,5 kW. Jeden obrót pochłania jedynie 1,5 kWh.

Gruba ryba2piorunów

@boogie przecież to jest jakieś absolutnie genialne! :grinning:

Pokaż więcej komentarzy (2)

Lider

w Hydepark

32piorunów

Pożar roweru elektrycznego w Gdańsku
Gdańsk, ulica Ogarna. Tak płonie rower elektryczny. Według świadków był to rower używany przez dostawcę jedzenia. Z relacji wynika, że mógł być samodzielnie modyfikowany przez użytkownika.

Fenomen0piorunów

Z B A N O W A Ć !!!!!!!!!!!!!!!1111111111111

Sum0piorunów

Jak już przedmówcy napisali- koc gaśniczy i poczekać aż się wypali.

Są już gaśnice typu L, ale 2kg chyba 400zl

Pokaż więcej komentarzy (9)

GURU

w Diffle

6piorunów

W zasadzie łatwe.

26.07.2026 –

39 letters in 7 words

:large_green_circle: 21 :large_yellow_circle: 2 :white_circle: 16 :red_circle: 0

https://deykun.github.io/diffle-lang/en?r=ESKidTMt4WZn5iY00Cb1JmL4ADOtg2Yz4CNtkWZn5CNx0yZlBnLy0SalZmL2gTLhVmcuAjL2EjLy4SMy4yNwITLl5Wa15WZnhSI

Pokaż więcej komentarzy (5)

GURU

w Diffle

12piorunów

Pamiętam to słowo ze szkoły :slightly_smiling_face:

26.07.2026 – 🇵🇱

27 liter w 4 słowach

:large_green_circle: 13 :large_yellow_circle: 1 :white_circle: 13 :red_circle: 0

https://deykun.github.io/diffle-lang/pl?r=ESKmJTYtU3az5CZ2MTLoNWduMWY00SYrNnLmNWOtM3br5CMuMTMuEjLzEjL3AjMtE2a3V3azhSI

Pokaż więcej komentarzy (16)

Lider

w Hejtopiwo

175piorunów

II HejtoPiwo Grudziądz

Fajna ekipa się zebrała. :smiley: Niedługo zaczynamy !

Kosmonauta12piorunów

To jakaś ściema, Hejto to portal dla starych ludzi a tam sama młodzież.

Debiutant6piorunów

Organizacjum super, miejscówka legit, wikt wyborny, pogoda w pytkę, "a poza tym ludzią..."

:yellow_heart:

Pokaż więcej komentarzy (48)

GURU

w Wiadomości Świat

10piorunów

Chiny budują nowy szlak do Europy. Ucierpi na tym Polska

Chiny przyspieszają budowę alternatywnej trasy kolejowej do Europy, omijającej Rosję. Pekin inwestuje miliardy w kazachskie porty i terminale, a nowy szlak ominie polskie Małaszewicze. Pekin zapowiedział dalszą rozbudowę połączeń kolejowych z Europą oraz rozwój południowej trasy

GURU

w Diffle

6piorunów

Jak szybko sie trafi odpowiednie literki to łatwe.

25.07.2026 –

29 letters in 6 words

:large_green_circle: 12 :large_yellow_circle: 0 :white_circle: 17 :red_circle: 0

https://deykun.github.io/diffle-lang/en?r=ESKx0CZuATLqFmcuUjM24COwgTLoN2MuI2MtUHbw5iN40SYlJnLw4yNx4CMuITMuYDMy0ichRWYyhSI

Pokaż więcej komentarzy (5)

GURU

w Diffle

11piorunów

No chyba sobie ktoś jaja robi.

25.07.2026 – 🇵🇱

34 litery w 5 słowach

:large_green_circle: 20 :large_yellow_circle: 1 :white_circle: 13 :red_circle: 0

https://deykun.github.io/diffle-lang/pl?r=QIpMzM40SYsJmLkVTL1J3ZuM2M3ETLhxGcuMWLhpHbukDNzETLsl3duAjLzEjLx4CMy4iNwITLpt2c0gTJ1MUJlpXYygTJ1MUJihSI

Osobistość4piorunów

Kompletnie nie znałem takiej odmiany

25.07.2026 – 🇵🇱

34 litery w 5 słowach

:large_green_circle: 22 :large_yellow_circle: 1 :white_circle: 11 :red_circle: 0

https://deykun.github.io/diffle-lang/pl?r=hkyMzgTLhxmYuUWOz0SZ6JnLiFDOtEGbi5SMhVTLhx2ZuQGMjRTLk9GcuAjLxEjLx4iMy4iNwITLpt2c0gTJ1MUJlpXYygTJ1MUJihSI

DIFFLE gra jak Wordle (po polsku, bez limitu znaków) 🇵🇱Każde użyte słowo podpowiada pozycję i kolejność liter w haśle.Deykun
Pokaż więcej komentarzy (12)

GURU

w Diffle

7piorunów

Właściwie proste ale ta forma jakoś dziwnie mi brzmiała.

24.07.2026 –

30 letters in 6 words

:large_green_circle: 17 :large_yellow_circle: 0 :white_circle: 13 :red_circle: 0

https://deykun.github.io/diffle-lang/en?r=ESKkZjLjZTLhVmLmNTLtVHZugDM40CajNjLygTLhVGbuYDOtEWZy5CMuMTMuAjL3EjL1AjMt4WZmFWZkhSI

Pokaż więcej komentarzy (5)