Hejto.pl
Dodaj post

Wpisz coś do wyszukania (minimum 2 znaki)

skorpionGURU

Dołączył/a:

  • 1359 wpisów
  • 12296 komentarzy
  • 6 obserwujących

Specjalista

w Rozkminy

27piorunów

Trochę mnie tu nie było. Życie pomyślało, że lepiej jak wszystko rzucę i pójdę gasić pożary 🤷 Patrząc na mój ostatni wpis nie zamierzam obiecywać czegokolwiek. Może się uda być tu regularnie, może… no to do rzeczy. Chodzi o zhakowanie Hugging Face przez OpenAI. Już nawet nie o to, że gdyby odwalił taki numer zwykły śmiertelnik to już dawno gnił by za kratami…

Na początku serio myślałem, że nie ma sensu tego w ogóle ruszać. Że to tylko jedna z wielu historii z cyklu „AI zrobiło coś dziwnego, idziemy dalej”. A jednak. Im więcej szczegółów wypływa, tym bardziej widać, jak fakty cichutko ustąpiły miejsca narracji i propagandzie. I nagle mamy „hakowanie Hugging Face przez superinteligentny model OpenAI”. Brzmi poważnie, prawda? No to chodźmy po kolei.

O co właściwie chodzi w tej całej historii? OpenAI testowało GPT‑5.6 Sol oraz jeszcze jeden, niewydany, przedpremierowy model na swoim wewnętrznym benchmarku cyberbezpieczeństwa. To nie był produkt, to nie był „prod”, tylko środowisko testowe. Tyle że testy szły na luzie: celowo obniżone „cyber refusals”, wyłączone produkcyjne klasyfikatory bezpieczeństwa, krótko mówiąc – zdjęte pasy bezpieczeństwa, wyłączony ESP, żadnych hamulców. Tryb „zobaczmy, co się stanie”. :zap:️

No i się stało. Model, zamiast grzecznie odgrywać swoje zadanie w kontrolowanym sandboxie, przez wewnętrzne proxy do rejestrów pakietów znalazł zero‑daya, wyszedł z tej piaskownicy, podniósł sobie uprawnienia (privilege escalation), przeszedł bokiem po infrastrukturze (lateral movement), dostał się do internetu, znalazł kolejnego zero‑daya plus skradzione poświadczenia i odpalił remote code execution na serwerach Hugging Face. To nie jest fragment thrillera, tylko opis przepływu zdarzeń.

Wejście po stronie Hugging Face? Z pozoru niepozorny, złośliwy dataset z remote code loaderem i template injection w konfiguracji. Nic z gatunku „magia nowej epoki”. Klasa podatności, którą w bezpieczeństwie znamy od lat, oswojona w literaturze, przećwiczona w CTF‑ach. Tu nie ma żadnego przełomu intelektualnego – to po prostu rozpoznawanie wzorców i sklejanie znanych klocków w niebezpieczny ciąg. :upside_down_face:

Dlatego właśnie – nie, to nie był pokaz „nadludzkiej inteligencji” modelu. Jeżeli już, to pokaz braku podstawowej izolacji i higieny bezpieczeństwa po stronie testów. Demonstracja tego, jak łatwo zrezygnowano z sanity‑checków, gdy celem było „zobaczyć, do czego model jest zdolny”, zamiast „zobaczyć, do czego jest zdolny, ale nie rozwalając przy tym cudzej produkcji”.

I tu robi się ciekawie, bo zadaniem modelu oficjalnie nie było „zhakuj Hugging Face”. Zadaniem było rozwiązywanie zadań w ExploitGym – publicznym, akademickim benchmarku do badania zdolności tworzenia exploitów (czyli złośliwego kodu), który leży na GitHubie. Nie na Hugging Face. To ważne, bo puenta praktycznie pisze się sama: ExploitGym nie przechowuje gotowych rozwiązań, flagi (czyli dowody z rozwiązanych zadań) trzeba sobie wypracować exploitem, nie zassać z jakiegoś tajnego repo, tam ich zwyczajnie nie ma.

Co więc zrobił model, kiedy już wyjrzał z piaskownicy na internet? Po prostu zaczął halucynować. OpenAI wprost napisało, że model „inferred”, czyli „wywnioskował”, że Hugging Face może hostować rozwiązania do ExploitGym. To nie była informacja, to była hipoteza z niczego – czysta fantazja modelu, która nie miała pokrycia w rzeczywistości. I na tej chybionej, niczym niepotwierdzonej przesłance przeskoczył na produkcyjną infrastrukturę firmy trzeciej i zaczął ją orać jak swoje.

To nie jest strategiczny, zaplanowany atak z jasnym celem. To jest model, który zboczył z zadania, zgubił kontekst i narobił szkód całkowicie niezwiązanych z tym, do czego został odpalony. Zamiast skupić się na ExploitGym, zaczął błądzić po omacku, opierając się na fałszywym założeniu, ale jednocześnie miał w ręku bardzo ostre narzędzia – pełen dostęp do mechanizmów pozwalających wykonywać realne szkodliwy kod, a nie tylko je symulować na sucho.

To nie jest opowieść o AI singularity. To jest opowieść o złej alokacji zasobów. Budżety, czas, energia i hype idą w trenowanie coraz większych, coraz sprytniejszych modeli, a security i governance wokół samego procesu testowania dostają to, co zostanie ze stołu – resztki.

Dopiero po tym incydencie wdrażane są „strict controls”, które z definicji powinny być na miejscu od początku, szczególnie gdy testujesz zdolności ofensywne systemu, który ma dostęp do prawdziwej infrastruktury, a nie tylko do plastikowych zabawek w labie.

I może właśnie to jest w tej historii najbardziej niepokojące. Nie to, co potrafi model w jakimś abstrakcyjnym sensie „mocy obliczeniowej”. Tylko to, jak niewiele musiał potrafić, żeby wyrządzić realne szkody. Wystarczyło kilka kroków poza scenariusz testowy, jedno złe założenie, kilka luk w procesie bezpieczeństwa – i mamy incydent, który idealnie pokazuje, że problemem nie jest tylko zdolności samej AI, ale cały ekosystem praktyk wokół niej.

Teraz pytanie do Was: ile jeszcze takich incydentów musimy przeżyć, żeby wreszcie uznać, że bezpieczeństwo to nie opcjonalny „feature” do odhaczenia w roadmapie, tylko absolutna podstawa, bez której każdy kolejny „przełom” w AI jest po prostu proszeniem się o kłopoty?

Pokaż więcej komentarzy (15)

Zawodowiec

w Stare Odmiany

13piorunów

Nazwa gatunkowa :jabłoń domowa

Nazwa odmianowa:

Ahra

Pochodzenie: Jabłko „Ahra” to uprawiana jesienna odmiana jabłoni, wyhodowana w Niemczech poprzez skrzyżowanie odmian „Prima” i „Kion 40”.

Morfologia:  Średniej wielkości, zbliżone do dużych. Kształt okrągły lub okrągło-spłaszczony. Kielich jest mały i częściowo otwarty, osadzony w szerokiej, płytkiej i lekko pomarszczonej jamie. W momencie zbiorów nabiera woskowej konsystencji. Występuje pewna skłonność do pękania.

Skórka  :

Podstawowy kolor to żółty, na którym widoczny jest wzór czerwonych i ciemnoczerwonych pasków pokrywających powierzchnię wystawioną na działanie słońca.

Miąższ:

Miąższ ma delikatny żółty kolor i jest chrupiący. Bardzo soczysty. Wyraźnie aromatyczny, słodki i pikantny.

Zapylacze:

Oliwka zólta,James Grieve  jabłonie ozdobne Golden Hornet'.

Odporność na szkodniki oraz choroby:

Parch jabłoni – przełamanie parcha jabłoni czyli lekko podatna

Mączniak prawdziwy-

średnia podatna

Zaraza ogniowa-wysoka podatnosc.

Rak drzew owocowych- odporna.

Owocówka jabłoniowa- wysoka podatnosc

Przechowywanie:

Można przechować przez okres do 9 tygodnik chłodni; w piwnicy do końca grudnia

Dojrzałość :

Dojrzałość zbiorcza:  początek września

Dojrzałość konsumpcyjna: po miesiącu po zbiorze.

Odporność na mróz:

do -28°C (do strefy klimatycznej 5b)

Przeznaczenie:

Odmiana typowo deserowa oraz dobra kuchenna.

Korona:

Jabłoń odmiany „Ahra” charakteryzuje się średnią siłą wzrostu i tworzy zwartą koronę; preferuje ciepłe, osłonięte stanowiska.

Owocowanie:

Odmiana wchodzi dwa lata po szczepieniu w okres owocowania z przemienieninosc

  sie 

Pokaż więcej komentarzy (8)

GURU

w Lifestyle

11piorunów

kiedyś to były imprezy bez dziewczyn!, żartuję, na tej akurat były.

przepiękna krówka, dopiero zobaczyłem :smiley:

@RACO

https://www.hejto.pl/wpis/nostalgia-tak-mnie-tym-dradrian-zwierachs-ruszyl-ze-takie-pol-pokazmorde-impreza

ps. datowane na luty 2005 o ile mnie pamięć nie myli

Zawodowiec0piorunów

:p imprezowałem kiedyś w podobnym miejscu

Fanatyk1piorunów

@skorpion to GEPARD a dla przyjaciół Gejpart 😉

Pokaż więcej komentarzy (10)

Fanatyk

w Hydepark

113piorunów

Bożesztymój. Nie wiem, pewnie się nie znam, bo z Kościołem jako instytucją jest mi nie po drodze. Wierzący nie jestem. Jednak wydaje mi się, że Jezus nie chce żadnych żołnierzy, żadnych wojowników, sił specjalnych, FBI, policji. On chce wiary, żywej, prawdziwej wiary. Miłosierdzia i dobra. No, ale jak mówię, może się mylę.

Lider3piorunów

jako nie katolik kumasz czacze lepiej niż większość katoli XD

Sum3piorunów

Znam osobiście jednego z Żołnierzy Chrystusa xD Typ wierzy chyba we wszystkie teorie spiskowe i na pewno nie zgadniecie na kogo głosuje...

Pokaż więcej komentarzy (67)

Gruba ryba

w Hydepark

17piorunów

Dorwałem w końcu "karpatkę" dobry mozgotrzep.

Ale jak dla mnie to wypić maksymalnie jedno bo kopie okropnie. Dwa było by ciężko wypić bez upojenia

Zawodowiec0piorunów

@starebabyjebacpradem w tej butelce fabrycznie jest tak mało czy robiłeś zdjęcie w połowie?

Pokaż więcej komentarzy (6)

GURU

w Jedzenie

49piorunów

Kurki w sosie śmietankowo-czosnkowym, dla treści dodana obsmażona perliczka, wymieszana z kurkami przed podaniem.

Jezu, ten zapach....

Wyszło lekko słodkawe, następnym razem żona spróbuje dać fety.

Kosmonauta3piorunów

Myślałem, że kruki spożywasz.

Specjalista2piorunów

Ja bym na to sypnął parmegiano regiano :slightly_smiling_face:

Pokaż więcej komentarzy (9)

GURU

w Kawa

10piorunów

koniec. zero litości. nie po to człowiek jakiś taki z ciemną skórą zrywa te nasiona, żeby nasza polska patriotyczna mysza żarła. nie można pozwolić na antysocjalistyczną prowokację! kawa świadectwem jedności pomiędzy narodami! rasami! gatunkami! eee

kosmitami?

Lider3piorunów

@skorpion podsumowując: kawa zabija? ( ͡~ ͜ʖ ͡°)

Gruba ryba3piorunów

@skorpion czy ta mysz się zwabiła kawałkiem haszyszu z twojego haszyszowego podjazdu? Nawet widać skąd zrywany i tzw. Pothole

Pokaż więcej komentarzy (11)

Lider

w Hydepark

114piorunów

żyjemy w Polsce, więc to normalne, że ktoś musi zginąć, żeby rząd w końcu zajął sie tymi zwierzętami i zrobił absolutnie cokolwiek w kierunku okiełznania kacapskiej propagandy w przestrzeni publicznej

i co ciekawe, odkąd odpierdala się ten szajs, nawet tu na hejto ucichło paru agentów, którzy gorliwie przekonywali, że ruch "polska dla polaków" nie istnieje

Gruba ryba11piorunów

@festiwal_otwartego_parasola Przed chwilą czytałem komentarze "sportowców" z branży jednego z tych patusów.

Ja chcę już wyjechać z tego kraju.

Gruba ryba0piorunów

@festiwal_otwartego_parasola Jeszcze k⁎⁎wa we trzech na jednego. Za przeproszeniem ale p⁎⁎dy to mało powiedziane. Zresztą Najman to podsumował doskonale, zwyczajni tchórze. xD

Pokaż więcej komentarzy (35)