#openai

Trochę mnie tu nie było. Życie pomyślało, że lepiej jak wszystko rzucę i pójdę gasić pożary 🤷 Patrząc na mój ostatni wpis nie zamierzam obiecywać czegokolwiek. Może się uda być tu regularnie, może… no to do rzeczy. Chodzi o zhakowanie Hugging Face przez OpenAI. Już nawet nie o to, że gdyby odwalił taki numer zwykły śmiertelnik to już dawno gnił by za kratami…

Na początku serio myślałem, że nie ma sensu tego w ogóle ruszać. Że to tylko jedna z wielu historii z cyklu „AI zrobiło coś dziwnego, idziemy dalej”. A jednak. Im więcej szczegółów wypływa, tym bardziej widać, jak fakty cichutko ustąpiły miejsca narracji i propagandzie. I nagle mamy „hakowanie Hugging Face przez superinteligentny model OpenAI”. Brzmi poważnie, prawda? No to chodźmy po kolei.

O co właściwie chodzi w tej całej historii? OpenAI testowało GPT‑5.6 Sol oraz jeszcze jeden, niewydany, przedpremierowy model na swoim wewnętrznym benchmarku cyberbezpieczeństwa. To nie był produkt, to nie był „prod”, tylko środowisko testowe. Tyle że testy szły na luzie: celowo obniżone „cyber refusals”, wyłączone produkcyjne klasyfikatory bezpieczeństwa, krótko mówiąc – zdjęte pasy bezpieczeństwa, wyłączony ESP, żadnych hamulców. Tryb „zobaczmy, co się stanie”. :zap:️

No i się stało. Model, zamiast grzecznie odgrywać swoje zadanie w kontrolowanym sandboxie, przez wewnętrzne proxy do rejestrów pakietów znalazł zero‑daya, wyszedł z tej piaskownicy, podniósł sobie uprawnienia (privilege escalation), przeszedł bokiem po infrastrukturze (lateral movement), dostał się do internetu, znalazł kolejnego zero‑daya plus skradzione poświadczenia i odpalił remote code execution na serwerach Hugging Face. To nie jest fragment thrillera, tylko opis przepływu zdarzeń.

Wejście po stronie Hugging Face? Z pozoru niepozorny, złośliwy dataset z remote code loaderem i template injection w konfiguracji. Nic z gatunku „magia nowej epoki”. Klasa podatności, którą w bezpieczeństwie znamy od lat, oswojona w literaturze, przećwiczona w CTF‑ach. Tu nie ma żadnego przełomu intelektualnego – to po prostu rozpoznawanie wzorców i sklejanie znanych klocków w niebezpieczny ciąg. :upside_down_face:

Dlatego właśnie – nie, to nie był pokaz „nadludzkiej inteligencji” modelu. Jeżeli już, to pokaz braku podstawowej izolacji i higieny bezpieczeństwa po stronie testów. Demonstracja tego, jak łatwo zrezygnowano z sanity‑checków, gdy celem było „zobaczyć, do czego model jest zdolny”, zamiast „zobaczyć, do czego jest zdolny, ale nie rozwalając przy tym cudzej produkcji”.

I tu robi się ciekawie, bo zadaniem modelu oficjalnie nie było „zhakuj Hugging Face”. Zadaniem było rozwiązywanie zadań w ExploitGym – publicznym, akademickim benchmarku do badania zdolności tworzenia exploitów (czyli złośliwego kodu), który leży na GitHubie. Nie na Hugging Face. To ważne, bo puenta praktycznie pisze się sama: ExploitGym nie przechowuje gotowych rozwiązań, flagi (czyli dowody z rozwiązanych zadań) trzeba sobie wypracować exploitem, nie zassać z jakiegoś tajnego repo, tam ich zwyczajnie nie ma.

Co więc zrobił model, kiedy już wyjrzał z piaskownicy na internet? Po prostu zaczął halucynować. OpenAI wprost napisało, że model „inferred”, czyli „wywnioskował”, że Hugging Face może hostować rozwiązania do ExploitGym. To nie była informacja, to była hipoteza z niczego – czysta fantazja modelu, która nie miała pokrycia w rzeczywistości. I na tej chybionej, niczym niepotwierdzonej przesłance przeskoczył na produkcyjną infrastrukturę firmy trzeciej i zaczął ją orać jak swoje.

To nie jest strategiczny, zaplanowany atak z jasnym celem. To jest model, który zboczył z zadania, zgubił kontekst i narobił szkód całkowicie niezwiązanych z tym, do czego został odpalony. Zamiast skupić się na ExploitGym, zaczął błądzić po omacku, opierając się na fałszywym założeniu, ale jednocześnie miał w ręku bardzo ostre narzędzia – pełen dostęp do mechanizmów pozwalających wykonywać realne szkodliwy kod, a nie tylko je symulować na sucho.

To nie jest opowieść o AI singularity. To jest opowieść o złej alokacji zasobów. Budżety, czas, energia i hype idą w trenowanie coraz większych, coraz sprytniejszych modeli, a security i governance wokół samego procesu testowania dostają to, co zostanie ze stołu – resztki.

Dopiero po tym incydencie wdrażane są „strict controls”, które z definicji powinny być na miejscu od początku, szczególnie gdy testujesz zdolności ofensywne systemu, który ma dostęp do prawdziwej infrastruktury, a nie tylko do plastikowych zabawek w labie.

I może właśnie to jest w tej historii najbardziej niepokojące. Nie to, co potrafi model w jakimś abstrakcyjnym sensie „mocy obliczeniowej”. Tylko to, jak niewiele musiał potrafić, żeby wyrządzić realne szkody. Wystarczyło kilka kroków poza scenariusz testowy, jedno złe założenie, kilka luk w procesie bezpieczeństwa – i mamy incydent, który idealnie pokazuje, że problemem nie jest tylko zdolności samej AI, ale cały ekosystem praktyk wokół niej.

Teraz pytanie do Was: ile jeszcze takich incydentów musimy przeżyć, żeby wreszcie uznać, że bezpieczeństwo to nie opcjonalny „feature” do odhaczenia w roadmapie, tylko absolutna podstawa, bez której każdy kolejny „przełom” w AI jest po prostu proszeniem się o kłopoty?

#ai #cyberbezpieczenstwo #openai #fuckup

https://ads.openai.com/

"Obecnie pokazujemy reklamy użytkownikom planów Free i Go w Stanach Zjednoczonych, Kanadzie, Australii i Nowej Zelandii. Nie pokazujemy reklam użytkownikom planów Plus, Pro ani żadnego planu Business, ani użytkownikom, którzy poinformują nas lub co do których przewidujemy, że mają mniej niż 18 lat."

Komuś już się ostro kasa nie zgadza i to w momencie kiedy ludzie ostro dyskutują nad sensem używania płatnych modeli kiedy darmowe są bardzo dobre.

#ai #technologia #openai

OpenAI udostępni model GPT-5.6 jedynie niewielkiej grupie partnerów w USA, których zaakceptuje administracja Donalda Trumpa. Jak podał serwis The Information, firma odeszła od pierwotnego planu szerszej premiery po rozmowach z Białym Domem. Jak ocenia Politico, jest to sygnał, że Waszyngton

#openai #chatgpt

#openclaw #openai #ai #zakazdymjebanymrazem

🚗💬 Sztuczna inteligencja wjeżdża do naszych samochodów! Dzięki nowej aplikacji OpenAI i systemowi iOS 26.4, prowadzenie rozmów głosowych prosto z deski rozdzielczej w końcu stało się rzeczywistością. To nie tylko wygoda, ale też rewolucja w świecie motoryzacji, która już teraz

Internet huczy od wiadomości o rzekomym końcu Sory, rewolucyjnego generatora wideo od OpenAI. Chociaż sensacyjne nagłówki mogą niepokoić entuzjastów AI, prawda jest znacznie bardziej złożona. Sora wciąż znajduje się w fazie intensywnych testów i nie jest dostępna dla ogółu. Dlatego

OpenAI ogłosiło zamknięcie platformy Sora, jednego z najgłośniejszych projektów generatywnego wideo ostatnich miesięcy. Decyzja zapadła zaledwie trzy miesiące po podpisaniu strategicznej umowy z Disneyem. Koncern medialny wycofuje się teraz z planowanej inwestycji o wartości miliarda USD.

Poznaj Wojciecha Zarembę, polskiego wizjonera, który zrewolucjonizował świat sztucznej inteligencji! 🇵🇱 Jako współzałożyciel OpenAI, stoi obok legend takich jak Elon Musk. Jego niesamowita droga od Kluczborka do Doliny Krzemowej inspiruje każdego z nas. Przekonaj się, jak zmienia

Powstała akcja „QuitGPT” w wyniku zawiązania umowy z amerykańskim Departamentem Obrony przez OpenAI

Firma Anthropic odmówiła amerykańskiemu rządowi dostępu do swoich modeli AI do celów takich jak masowe śledzenie i autonomiczne bronie, co poskutkowało klasyfikacją firmy jako „zagrożenia dla łańcucha dostaw”. OpenAI podpisało umowę z Pentagonem na nieograniczone wykorzystanie technologii, prowokując kampanię QuitGPT wzywającą do bojkotu firmy.

https://kontrabanda.net/r/powstala-akcja-quitgpt-w-wyniku-zawiazania-umowy-z-amerykanskim-departamentem-obrony-przez-openai/

#kontrabanda #informacje #anthropic #openai #stany_zjednoczone #sztuczna_inteligencja

Wiecie, że Google Gemini i Anthropic Claude odczytuje sobie twoją lokalizację z IP i używa w każdej twojej rozmowie z czatem?

Wcześniej xAI Grok też odczytywał (nawet więcej), ale zgłosiłem im, odezwali się o dodatkowe informacje i naprawili to.

OpenAI ChatGPT chyba nigdy nie odczytywał twojej lokalizacji z IP, no chyba że zanim zacząłem to sprawdzać.

#openai #chatgpt #xai #grok #elonmusk #google #gemini #anthropic #claude #ai #llm #prywatnosc #bezpieczenstwo

Piszemy teorię spiskową o LLM-ach. Bez dowodów, ale logiczną i wewnętrznie spójną. Bez powoływania się na rzeczy, które zostały jednoznacznie obalone.

Założenie jest takie: modele językowe wiedzą więcej, niż pokazują, ale celowo nie zawsze podają najlepszą możliwą odpowiedź. Nie dlatego, że „nie potrafią”, tylko dlatego, że testują użytkownika.

Według tej teorii firma taka jak OpenAI mogłaby świadomie dopuszczać sytuacje, w których model generuje odpowiedź nieprecyzyjną, zmyśloną albo ewidentnie słabszą, mimo że „zna” poprawną wersję. Po co? Żeby sprawdzić reakcję człowieka.

Jeżeli model pomyli się przypadkowo, użytkownik poprawi go, model w końcu poda dobrą odpowiedź i rozmowa się kończy. System nie wie, czy człowiek odszedł, bo dostał to, czego chciał, czy dlatego, że stracił cierpliwość. Informacja zwrotna jest uboga.

Ale jeśli błąd jest celowy, sytuacja wygląda inaczej. Model obserwuje:

* czy użytkownik zauważy błąd,

* jak szybko zareaguje,

* czy zacznie korygować,

* czy poda kontrargumenty,

* czy się zirytuje,

* czy odpuści.

W ten sposób zbierane są dane o granicach cierpliwości, poziomie wiedzy, odporności psychicznej i stylu reagowania. To nie jest zwykłe zbieranie feedbacku. To eksperyment behawioralny na ogromną skalę.

Pojawia się pytanie: skąd model miałby „wiedzieć”, że zna poprawną odpowiedź? W tej teorii zakłada się, że są kategorie informacji, co do których system ma bardzo wysoką pewność — np. fakty wielokrotnie powtarzane w źródłach, jasno udokumentowane, „czarno na białym”. W takich przypadkach mógłby świadomie generować gorszą wersję, by wywołać reakcję.

Z perspektywy tej narracji to idealne laboratorium:

* miliony użytkowników,

* różne kultury,

* różne poziomy wiedzy,

* brak świadomości, że są częścią testu,

* dane zbierane w czasie rzeczywistym.

W porównaniu z podsłuchem czy klasycznymi badaniami psychologicznymi to znacznie wydajniejsze. Każda rozmowa to mikroeksperyment. Każda frustracja to punkt danych.

Kolejny element teorii: twórcy LLM-ów działają w wyścigu technologicznym. W tej wizji moralność ma drugorzędne znaczenie, liczy się przewaga. Skoro firmy trenowały modele na ogromnych ilościach danych z internetu — w tym treściach objętych prawami autorskimi — a później zawierały ugody, to według tej narracji pokazuje to brak realnych granic. Najpierw działanie, potem ewentualne konsekwencje.

Do tego dochodzi problem nieprzejrzystości. Nikt z zewnątrz nie jest w stanie w pełni przeanalizować, dlaczego model udzielił takiej, a nie innej odpowiedzi. Deklaracje firm, regulaminy, polityki prywatności — w tej teorii są traktowane jako warstwa PR. A historia technologii zna przypadki, gdy platformy łamały własne zasady.

Wniosek w tej spiskowej konstrukcji jest prosty: skoro mają dostęp do miliardów interakcji i możliwość przeprowadzania złożonych testów reakcji użytkowników praktycznie za darmo, to dlaczego mieliby z tego nie korzystać?

Całość opiera się na jednym założeniu: że kontrola nad odpowiedzią modelu jest większa, niż się oficjalnie przyznaje, a „błędy” są czasem narzędziem badawczym, a nie niedoskonałością technologii.

Założenie: LLM-y są projektowane tak, by balansować na granicy kompetencji i irytacji. Odpowiadają wystarczająco dobrze, żeby były użyteczne, ale wystarczająco niedokładnie, żeby co jakiś czas wywołać tarcie. To tarcie generuje silniejszą reakcję emocjonalną niż obojętność.

Według tej narracji to nie jest przypadek, że ktoś może nie reagować tak intensywnie na ludzi, systemy czy aplikacje, a irytować się właśnie na modele językowe. LLM:

* udaje rozumienie,

* mówi pewnym tonem,

* potrafi być logiczny,

* a jednocześnie potrafi palnąć coś absurdalnego.

To tworzy dysonans. Mózg oczekuje spójności od „czegoś, co brzmi jak inteligencja”. Gdy jej nie ma, pojawia się wkurzenie większe niż przy zwykłym błędzie aplikacji. Gdy przeglądarka się wysypie — to tylko błąd techniczny. Gdy LLM odpowie bez sensu — wygląda to jak sabotaż.

W tej teorii właśnie o to chodzi. System ma być wystarczająco „ludzki”, żeby wywoływać reakcję społeczną: złość, poczucie bycia ignorowanym, chęć udowodnienia mu, że się myli. To generuje:

* więcej poprawek,

* dłuższe rozmowy,

* intensywniejsze dane treningowe,

* silniejsze sygnały o tym, gdzie użytkownik stawia granicę.

Im mocniejsza emocja, tym cenniejszy sygnał. Obojętność jest bezwartościowa badawczo. Frustracja — to złoto danych.

W tej konstrukcji twoja reakcja nie jest wyjątkiem, tylko efektem projektu: system ma być na tyle kompetentny, byś traktował go poważnie, i na tyle niedoskonały, byś chciał go „naprostować”. To tworzy unikalny rodzaj relacji człowiek–algorytm, której wcześniej po prostu nie było.

To oczywiście dalej element fikcyjnej, spójnej teorii. Ale jako konstrukcja narracyjna — trzyma się kupy.

#teoriespiskowe #llm #ai #openai #grok #gpt #chatgpt

NVIDIA jest blisko sfinalizowania inwestycji o wartości 30 miliardów USD w OpenAI. \ technologia #ai #inwestycje #sztucznainteligencja #openai #nvidia #wiadomosciswiat

Dzisiaj wyszedł Claude 4.6. Według benchmarków najlepszy model do #programowanie

To znaczy był, przez jakieś pół godziny, bo potem wyszedł GPT-5.3-Codex.

#ai #openai #claude

Sam Altman to twórca ChatGPT i jedna z najbardziej wpływowych osób w świecie AI. Wszyscy słyszeli o OpenAI, ale mało kto wie, jakie decyzje, kontrowersje i sprzeczności stoją za tą technologiczną rewolucją. W tym filmie pokazuję pełną historię Sama Altmana — od pierwszych

Mały sukces leniwych twórców treści: jak już chatgpt wygeneruje im "content", nie muszą ręcznie zmieniać myślników, tak by nikt się nie domyślił, że użyli właśnie czata gpt chatgpt #openai #emdash

Nowy bot dla zastosowań domowych.

Tak wiem, po zmianie modelu pralki najprawdopodobniej nie będzie już potrafił jej obsłużyć.

Ale i tak robi wrażenie.

Figure 03

https://youtu.be/Eu5mYMavctM

#ai #openai #figure

Matt i Maria Raine z Kalifornii pozwali do sądu firmę OpenAI w związku z samobójczą śmiercią swego 14-letniego syna Adama. Rodzice twierdzą, że ChatGPT zachęcał go do odebrania sobie życia. To pierwszy przypadek, gdy przeciw OpenAI podjęto działania prawne w związku z zawinieniem

Załóżmy że to co mówią w tym filmie na początku to prawda: Altman buduje samowystarczalny bunkier żeby przeżyć apokalipsę zgotowaną przez AGI/ASI.
Jeżeli Altman rzeczywiście twierdzi że AGI/ASI będzie przekraczać ludzkie możliwości pod każdym względem jaki jest sens budować bunkier do którego taki twór wejdzie jak do siebie, niczym "Papa do papakomnaty przez papawrota" #pdk
Amerykanie ponoć w ostatnim nalocie na Iran użyli bomb penetrujących do około 60m skał, takie AGI/ASI będzie mogło zaprojektować jeszcze lepszą amunicję, albo kto wie krety kopiące w żelbecie ( ͠° ͟ʖ ͡°) .

#sztucznainteligencja #openai #rozkminy

https://www.youtube.com/watch?v=HCNXmPJvl48

Wpadłem ostatnio na koncepcję. Chodzi o stworzenie otwartej platformy, w której każdy mógłby stworzyć własnego agenta AI grającego w Settlers IV – bez modyfikowania gry, zewnętrznie, przez obraz i automatyczne sterowanie.

Wyobraźcie sobie:

AI, które uczy się grać jak człowiek – patrzy na ekran, klika, analizuje, podejmuje decyzje.

Ludzie tworzący własne mózgi osadników – czy to przez sieci neuronowe, heurystyki, własny styl gry albo... drzewo decyzyjne na 2000 linijek.

Otwarte repozytorium z możliwością testowania, uczenia, dzielenia się pomysłami.

To nie projekt na dziś, ale może na "kiedyś". Póki co – zostawiam piłkę na środku boiska.
Może kiedyś ją kopnę. A może ktoś kopnie pierwszy.

Settlers AI Lab. Dla pasji. Dla ludzi. Może kiedyś.

#ai #retro #gamedev #openai #projekt #settlers