Hejto.pl
Dodaj post

Wpisz coś do wyszukania (minimum 2 znaki)

#ai

Tytan

w Hydepark

23piorunów

Powiem Wam, że nie spodziewałem się takiego tempa rozwoju AI. Ostatnie kilka miesięcy to już na serio jakiś dziki zachód: włamanie się agentów do hugginghace, stron rządowych w UK i Australii, a ostatnio się okazało, że rozwiązuje problemy matematyczne i to hurtowo.

NIe jestem jakimś ekspertem, trochę się orientuję jak LLM działają pod spodem i moje postrzeganie AI się mega zmieniło od początku tego roku: najpierw uważałem, że faktycznie jakieś małe fragmenty kodu potrafi ogarnać, ale trzeba cały czas kontrolować. Potem uważałem, że AI potrafi naprawdę dużo i wystarczy tylko naprowadzać agenta i dać mu jakieś hamulce aby dostarczał naprawdę jakościowe rozwiązania.

Ale obecnie zaczynam już być trochę tym przerażony i nawet nie chodzi tu o kwestię znikających miejsc pracy, ale o to, że AI to już samonapędzające się narzędzie, nad którym przestajemy mieć kontrolę.

Ciekaw jestem konsekwencji społecznych i ekonomicznych. Z jednej strony patrząc historycznie to każdy skok technologiczny powodował rozwój i bogacenie się społeczeństw. Ale z drugiej cieżko to sobie w głowie poukładać.

Osobistość3piorunów

Mnie to bardziej ciekawi jak będzie wyglądać przyszłość firm które utrzymują się ze swojego ciągle aktualizowanego oprogramowania np. Adobe. No bo od jakiegoś czasu widuje coraz więcej vibecodowanych projektów które są klonami wielu znanych aplikacji. Tutaj sobie np. panowie zrobili swoją implementacje Photoshopa (oraz innych programów z zestawu) w czystym Rustcie i nawet to jakoś działa: https://github.com/storytold/photocraft

Jak to tak dalej będzie szło, to zaraz się okaże, że każdy będzie mógł u siebie w domu w parę promptów robić darmowe kopie znanych programów albo nawet systemów xD. Idea przepisania całego jądra Linuxa na Rusta za pomocą AI nie wydaje się już taka odległa jak kiedyś. W sumie w tym momencie to bardziej kwestia kosztu tokenów a nie złożoności samej operacji xD.

GitHub - storytold/photocraft: An open-source, clean-room reimplementation of Adobe Photoshop in pure RustAn open-source, clean-room reimplementation of Adobe Photoshop in pure Rust - storytold/photocraftGitHub
Gruba ryba0piorunów

@Bylina_Rdestu

Ale rozumiesz, że ten niewiarygodny cud AI kosztuje kasę? I, że jak kasa się skończy, to zostaną malutkie i tanie modele?

Bo takie fajne ćwiczenia wieloagentowe kosztują dosłownie miliony dolarów? Np. koszt tego dowodu matematycznego oceniany jest na ok 7 milionów dolarów?

Taaa... AI fajne jest, póki kasa jest. No i wymagania jakościowe są powiedzmy, takie dość skromne.

Że już nie wspomnę, że AI zre pozostałe zasoby, procki i ram, bo 100% utylizacji topi scalaki aż miło.

Pokaż więcej komentarzy (26)

Tytan

w Wiadomości Polska

35piorunów

AI zmyśla wady polskich produktów i poleca zagraniczne zamienniki

W badaniu obejmującym 200 produktów modele AI halucynowały w 46 proc. analizowanych przypadków. Boty potrafiły przypisywać polskim produktom nieistniejące wady i proponować zamiast nich zagraniczne zamienniki. Wynika to z niskich ocen czytelności polskich stron e-commerce dla modeli AI.

Fenomen

w AI

8piorunów

Kiedys uwielbiałem sci-fi. Ale odkąd sci-fi zaczęło robic się sci-real to jakoś nie dam rady czytać i jedyne co mi teraz podchodzi to Franz Kafka.

Z drugiej strony czytanie tak depresyjnych rzeczy nie pomaga w samopoczuciu, a jednocześnie świadomość czytania fikcyjnych rzeczy jak od dziadka ze świata dysku nie wciąga mnie juz tak mocno.

Zaczynam nielubić AI i tego jak wpłynęło na moje wybory. Wszedłem ostatnio do takiej pasmanterii z gazetami, sznurkami i bibelotami. Zauwazylem, ze polowa ksiazek dla dzieci to generowane przez jakieś modele obrazki jak i teksty.

Zawodowiec1piorunów

@dziad_saksonski próbowałeś miltary sci-fi? david weber, 4 części marsz w głąb lądu, itd., Dahak, Troll zagłady, cykl schronienie, John Ringo i cykl o poslenach

Pokaż więcej komentarzy (6)

Osobistość

w Hydepark

2piorunów

Postanowiłem za pomocą zrobić nieco udoskonalony obrazek. Wymagało to jedynie jakiś 30 promptów, bo chatgpt albo o czymś zapominał, albo ignorował, albo robił rzeczy, o które go nie prosiłem, jak zmiana rozdzielczości. Albo robił do d⁎⁎y efekty. Nie jest idealnie, ale jest, hmmm. Wystarczająco. Mi się w miarę podoba. Oryginalny obrazek na drugim SS.

Aha, no i czatgpt jest za na miesiąc za 0 złotych. Chyba, że to spersonalizowana akcja, i dla Was nie. Nie wiem.

Tytan

w Dyskusje

13piorunów

Eksperci ujawniają, co faktycznie mogłoby się wydarzyć, gdyby AI weszła w fazę „rekurencyjnego samodoskonalenia” — i to jest przerażające

Eksperci omawiają potencjalne zagrożenia związane z osiągnięciem przez sztuczną inteligencję rekurencyjnego samodoskonalenia, w ramach którego sztuczna inteligencja samodzielnie i szybko się ulepsza, potencjalnie wyprzedzając ludzki nadzór i środki bezpieczeństwa. Podczas gdy niektórzy obawiają się

Tytan

w Dyskusje

11piorunów

Nvidia Shield TV ma już 7 lat. Właśnie podniesiono jego cenę o 100 dolarów!

Firma Nvidia podniosła cenę swojego urządzenia do strumieniowego przesyłania treści Shield TV Pro o 100 dolarów, ustalając ją na poziomie 299,99 dolarów. Decyzja ta wynika z rosnących kosztów komponentów spowodowanych erą generatywnej sztucznej inteligencji. Mimo że jest to produkt sprzed 7 lat

Fenomen

w Dyskusje

4piorunów

Dobra, skończyła się moja boska cierpliwość. Wyrzucam to zklładzione gówno na śmietnik historii i słucham państwa. Tym razem rady typu

no poczekam jeszczem już jeszcze chwila

uznaje za sabotaż.

Zastanawiam się nad kupieniem 4 klocków od nvidia. Tych sparkowych. Jednakże z drugiej strony chyba taniej wyjdzie rack na GPU z jakimkolwiek VRAMem, który da się podłączyć w council. Nawet chińskie karty graficzne zaczynają mi się podobać.

To już za dużo, żebym k⁎⁎wa płacił łysemu altmanowi z dildem Trumpa w d⁎⁎ie za to, żeby móc sobie zrobić sideproject bez bycia oskarżąnym o terroryzm.

Gruba ryba1piorunów

Strix Halo - mam póki co jedno mini pc bo ceny są póki co dramatyczne. Mini PC od appla tez sobie dobrze radzi, szczególnie jak sie wrzuci Splash - moj znajomek sobie hostuje i sobie chwali

Gruba ryba0piorunów

@dziad_saksonski no ja jestem zadowolony bo uzywam lokalnie llm do prostych rzeczy (shellowe koemndy, pisanie tekstu, itp, jakis skrypt ad-hoc) wiec zadnego super testowania nie robilem a przy swift-qwen3.8-27B leci mi kolo 80 tokenow - mam boxa z 64 GB ramu

Pokaż więcej komentarzy (7)

Gruba ryba

w Hydepark

53piorunów

GURU22piorunów

@vrkr Nie ma to jak vibe coding gdzie może wykorzystasz ogrom drogich output tokenów ale przynajmniej nie działa.

Kosmonauta2piorunów

@nbzwdsdzbcps właśnie dziwne to jest xd nie mniej jaka stronkę piękna wizytówkę zrobiłem w parę chwil to aż mnie na duchu podniosło, mimo iż umiem pisać kod, ale taka stronkę by mi trochę czasu zajęło

GURU1piorunów

@konrad1 Zależy od skomplikowania i ile czasu chcesz tak pracować. Na dłuższą metę to nie da się tego utrzymać jeśli po prostu robisz vibe coding. Przykładowo dostaniesz kwiatki jak typy <any> w typescrypcie byle przeszło testy.

Kosmonauta1piorunów

@nbzwdsdzbcps hmm no zgadzam się, ale w typowo wizytówce strona główna parę pod stron, bez problemu można to zrobić, ale fakt coś wiecie już trzeba dłubać i samemu myśleć, still spoko😁 w pracy np sporo mi boty pomagały ale sporo bruzdzily, nie pilnując byłaby lipa total

Pokaż więcej komentarzy (6)

Fenomen

w AI

29piorunów

Claude na nowym sonecie doniósł na mnie supportowi i zablokowali mi konto. Pan Hrifesh Vashanantis stwierdził, że chce cos zrobic wbrew prawu.

P.s. chodzi o pobieranie filmikow z tiktoka javascriptem by nie musieć płacić za hosting. ( nie serwer pobiera filmy a przegladareczka )

Nie wierzę.

Osobistość0piorunów

@dziad_saksonski w sumie nic dziwnego.

Dzięki za info, będę bardziej ostrożny.

Ogólnie nie lubię claude po tym jak na starcie w 2022 dostałem bana za nic na mój nr telefonu.

Pytanie, czy były ostrzeżenia, czy po prostu pracowałeś sobie i w czasie pracy nagle przestał odpowiadać?

Gruba ryba0piorunów

@dziad_saksonski mysle ze to herness claudowy, jakis plugin czy mod to zrobil a nie o bosze o k⁎⁎wa ej aj

Fenomen0piorunów

@ostrynacienkim tiketa mi otworzyli i mam sie wyspowiadać, bo wspomniałem claudeowi, ze ludzie robili wirusy w regedicie ktore używały dosłownie każdego skrawka dostępnego miejsca byle gdzie. Moze niech zauploaduje te filmiki na jakiegos por huba. No i sie zaczęło.

Gruba ryba0piorunów

@dziad_saksonski no coz taki masz reguły firmowe i tyle. U mnie tez poblokowanie pushowanie do innych niz korpowy github, nic nie poszukam aporpos gierek, itd itp ale takie zasady, oni nie ja płacą. Mam w chacie lokalnie LLM uzywam z.ai do modeli glm czy open router do innych tanich mdeli i robie co mi sie tam podoba 😛

Pokaż więcej komentarzy (17)

Gruba ryba

w Hydepark

2piorunów

Jest tu jakiś spec od ? Gdzie warto zainwestować $ w tokeny?

Korzystam z antygravity bo mam gemini pro ale zbliżają się limity i zastanawiam się czy jest jakaś tańsza opcja do zabawy w "programowanie"

GURU0piorunów
Pokaż więcej komentarzy (5)

Fanatyk

w Hydepark

3piorunów

Ciekawe ile

Pokaż więcej komentarzy (3)

Fenomen

w AI

12piorunów

Ciekawa sprawa: Pojawił się nowy silnik do najnowszego modelu Qwen3.8-flash-next.

Strata, bo taką nazwę nosi ten silnik ma zaskakująco niskie wymagania:

W miarę nowe 12GB GPU na PCIEx16, 64GB RAM, szybki SSD

I teraz bomba: Ten model ma 120 miliardów parametrów. Ponieważ to MoE (mixture of experts), typ który rozwija ten silnik wrzucił najczęściej używanych ekspertów do GPU, a resztę do RAMu, do tego jest dodatkowy model przewidujący trzy kolejne słowa do przodu - silnik ładuje ekspertów do GPU z wyprzedzeniem. dzięki czemu model działa szybko. Mówimy tutaj o ~40tok/s.

Na Screenie mocno wykastrowana wersja modelu zmieszczona na styk w 24GB GPU i 32GB RAM

EDIT: Ważna sprawa, traktujcie to jako wczesną betę. Koleś nie dokończył jeszcze obsługi API zgodnego z OpenAI, więc na razie to jest zabawka a nie praktyczne narzędzie.

Osobistość0piorunów

Te 130k kontekstu to rozumiem zarówno w VRAM jak i RAM?

Osobistość2piorunów

@Amebcio najszybciej na windows możesz sprawdzić to tak:
1. Uruchom menadżer zadań
2. Uruchom model z jakimś bardzo małym kontekstem 5-20k
3. Sprawdź jak podczas uruchamiania modelu wygląda zużycie RAM i VRAM

Jest zasada, że model w pełni odpalany na szybszej pamięci np. GDDR6 w GPU będzie działać szybciej niż model który "wycieka" z GDDR6 do np. DRR5 lub DDR4.
(Model w pełni odpalony = sam model + pamięć na kontekst jest w tym samym rodzaju pamięci)

Można też sprawdzić czy karta graficzna współdzieli jakąś pamięć z RAM (na obrazku: shared memory uwagę) co oznacza właśnie przepełnienie pamięci w GPU i wyciekanie modelu do RAM.

Fenomen0piorunów

@GitHub raz, że jestem pod linuxem, dwa, że tego nie widać bo ten silnik najpierw zapełnia GPU do oporu a potem resztę danych ładuje do RAM. A trzy, że ma funkcję autokalibracji gdzie wykonuje sam kilka bechmarków i testuje wydajność. Więc nawet nie wiem co dokładnie przechowuje w którym miejscu, bo to zależy od wyników testów

Pokaż więcej komentarzy (8)