Hejto.pl
Dodaj post

Wpisz coś do wyszukania (minimum 2 znaki)

Wpis użytkownika wombatDaiquiri w Programowanie

Gruba ryba

w Programowanie

38piorunów

Ale mnie wkurwia niemożliwie ze trzeba będzie teraz pewnie ze dwa lata czekać żeby się wielkie projekty data center wyjebały i ceny RAMu wróciły do normy jak będą to wyprzedawać.

Komentarze (19)

Osobistość3piorunów

A ja głupio kupiłem za duży dysk ssd i za dużo ramu jak odswiezalem kompa i teraz cieszę się jak nie wiem, że mam RAMu na kilka vmek windowsowych na raz, a i miejsce na dysku się znalazło jak wywaliłem kilka gier.

Na labki z 6 maszyn (4 serw, 2 klienty) trzeba liczyć 250, może 300 giga!!!

Na linuksie nawet połowa tego. No ale windowsa też trzeba się naumieć.

Tytan6piorunów
jak będą to wyprzedawać.

Nie będą. Serwerowych RAMów nie włożysz do konsumenckich PC, ani do laptopów. Nie mówiąc już o HBM, które zostały wlutowane do akceleratorów, a przez nie spadła produkcja DDR5.

Co najwyżej cena może spaść przez zwiększoną produkcje, gdy popyt od serwerów spadnie.
Wynajmowanie serwerów może też będzie tańsze.

Fanatyk5piorunów

@wombatDaiquiri @Rmbajlo ain't gonna happen. Karty też nie wróciły do cen z czasów sprzed koparek.

Tytan0piorunów

@MostlyRenegade zgadzam się w 100% z tym że to nie będzie krach i że AI zostanie z nami na zawsze/długo. Ale obstawiam (bo każdy z nas tak naprawdę zgaduje), że:

* zoptymalizuje się (koncepcyjnie, software'owo i hardware'owo)

* już teraz widzę presję na "wewnątrz-firmowy" AI, bo nikt tak naprawdę nie chcę być na garnuszku monopolistów, co zwiększy presję na punkt powyżej,

* największą wadą obecnych LLM jest to że się nie uczą mają tylko kontekst, żeby były bardziej efektywne będą musiały się być uczone on-the-fly, co umożliwią/ułatwią w/w punkty,

* finalnie, modele będziesz odpalał i trenował w domu/pracy

A to skończy presję na ceny sprzętu i tak jak kiedyś było z komputerami Mainframe, tak będzie z serwerowniami AI - zminiaturyzują się i wejdą pod dachy (oczywiście nie w ten sam sposób)

Fanatyk1piorunów

@wombatDaiquiri czyli jednak nie wyobrażasz sobie ( ͡° ͜ʖ ͡°)

To skupmy się np. na samych fakturach. Masz 100 faktur dziennie do obsłużenia. Musisz je przyporządkować do konkretnych kont kosztowych, bo z tego wychodzą budżety i ich wykonanie. Już sama ta czynność jest pracochłonna. A gdybyś jeszcze chciał potem analizować te dane, co, kiedy, gdzie, jak i potem na tej podstawie planować przyszłe budżety, ustalać harmonogramy, dobierać dostawców na podstawie cen, jakości i terminowości dostaw, to życzę powodzenia w ogarnięciu tego jedną osobą z excelem.

Gruba ryba1piorunów

@MostlyRenegade wyobrażam sobie. Problem z tym „przetwarzaniem danych” jest taki ze dane mogą być przetworzone a mogą być wymyślone. Moim zdaniem nie ma tak dużych ilości danych dla których potrzebujemy aproksymacji zamiast dokładnego wyniku z osoba odpowiedzialna za wyliczenie i podanie wyniku.

Fanatyk1piorunów

@wombatDaiquiri ai to nie tylko czatboty w internecie. Podejrzewam, że głównym klientem takich centrów miały być/będą firmy i korporacje, które potrzebują infrastruktury do przetwarzania ogromnych ilości własnych danych.

Wyobraź sobie np. firmę, przez którą codziennie przechodzą dziesiątki lub nawet setki faktur, dokumentów dostawy, protokołów i innych tego typu. I te wszystkie dokumenty trzeba przetworzyć, żeby wydobyć z nich liczby, kwoty, daty, żeby na koniec dnia/tygodnia/miesiąca kadra zarządzająca miała pełny obraz tego, co się dzieje w firmie. A każdego będzie interesowało co innego. Jeden będzie chciał wiedzieć, jakie jest wykonanie planu, a inny czy kasa się zgadza.

Gruba ryba3piorunów

@MostlyRenegade ale ja tylko chce żeby wyprzedali ram. Bo ja z kolei przewiduje ze pojawi się mnóstwo zatrutego materiału w sieci i okaże się ze trzeba korzystać z lokalnie deployowanych i trenowanych modeli.

Fanatyk6piorunów

@wombatDaiquiri ja przede wszystkim jestem sceptyczny jeśli chodzi o ten wyczekiwany krach i "pęknięcie bańki AI".
Będzie może jakaś korekta na poszczególnych spółkach, ale ai zostanie z nami na stałe. Tak jak internet.