Chiński model GLM-5.3 o otwartych wagach dogania Mythosa

@manstain racja ale są maniacy/hobbisci którzy wyrzucają na domowe systemy ai równowartość nowego auta i dla nich taki glm czy kimi to juz cos ciekawego z czym można robić dużo więcej niż proste rzeczy.

I jednak ds się zaobserwowac, ze społeczność czy nawet chińskie laby proboja jednak wyciskac co się da z tej technologi ograniczając skalowanie. Jeszcze rok temu mogles zapomnieć o dostępie do tak dużych modeli.

@Ilirian no niestety lokalne llm nie maja podjazdu ale do adhock / prostrzych rzeczy idzie to calkiem niezle

@b905 uzywalem tez - bylo calkiem calkiem

@ostrynacienkim na starsze maszyny gorąco polecam qwen3.6-35b w architekturze AoE. Rtx 3060 i 32gb ramu daje rade.

@ostrynacienkim oni mają dobry myk na uczenie. W Chinach możesz sobie kupić taniej tokeny, a oni mają maszyny które kupują rotujące się subskrybcje do clauda.

Oczywiście przy okazji ucząc swoje ai na tej komunikacji.

Akurat w tym wypadku jestem po stronie chinoli, bo dzięki nim będzie można kiedyś (hehe) self hostowac modele, zamiast patrzeć jak glupieja, bo wyszedł nowy oczywiście droższy model i starych nie da się używać albo przestaną być wspierane.

@Ilirian oj zapomnij, ze te ceny się uspokoja. Przy obecnym trendzie zakładania centrów ai będą tylko rosły. Jak chcesz się bawić to zainwestuj teraz nawet w ddr4 a jeszcze lepiej w jakas grafikę. Od bidy qwena o którym wspominają przedmowcy odpalisz nawet na 8GB grafie i da się z tym w miarę pracować.

Ja byłem bardzo zawiedziony jakością kodu generowanego przez lokalne AI, natomiast byłem w stanie generować obrazki lepsze niż te od ChatGPT. Zawsze wydawało mi się że generowanie obrazu wymaga dużo więcej mocy niż generowanie kodu.

Niech się ceny RAMu uspokoją to z pewnością złożę sobie domowego homelaba do AI

@Marsjamin no nie ukrywam tez mi sie to podoba :smiley:

@ostrynacienkim i w sumie bardzo kurwa dobrze

wszystkie te firmy AI to wciągają pdfy i epuby i srają na prawa autorskie, teraz wyszło na jaw że masowo skupują i rozpruwają stare książki, no to niech chińczyk też im ukradnie

chińczyk przynajmniej wypuści na świat żeby inni mogli z tego korzystać