dziad_saksonskiOsobistość
4piorunów#claude #ai #local #counsel #ai #ram #nvidia #amd
Dobra, skończyła się moja boska cierpliwość. Wyrzucam to zklładzione gówno na śmietnik historii i słucham państwa. Tym razem rady typu
no poczekam jeszczem już jeszcze chwila
uznaje za sabotaż.
Zastanawiam się nad kupieniem 4 klocków od nvidia. Tych sparkowych. Jednakże z drugiej strony chyba taniej wyjdzie rack na GPU z jakimkolwiek VRAMem, który da się podłączyć w council. Nawet chińskie karty graficzne zaczynają mi się podobać.
To już za dużo, żebym k⁎⁎wa płacił łysemu altmanowi z dildem Trumpa w d⁎⁎ie za to, żeby móc sobie zrobić sideproject bez bycia oskarżąnym o terroryzm.
Strix Halo - mam póki co jedno mini pc bo ceny są póki co dramatyczne. Mini PC od appla tez sobie dobrze radzi, szczególnie jak sie wrzuci Splash - moj znajomek sobie hostuje i sobie chwali
@ostrynacienkim no i jak to dziala? Cos probowales wie ej? W sensie wyciskać? Jakies benchmarking?
@dziad_saksonski no ja jestem zadowolony bo uzywam lokalnie llm do prostych rzeczy (shellowe koemndy, pisanie tekstu, itp, jakis skrypt ad-hoc) wiec zadnego super testowania nie robilem a przy swift-qwen3.8-27B leci mi kolo 80 tokenow - mam boxa z 64 GB ramu