Chcialbym sobie potestowac AI w trybie offline na domowej maszynie Co polecacie tak aby obslugiwało GPU ? Moze byc - bucz

buczOsobistość

w Hydepark w zeszłym roku

Chcialbym sobie potestowac AI w trybie offline na domowej maszynie
Co polecacie tak aby obslugiwało GPU ? Moze byc wolne, im wiekszy model tym lepiej

Komentarze (3)

@bucz ollama i ściągasz modele np llama3.2 albo mistral.

@bucz tego nie wiem (nie słyszałem o tym), ale daj szansę llamie, jest całkiem spoko.

@size potestuje zaraz

a starych wersji chatagpt nie dają jako opensource?