Dlaczego zdecydowałem się na zakup 10-letniego workstation zamiast nowego komputera

Jak wszyscy wiemy ceny ramu oszalały, właściwie dziś nie da się zbudować maszyny w rozsądnej cenie, a ja potrzebuję komputera, który nie będzie mi co chwila kwiczał o RAM, kiedy odpalę kilka agentów pracujących równocześnie. Nie chcę też wydać majątku, bo nie jestem do końca pewien, jak często będę używał tego workstation. Na razie kilkukrotnie w ciągu miesiąca zdarzyło mi się, że po prostu extra ram bardzo by mi się przydał. Posiadam tylko macbooki których 18gb ramu, już nie wystarcza. Jak zobaczyłem ceny nowych to stwierdziłem, że o nie jeszcze nie zwariowałem.

Dlatego zacząłem patrzeć na mocno używany sprzęt.

Jako, że moja znajomość sprzętu jest mizerna. Więc zacząłem od technicznej archeologii). Dużo mi przy tym pomagał ChatGPT, ale miałem wrażenie, że cokolwiek wybrałem mu się podobało, a każdy następny wybór twierdził, że jest lepszy od poprzedniego.

Najpierw odkryłem kilka stron gdzie od zera można skonfigurować stare serwery i poczułem się jak jak dziecko w składzie z zabawkami.

Na początek znalazłem Dell PowerEdge R720xd. Ma dwa Xeony E5-2680 v2, 256 GB ECC wszystko za około 3800 zł

Ale R720xd, podobnie jak oglądany chwilę później HPE DL380p Gen8, to już dinozaur do muzeum techniki. DDR3, wysokie zużycie energii, i hałas jakby startował odkurzacz (sprawdziłem na filmiku YouTube, zaskoczyły mnie też wymiary. Już widziałem oczami wyobraźni, jak ustawiam małą szafkę rack w garażu.). Początkowo zastanowiło mnie też zużycie energii starych serwerów. Po przeliczeniu okazało się jednak, że jeśli maszyna nie pracuje 24/7, nie jest to aż tak dramatyczne i jest to bardzo spłaszczone dla wszystkich moich wyborów.

Przy pięciu godzinach pracy dziennie R720xd kosztowałby mnie mniej więcej 350–500 zł rocznie. Znacznie większym problemem były dla mnie jego rozmiary. Ale też nie wiem czy potem nie będzie to serwer, który chodzi 24/7 wtedy koszta znacznie wzrastają do 1600zł rocznie.

Potem HPE ML350 Gen9 wydawał się bardziej sensowny DDR4, nowsze Xeony i obudowa tower.

Później mocno rozważałem HP Z8 G4 z dwoma Xeonami Gold 6148, 256 GB RAM i dużym szybkim NVMe. Fajny sprzęt, tylko że konfiguracja zaczynała kosztować znacznie więcej, niż chciałem wydać ponad 10000 złotych.

Na drugim końcu był Mac mini, ale 32/64 GB RAM to dla mojego zastosowania mniej, niż chciałem. Do tego ARM i brak możliwości późniejszego dołożenia NVIDII pod CUDA. Cena też nie jest atrakcyjna. Zaletą jest to, że jest energetycznie najbardziej oszczędny o 1 rząd wielkości.

W końcu zdecydowałem się na Dell Precision T5810 z
Xeonem E5-2699 v4 - 22 rdzenie / 44 wątki
128 GB DDR4. Cena za używany około 2700 zł bez dysku.

Do Della dokupiłem nowy Kingston KC3000 2 TB za około 1400zł zł oraz adapter PCIe -> M.2 ICY BOX IB-PCI208-HS za 50 zł. Nie wykorzystam w pełni prędkości tego dysku, ale trudno jakieś kompromisy muszą być. T5810 ma niestety tylko PCIe 3.0.

Ale, jak mówiłem przy takim workloadzie bardziej interesują stabilne I/O przy wielu równoległych operacjach niż maksymalny transfer.

Docelowo prawdopodobnie dołożę NVIDIĘ, może RTX 3060 12 GB. Widziałem, że w praktyce nie traci wiele przy PCIe 3. GPU przyda się do lokalnych modeli, embeddingów i zabawy z małymi modelami.

Dell T5810 jest stary, ale IMO jeszcze nie muzealny. Sprzęt zdążył stracić praktycznie swoją cenę, ale niekoniecznie jeszcze swoją użyteczność.