Projekt: budżetowa stacja robocza do zadań SI

Celem projektu jest zbudowanie taniej stacji roboczej w celu eksploracji modeli sztucznej inteligencji.

Na serce obliczeniowe systemu wybrana została karta graficzna Nvidia Tesla P40 ze względu na dużą ilość pamięci VRAM przy relatywnie niskiej cenie(około 1200 zł na aliexpress). Dzięki dużej ilość pamięci VRAM możliwe jest stosowanie dużych modeli oraz wysokich ustawień dla generowania obiektów wyjściowych.

https://www.servethehome.com/nvidia-tesla-p4-tesla-p40-launched/

Karta graficzna Tesla P40 jest kartą przeznaczoną między innymi do głębokiego uczenia maszynowego, używaną w centrach przetwarzania danych. Posiada 24GB VRAM, 3840 rdzeni CUDA i wydajność na poziomie 12 TFLOPS dla liczb pojedynczej precyzji (FP32) i 47 TOPS dla liczb INT8.

Urządzeniem matką dla karty stała się stacja robocza HP Z440 ze względu na następujące cechy:

https://support.hp.com/us-en/document/c04506309

Pamięć operacyjna z systemem kodowania korekcyjnego (ECC) zapewniająca większą stabilność systemu.

Niska cena. Stację roboczą z procesorem Xeon 1620 V3, 8GB Ram, wraz ze startową kartą graficzną można kupić za około 800 zł.

Funkcja Resizable Bar umożliwiająca dostęp dla procesora do całej pamięci operacyjnej karty graficznej, co rzutuje na szybkość wgrywania modeli do VRAM.

https://geex.x-kom.pl/wiadomosci/resizable-bar-co-to-jak-dziala-test-wydajnosci/

Obudowa typu desktop, w przeciwieństwie do obudowy typu Rack można schować stację roboczą pod biurkiem bez potrzeby instalowania szafy Rack oraz stosowania riserów dla kart.

Na potrzeby projektu dokonano następujących modyfikacji:

Rozszerzono pamięć operacyjną z 8 GB do 32 GB ze względu na duże zużycie przy przenoszeniu modeli do VRAM karty.

Dla przyśpieszenia ładowania modeli zastosowano dysk SSD M.2 512GB o prędkości odczytu 1500 MB/s, który został wpięty do płyty przez adapter ze względu na brak dedykowanego slotu.

W zakupionej stacji należało wymienić kartę graficzną Nvidia Quadro K2000 ze względu na brak kompatybilności architektur z akceleratorem Tesli. Tesla P40 oparta jest o architekturę Pascala, natomiast Quadro K2000 o starszą architekturę Keplera co zaskutkowało brakiem kompatybilności sterowników. Wersja sterownika do wspomagania obliczeń CUDA dopasowana mogła zostać tylko do starszej karty (wersja 11.4). Zdecydowano się na zakup karty Quadro P400, najtańszej i najsłabszej karty z rodziny P, mając na uwadze to, iż podstawowa karta pełni tylko funkcję wyjścia obrazu. Zastosowanie karty kompatybilnej z Teslą P40 umożliwiło zaktualizowanie w systemie sterowników CUDA do nowszej wersji 12.2.

Akcelerator Tesla ze względu na docelowe przeznaczenie montażu w obudowach typu rack posiada jedynie pasywne chłodzenie radiatorem ze względu na aktywne chłodzenie poprzez przedmuch wentylatorami serwera.

https://www.esologic.com/tesla-cooler/

Do aktywnego chłodzenia karty zastosowano wentylator przemysłowy Sanyo Denki San Ace 80, o mocy 13.2W i wydajności 90 CFM przy 6300 obr/min. zamontowany na wydrukowanej na drukarce 3d obudowie.

https://www.sanyodenki.com/europe/en/products/product_news/2022/20220610_sanace_80ra_dc-fan.html
https://www.thingiverse.com/thing:4401674

Po przerobieniu końcówek zasilających wentylator zasilany jest napięciem 12V ze złącza molex w trybie ciągłym.

Procesor Intel® Xeon® E5-1620 v3 okazuje się wystarczający do tego rodzaju zastosowań.

Widok od środka.

Podsumowanie kosztów:

Stacja robocza: 800 zł
Tesla P40: 1200 zł
Quadro P400: 300 zł
Pamięć: około 200 zł
Dysk SSD: 0 zł (wymontowany z uszkodzonego laptopa)
Adapter do dysku: 25 zł
Wentylator: 40 zł
Adapter wentylatora: kilka zł (wydrukowany na drukarce 3d, prąd + filament)

Łączny koszt ~ 2600 zł.

Dodaj komentarz

Twój adres e-mail nie zostanie opublikowany. Wymagane pola są oznaczone *