Installation d'une salle de 600 GPU

  • -

    Je vous décrirai dans ce sujet, les diverses étapes de l’aménagement d’une salle pour 600 GPU que nous allons faire dans notre ferme pour récupérer de l’espace pour de nouveaux asics. Je vous mettrai des photos. Le processus devrait durer deux mois (patience donc).
    Les rigs qui vont déménager sont principalement des vieux vieux GPU 6 et 8Go P106-100, P104-100, RX570, RX480 qui sont tous rentabilisés depuis longtemps et qui sont toujours vaillants (seulement 6 ont rendu l’âme en deux ans). Il y a aura quelques rigs de RX580 qui appartiennent à des clients qui hébergent leurs machines chez nous.

    Même pour une ferme qui génère des milliers de dollars par jour, la maitrise des coûts reste notre principal fer de lance.
    Donc nous allons récupérer un local qui nous servait jusqu’à aujourd’hui à stocker les asics en attente de recyclage ou à faire quelques dépannages.

    Notre premier travail consiste à l’élaboration des frames qui vont accueillir les GPU. En gardant toujours en tête l’optimisation des coûts, notre cahier des charges est le suivant :

    • gain de place
    • facilité de maintenance
    • évolutivité (pouvoir réutiliser les frames dans le futur pour d’autres choses)
    • Facilité de mise en oeuvre
    • Pas cher

    L’un de nos fournisseurs nous a proposé le modèle suivant qui s’il a l’air sexy au premier coup d’oeil, présente quelques inconvénients :

    • Peu personnalisable : nos rigs n’auront pas tous le même nombre de GPU, alims, etc…
    • Peu évolutifs : Pas appropriés pour les GPU longs, les asics et nombre de GPU par étagères fixe.
    • Chers : les étagères sont faites sur mesures et donc produire moins de 20 étagères nous donnent des coûts de fabrication élevé.

    2020-11-16 04.59.07.jpg

  • -

    Donc la plupart d’entre vous auront compris qu’il n’y a qu’un seule manière de répondre à nos critères : le DIY. “Do it Yourself” ou “Faites le vous-mêmes” en français.

    Nous allons donc nous procurer des étagères métalliques Leroy Merlin (il y en a même en Sibérie) qui sont peu chères (40$ les plus chères) et évolutives (Leroy Merlin propose plein de petites options pour les améliorer). Elles sont disponibles en 3 profondeurs et différentes hauteurs.

    En bas de page je vous ai mis la photo du modèle qui nous a inspiré mais nous allons l’améliorer.

    • ajout d’une ligne de ventilateurs 120mm à l’arrière. Ils seront connectés en cascade par prise Molex. On réfléchit encore à la pose d’un variateur de vitesse pour une position Hiver/été (chez nous les GPU peuvent tourner fanless en hiver). Possibilité également de brancher en cascade avec connecteurs 4 broches PWM qui, connectés à la carte mère, nous permettraient de régler la vitesse à distance.
    • Perçage de plusieurs trous dans les étagères afin de faciliter l’évacuation de l’air chaud par le haut et ainsi éviter les bulles d’air chaud qui pourraient s’accumuler.
    • une seule carte mère par niveau, fixée à l’aide de standoff M3 de 12mm en métal. Les avantages de la fixation par standoff en métal sont la mise à la masse de la carte mère et sa surélévation pour faciliter le refroidissement ainsi que le nettoyage du dessous par compresseur.
    • pose de sockets 230V et de la câblerie réseau

    image.jpg

  • -

    Pour le plaisir des yeux, une installation sur étagères à l’extrême. Gros gain de place mais énergivore sur le cooling. Ne peut pas convenir à une grosse installation

    Screenshot_20190503_033636.jpg

    florian2 1 Reply
  • -

    Effectivement tu as un gros gains de place, mais perso je suis pas fan : pas assez d’espace, refroidissement moins efficace comme tu le soulignes et visuellement c’est moche je trouve.

  • -

    Ouhai niveau ventilation ça doit pas etre le top, pas d’espace entre les étages, la chaleur de la carte est soufflé sur les cartes du dessus

  • Modérateur -

    @Siberian-Mining

    C’est stylé d’avoir autant de GPU à gérer, j’avoue que le compromis cooling-espace est toujours compliqué.
    Après tout dépend des cartes et des modèles que tu as.

    J’ai eu des RX 570 Nitro + 4Gb pendant 2 ans et demi, elles n’avaient jamais bougé d’un poil, et j’avais hyper mal géré leur température : sur un même rig de 6 cartes, j’avais parfois 20°C de différences 40-55°C en hiver et 50-70°C en été. Mais pourtant, les cartes n’ont jamais buggé, jamais eu de problèmes hardwares, c’était le rêve à gérer.

    La vraie complication est d’avoir surtout du bon matériel de base, ça fait réellement la dfiférence.

  • -

    Je vous donne quelques nouvelles.
    M’étant cassé un bras début janvier, mon équipe a fait les travaux sans moi.
    Notre réflexion nous a amené à finalement utiliser des boitiers serveurs pour l’installation des rigs. Les avantages sont nombreux : Facilité de transport, de maintenance et d’installation. Meilleure stabilité et refroidissement. Faible consommation due à l’utilisation de composants pour ordinateurs portables.

    Le boitier de droite est celui que nous utilisons pour les P106-100 et RX AMD. Il est très compact avec ses 52cm de long et 15 de haut.
    Le boitier de gauche est utilisé pour les RTX 3060Ti/3070. Il fait 64 cm de large et a des ports PCI plus espacés.
    Les deux sont vendus avec processeur et ram fournis, il faut juste lui ajouter un SSD mSATA et une alim pour asics ou serveurs. Pour les petits boitiers, on utilise des alims Bitmain APW3++ de 1600W qui peuvent être achetés d’occasion en lot à 50$ pièce et pour les gros boitiers on utilise des alims serveur Dell de 2000W achetées d’occasion à 80$ pièces.
    Les ventilateurs sont des 6000trs/mn

    2021-02-13 17.38.11.jpg

    florian2 A 2 Replies
  • -

    Oups, désolé pour ton bras, ça va, tu t’en sors maintenant?

    il n’y a pas photo, du matériel de pro, c’est tout de suite bien plus beau!
    Tu verrais mes rigs open air avec tous les câbles qui dépassent dans tous les sens pour les maintenir en vie^^
    Enfin, dans toutes situations ils y a du bon! Je pourrai toujours utiliser les câbles pour me pendre quand eth ne sera plus minable xd

    S 1 Reply
  • Modérateur -

    @Siberian-Mining

    Question job : tu fais partie d’une société ou c’est toi qui a créé cette structure avec des amis ou connaissance ou partenaire ?
    Tu es rémunéré comment ?

    S 1 Reply
  • -

    @florian2
    J’ai commencé en 2016 avec 20000$ et en minant du Monero. J’ai vendu une bonne partie de mes Monero lors du pump de 2017/2018 et j’ai réinvesti quand ça a chuté. J’ai aujourd’hui une double structure, l’une réservée à la plus grande partie de mes rigs et l’autre beaucoup plus grande et d’une capacité de 25MW avec une hangar pour les asics et d’autres rigs et je fais du mining hotel dans des containers.
    Je dispose d’une équipe complète pour tout gérer, tant au niveau comptable que techniquement. J’ai même recruter un trader et un acheteur qui est en charge de me trouver du matériel à bon prix.
    Pour la rémunération j’en suis à un stade où ce n’est plus un problème.

  • -

    @Chuck-Nolife Avant d’être en boitier j’utilisais des frames ouverts mais les risers + la poussière demandaient trop de maintenance.
    Maintenant ça a un peu cette gueule là (installation toujours en cours) :
    2021-02-17 17.41.24.jpg

    J Raniva Chuck LeLimier 3 Replies
  • -

    @Siberian-Mining C’est sur avec nos rig à 4 cartes ca fait moins serieux !!! ☺

  • -

  • -

    @Siberian-Mining Le problème avec ces boîtiers tout intégrés c’est que quand on les a dans son salon, le bruit est beaucoup plus important que pour un rig open-air vu le forçage de l’air des ventilateurs plus puissants… Problème dont tu te contrefous très certainement 😉 et ça, je n’ai aucun mal a le comprendre avec une installation pro^^

  • -

    ça fait le même bruit qu’un asic et pour cause, ce sont les mêmes ventilateurs

  • -

    Hello, j’avoue je suis impréssionné Siberian. Belle réussite ! Ca redonne du courage.
    Je me pose une question … qu’est que tu mines ? Y’a t il des cryptos plus intéressantes que d’autres ?

    S 1 Reply
  • -

    wahoo joli 😉

  • -

    @Vince_crypto Dual mining Ethereum + Zil pour les GPU. Pour les asics BTC, Zec et j’ai modifié quelques vieux Bitmain E3 pour miner de l’ETC.

  • -

    Félicitations pour ton projet.

    Petite question… A combien monte ta puissance de hash totale? 😉

  • -

    pour ETH, je fais en moyenne par jour du 71,7GH/s. Pour BTC, un peu moins de 220 PH/s
    Pour ZEC j’ai pas l’info, car on a ajouté du matériel hier.

    Chuck LeLimier 1 Reply
Log in to reply
 

A voir également