Η θερμική διαχείριση στα κέντρα δεδομένων έχει πάψει να είναι μια απλή τεχνική λεπτομέρεια και έχει γίνει ο κεντρικός άξονας που καθορίζει τη βιωσιμότητα της Τεχνητής Νοημοσύνης. Με την έκρηξη της γενετικής Τεχνητής Νοημοσύνης, βλέπουμε racks με πυκνότητες ισχύος που υπερβαίνουν τα 50 kW, καθιστώντας τον παραδοσιακό κλιματισμό ανεπαρκή και εντελώς μη πρακτικό. Δεν πρόκειται για μια αργή αλλαγή, αλλά μάλλον για μια απότομη μετάβαση στην άμεση υγρή ψύξη του επεξεργαστή, η οποία δεν αποτελεί πλέον ένα εργαστηριακό πείραμα αλλά το θεμέλιο οποιασδήποτε εγκατάστασης που θέλει να παραμείνει ανταγωνιστική.
Σε αυτό το νέο σενάριο, η έννοια της ψύξης με ζεστό νερό , όπου το ψυκτικό εισέρχεται σε θερμοκρασίες που υπερβαίνουν τους 40 ή ακόμα και τους 45 °C, φέρνει επανάσταση στον σχεδιασμό κέντρων δεδομένων. Δεν πρόκειται απλώς για αλλαγή του υγρού. Απαιτεί επανεξέταση της ηλεκτρικής αρχιτεκτονικής και των συστημάτων διανομής. Σήμερα, η επιτυχία δεν μετριέται μόνο με βάση την PUE, αλλά με την αξιολόγηση της πραγματικής υπολογιστικής ισχύος που μπορεί να εξαχθεί από κάθε κιλοβάτ που συνδέεται στο ηλεκτρικό δίκτυο, καθιστώντας τη θερμική απόδοση ζήτημα καθαρής και απλής κερδοφορίας για την επιχείρηση.
Το τεχνικό άλμα: Γιατί να χρησιμοποιούμε ζεστό νερό;
Με την πρώτη ματιά, η ψύξη των τσιπ με νερό στους 45°C ακούγεται τρελή, σχεδόν σαν να χρησιμοποιείτε νερό υδρομασάζ, αλλά ακριβώς εδώ βρίσκεται η μαγεία της αποδοτικότητας. Η λογική είναι απλή: όσο υψηλότερη είναι η θερμοκρασία του κυκλοφορούντος υγρού, τόσο πιο εύκολο είναι να αποβληθεί η θερμότητα προς τα έξω χωρίς να χρειάζεται να καταφύγουμε σε ενεργοβόρους συμπιεστές ή ψύκτες. Αυτό επιτρέπει στα κέντρα δεδομένων να χρησιμοποιούν ψύκτες ξηρού τύπου κλειστού βρόχου , εξαλείφοντας ουσιαστικά την εξάρτηση από την ψύξη με εξάτμιση και μειώνοντας την κατανάλωση νερού σχεδόν στο μηδέν σε ευνοϊκά κλίματα.
Για να λειτουργήσει αυτό, είναι απαραίτητες οι προηγμένες ψυχρές πλάκες με εσωτερικές μικροδομές . Αυτά τα εξαρτήματα υψηλής ακρίβειας επιτρέπουν την απευθείας δέσμευση του 80% έως 90% της θερμότητας στην GPU ή την CPU. Εάν η πλάκα είναι μέτριας ποιότητας, το σύστημα αποτυγχάνει. Εάν είναι υψηλής ποιότητας, η θερμότητα μπορεί να διαχειριστεί σε επίπεδο τσιπ τόσο αποτελεσματικά ώστε ο ενεργειακός προϋπολογισμός που δαπανήθηκε προηγουμένως για την ψύξη του αέρα να μπορεί πλέον να ανακατευθυνθεί για την τροφοδοσία περισσότερων GPU , με αποτέλεσμα την αυξημένη υπολογιστική ισχύ και την ευθυγράμμιση με την τρέχουσα επανάσταση του θερμικού υλικού.
Κρίσιμα στοιχεία: Μονάδα Μονάδων Μονάδας ...
Η καρδιά αυτού του συστήματος είναι η έξυπνη Μονάδα Διανομής Ψυκτικού ( CDU ). Αυτές οι μονάδες όχι μόνο μετακινούν το ψυκτικό μέσο, αλλά λειτουργούν και ως ο εγκέφαλος που συντονίζει τη διαδικασία ψύξης με την ηλεκτρική αρχιτεκτονική. Όταν και τα δύο συστήματα σχεδιάζονται μαζί, επιτυγχάνεται πολύ μεγαλύτερη αξιοπιστία από το τσιπ έως το δίκτυο , αποτρέποντας έτσι τη μετατροπή της CDU σε λειτουργικό σημείο συμφόρησης.
- Κρύα πιάτα: Σχεδιασμένο για να χειρίζεται θερμικές εξόδους έως 1.500 W, συμβατό με NVIDIA, AMD ή Intel silicon.
- Έξυπνες μονάδες CDU: Διαχειρίζονται ρυθμούς ροής και χωρητικότητες που κυμαίνονται από 105 kW έως 2,3 MW.
- Πολλαπλοί συλλέκτες ραφιών: Συλλέκτες από ανοξείδωτο χάλυβα που διασφαλίζουν ομαλή και χωρίς διαρροές ροή μεταξύ των πλακών και της μονάδας CDU.
- Εναλλάκτες θερμότητας πίσω πόρτας (RDHx): Λύσεις που απομακρύνουν τη θερμότητα χρησιμοποιώντας υγρόψυκτο αέρα με ισχύ έως 75 kW.
Η εφαρμογή αυτών των τεχνολογιών επιτρέπει στην υγρή ψύξη να είναι έως και 3.000 φορές πιο αποτελεσματική από την ψύξη με αέρα στη δέσμευση θερμικής ενέργειας. Επιπλέον, μειώνοντας τον θόρυβο και τις εκπομπές άνθρακα, δημιουργούνται πολύ πιο βιώσιμα και ασφαλέστερα λειτουργικά περιβάλλοντα, μειώνοντας την εξάρτηση από βαριές υποδομές, όπως οι παραδοσιακές μονάδες ψύξης με ψύξη ...
Οικονομικός αντίκτυπος και το όραμα των «Εργοστασίων Τεχνητής Νοημοσύνης»
Μεταβαίνουμε από την αντιμετώπιση του κέντρου δεδομένων ως ψυκτικού θαλάμου γεμάτου διακομιστές στην κατανόησή του ως βελτιστοποιημένης βιομηχανικής εγκατάστασης . Αυτή η έννοια του «εργοστασίου τεχνητής νοημοσύνης» στοχεύει στη μεγιστοποίηση της παραγωγής token και της εκπαίδευσης τεράστιων μοντέλων. Σύμφωνα με τα δεδομένα του κλάδου, η ενσωμάτωση προηγμένης υγρής ψύξης μπορεί να οδηγήσει σε εξοικονόμηση ενέργειας μεταξύ 20% και 40% , η οποία επηρεάζει άμεσα τα κέρδη.
Η στρατηγική γιγάντων όπως η NVIDIA, με τις πλατφόρμες αναφοράς τους όπως το DSX και η γενιά Rubin, στοχεύει σε μια υποδομή 100% υγροψυκτή . Αυτό περιλαμβάνει την πλήρη εξάλειψη των εσωτερικών ανεμιστήρων, την ενσωμάτωση της δικτύωσης, της πληροφορικής και της τροφοδοσίας σε ένα ενιαίο οικοσύστημα. Βελτιστοποιώντας τον θερμικό σχεδιασμό, είναι δυνατό να επιτευχθεί έως και 33% περισσότερη υπολογιστική ισχύς ανά σύνδεση τροφοδοσίας, επιτρέποντας την ενσωμάτωση περισσότερης ισχύος σε μικρότερο χώρο.
Παρόλο που αυτό μπορεί να φαίνεται σαν πανάκεια, η μετάβαση από ένα καλά ρυθμισμένο σύστημα ψύξης αέρα σε ένα υγρό σύστημα ενέχει λειτουργικούς κινδύνους και σημαντική πολυπλοκότητα ολοκλήρωσης. Ωστόσο, όταν τα racks υπερβαίνουν τα 50 kW, η ψύξη με υγρό παύει να είναι προαιρετική . Δεν αποτελεί πλέον πολυτέλεια για την Υψηλή Υπολογιστική Αξία (HPC) ή την επιστημονική πληροφορική, αλλά απαραίτητη προϋπόθεση για τη διατήρηση του φόρτου εργασίας των Μοντέλων Μεγάλης Γλώσσας (LLM) χωρίς βλάβες εξοπλισμού λόγω υπερθέρμανσης ή μειωμένης διάρκειας ζωής.