Miếng tản nhiệt dành cho máy chủ AI và GPU công suất cao

Các miếng tản nhiệt trong máy chủ AI thường có nhiệm vụ làm mát HBM, VRM, bộ nhớ, các thiết bị nguồn, bộ điều khiển mạng và các linh kiện khác nằm ở các độ cao khác nhau bên dưới bộ tản nhiệt, tấm làm mát hoặc khung máy. Chúng không nhất thiết là vật liệu tối ưu cho giao diện chip GPU chính. Vị trí tiếp xúc này thường cần một lớp vật liệu dẫn nhiệt (TIM) mỏng hơn nhiều. Việc lựa chọn phù hợp bắt đầu bằng việc phân tích riêng biệt từng đường dẫn nhiệt, khe hở và giới hạn áp suất.

Sự khác biệt đó giờ đây càng trở nên quan trọng hơn bởi vì các bộ tăng tốc AI không còn chỉ là những chiếc card mở rộng nhỏ gọn kêu vo vo trong một khung máy rộng rãi nữa. Một NVIDIA H100 SXM có thể được cấu hình với công suất tối đa 700 W, trong khi AMD công bố công suất đỉnh của bo mạch là 750 W Đối với Instinct MI300X. Khi tích hợp tám bộ gia tốc vào một nền tảng duy nhất, vấn đề tản nhiệt không còn là vấn đề phụ nữa. Nó trở thành một giới hạn thiết kế.

Tuy nhiên, một máy chủ không thể tự làm mát chỉ vì nó có tấm làm mát. Nhiệt phải truyền qua vỏ máy, vật liệu giao diện, bộ tản nhiệt, tấm làm mát, vòng tuần hoàn chất làm mát và hệ thống cơ sở hạ tầng. Một sự cố nhỏ tại một điểm tiếp xúc cũng có thể làm đình trệ toàn bộ chuỗi, giống như một trạm thu phí chỉ mở một làn đường.

Hướng dẫn này giải thích những trường hợp nào nên sử dụng miếng tản nhiệt, những trường hợp nào không nên, cũng như cách lựa chọn chúng mà không chỉ dựa vào những con số ấn tượng trên bảng thông số kỹ thuật. Tài liệu này được biên soạn dành cho các kỹ sư nhiệt, nhà thiết kế máy chủ, các nhà sản xuất gia công, đội ngũ phần cứng trung tâm dữ liệu và các nhà mua hàng – những người cần một loại vật liệu hoạt động hiệu quả trong quá trình sản xuất thực tế, chứ không chỉ trên bàn thí nghiệm.

Bạn đang phát triển hệ thống quản lý nhiệt cho máy chủ AI? Hãy gửi cho Haktak bản đồ linh kiện, dải khoảng cách, giới hạn áp suất và kiến trúc làm mát qua trang liên hệ. Bạn cũng có thể xem lại toàn bộ danh mục các loại vật liệu giao diện nhiệt.

Tại sao các máy chủ AI lại gây áp lực lớn đến vậy lên các giao diện tản nhiệt

Các máy chủ AI kết hợp các bộ gia tốc công suất cao, bộ nhớ băng thông rộng, hệ thống chuyển đổi nguồn và các kết nối nội bộ tốc độ cực cao trong một khung cơ khí có mật độ cao. Không khí hoặc chất lỏng chỉ có thể tản nhiệt sau khi nhiệt lượng tiếp xúc với bộ tản nhiệt hoặc tấm làm mát. Do đó, giao diện nhiệt giữa các linh kiện và thiết bị làm mát này ảnh hưởng đến biên độ nhiệt độ, tần số hoạt động ổn định, công suất quạt, độ tin cậy và hiệu suất hoạt động trong quá trình vận hành.

Thông số kỹ thuật chính thức của NVIDIA H100 công suất tối đa lên đến 700 W đối với phiên bản SXM. AMD công bố công suất đỉnh của bo mạch là 750 W và dung lượng HBM3 là 192 GB đối với MI300X. Đây không phải là những so sánh trực tiếp, nhưng chúng cho thấy mức độ tập trung nhiệt xung quanh các mô-đun bộ tăng tốc hiện đại.

Ở cấp độ giá đỡ, các con số tăng lên rất nhanh. Khung tiêu chuẩn về hiệu suất năng lượng của trung tâm dữ liệu dựa trên trí tuệ nhân tạo (AI) của ASHRAE bài viết này thảo luận về các môi trường AI được thiết kế chuyên dụng trong phạm vi công suất từ 50 đến 120+ kW trên mỗi giá máy chủ và đề xuất các kiến trúc làm mát được thiết kế dành riêng cho các mật độ công suất đó. Hệ thống làm mát của cơ sở chắc chắn rất quan trọng. Tuy nhiên, hệ thống này không thể khắc phục được vấn đề kết nối kém giữa linh kiện và tấm tản nhiệt bên trong máy chủ.

Ba xu hướng khiến việc thiết kế giao diện trở nên khó khăn hơn:

• Công suất cao hơn trong diện tích nhỏ hơn. Dòng nhiệt vẫn tăng ngay cả khi tổng diện tích mô-đun không tăng.
• Các bộ phận khác xung quanh bàn đạp ga. Các cụm HBM, bộ điều chỉnh điện áp, thiết bị kết nối và các giai đoạn nguồn tạo ra các điểm nóng bổ sung.
• Dư lượng cơ học ít hơn. Các gói linh kiện cỡ lớn, các kết nối có khoảng cách chân nhỏ và các bảng mạch có mật độ cao không chịu được lực kẹp không được kiểm soát.

Nhiệm vụ không chỉ đơn thuần là “giữ cho GPU mát mẻ”. Mà còn phải đảm bảo GPU, bộ nhớ và hệ thống cấp nguồn đều hoạt động trong giới hạn cho phép cùng một lúc, mà không làm cong mô-đun, không làm mất tiếp xúc với linh kiện lân cận hay gây khó khăn cho việc bảo trì tại hiện trường.

Trước tiên, hãy xác định rõ bạn đang thiết kế giao diện nào

Một bộ tăng tốc AI bao gồm nhiều giao diện tản nhiệt, và mỗi giao diện thực hiện các chức năng khác nhau. Đường dẫn GPU chính thường sử dụng một lớp vật liệu mỏng nằm giữa chip, nắp, tấm tản nhiệt hoặc tấm làm mát. Các miếng đệm khe hở (gap pads) thường được sử dụng nhiều hơn trong các trường hợp chiều cao của các linh kiện khác nhau hoặc khi cần lấp đầy khoảng cách lớn hơn. Việc kết hợp bừa bãi các vị trí này sẽ dẫn đến các thông số kỹ thuật không đạt yêu cầu và, đôi khi, phải thực hiện việc sửa chữa lại với chi phí rất cao.

TIM1: Dán lên bộ tản nhiệt tích hợp hoặc nắp vỏ

TIM1 nằm bên trong vỏ gói, giữa die silicon hoặc chiplet và nắp hoặc bộ tản nhiệt. Chất này có thể là hàn chì, chất dán hiệu suất cao, màng mỏng hoặc vật liệu kỹ thuật khác dành riêng cho vỏ gói. Các nhà sản xuất máy chủ thường không thay thế chất này. Nhà cung cấp vỏ gói kiểm soát giao diện này vì ứng suất của die, hiện tượng cong vênh, độ bám dính và độ tin cậy lâu dài có mối liên hệ chặt chẽ với nhau.

TIM2: Nắp vỏ kết nối với bộ tản nhiệt hoặc tấm làm mát

TIM2 kết nối nắp vỏ với thiết bị làm mát bên ngoài. Mối nối này thường mỏng và được kẹp chặt cẩn thận. Mỡ bôi trơn, vật liệu thay đổi pha, màng hiệu suất cao hoặc các loại TIM có độ bám dính thấp khác là những lựa chọn phổ biến. Miếng đệm khe hở dày vài milimet theo kiểu truyền thống hiếm khi là lựa chọn ưu tiên khi cả hai bề mặt đều phẳng và mục tiêu chính là đạt được điện trở giao diện thấp nhất có thể.

Các giao diện Gap-Pad xung quanh HBM, VRM và các linh kiện hỗ trợ

Miếng đệm tản nhiệt phát huy tác dụng khi các cụm bộ nhớ, bộ điều chỉnh điện áp, cuộn cảm, bộ điều khiển, bộ tái đồng bộ hóa hoặc các linh kiện mặt sau cần kết nối với bộ tản nhiệt chung, khung, nắp hoặc tấm làm mát, bất chấp sự chênh lệch về chiều cao. Miếng đệm này lấp đầy khoảng trống có thể đo lường được và bù đắp các sai số kỹ thuật. Nó cũng có thể đảm bảo cách ly điện và giảm chấn rung.

Giao diện giữa bo mạch chủ và khung máy, cũng như giao diện với tấm lưng

Một số thiết kế tạo ra một đường dẫn thứ cấp từ mặt sau của mô-đun hoặc bo mạch máy chủ vào tấm kết cấu. Các điểm tiếp xúc có thể phân tán nhiệt có cường độ thấp hơn, giảm các điểm nóng cục bộ và tận dụng diện tích khung máy vốn dĩ sẽ bị bỏ trống. Đường dẫn qua tấm kết cấu rất hữu ích, nhưng nó không thể thay thế một cách kỳ diệu cho đường dẫn chính của GPU vốn yếu kém.

Nếu trên bản vẽ của bạn, cả sáu vị trí đều được ghi là “miếng tản nhiệt”, hãy dừng lại một chút. Loại vật liệu nên được xác định dựa trên kết cấu cơ khí, chứ không phải dựa trên một tên gọi chung chung trong danh mục mua sắm.

Các vị trí lắp đặt miếng tản nhiệt bên trong máy chủ AI và GPU

Miếng đệm tản nhiệt được sử dụng ở bất kỳ vị trí nào mà máy chủ cần một cầu nối sạch sẽ, có thể lặp lại và có khả năng nén giữa các linh kiện có độ cao không đồng đều và bề mặt tản nhiệt. Các đối tượng ứng dụng điển hình bao gồm HBM và các thiết bị bộ nhớ, bộ điều chỉnh điện áp, mô-đun nguồn, tấm lưng, chip mạng, bộ điều khiển lưu trữ và bộ xử lý phụ. Vai trò của chúng trở nên đặc biệt quan trọng khi một tấm đệm phải tiếp xúc với nhiều linh kiện có độ cao khác nhau.

HBM và các thiết bị bộ nhớ khác

Bộ nhớ băng thông cao (HBM) được bố trí gần bộ gia tốc vì các kết nối ngắn và rộng hỗ trợ lưu lượng dữ liệu khổng lồ. Sự gần gũi này rất có lợi cho hiệu năng nhưng lại gây khó khăn cho việc tản nhiệt. Nhiệt độ của HBM và GPU cùng tác động đến môi trường ở cấp độ gói chip, trong khi độ đồng phẳng của gói chip và độ cong cục bộ lại ảnh hưởng đến độ tiếp xúc.

Một miếng đệm mềm hoặc vật liệu dẫn nhiệt (TIM) có tính đàn hồi khác có thể kết nối các vùng bộ nhớ với nắp hoặc tấm tản nhiệt. Vật liệu này phải truyền nhiệt mà không gây áp lực quá lớn lên gói sản phẩm. Nó cũng cần duy trì sự tiếp xúc sau quá trình thử nghiệm nhiệt tuần hoàn. Một miếng đệm cứng hơn, có độ dẫn nhiệt cao hơn không nhất thiết đã an toàn hơn. Gói sản phẩm có thể ưu tiên độ mềm hơn là giá trị W/mK được tính toán trên bảng tính.

Các kiến trúc bộ nhớ mới nổi càng làm cho điều này trở nên quan trọng hơn nữa. SK hynix đã công bố khái niệm iHBM điều này bổ sung các thành phần tản nhiệt gần các giao diện HBM trong tương lai. Đây là một định hướng ở cấp độ gói sản phẩm, chứ không phải là khuyến nghị về miếng đệm thay thế trực tiếp, nhưng nó cho thấy trọng tâm của ngành: nhiệt độ của bộ nhớ không còn là vấn đề phụ hay chi tiết nhỏ nữa.

VRM, mạch công suất và cuộn cảm

Một mô-đun gia tốc đòi hỏi khả năng chuyển đổi công suất lớn. Các linh kiện MOSFET, các giai đoạn công suất tích hợp, bộ điều khiển và cuộn cảm có thể tạo ra nhiệt tập trung xung quanh GPU. Chiều cao và hình dạng bề mặt của chúng khác nhau, khiến việc lắp ghép trực tiếp với một tấm tản nhiệt phẳng trở nên khó khăn.

Miếng đệm, chất trám và chất lấp khe hở dùng một lần là những lựa chọn phổ biến. Có thể cần phải cách điện nếu tấm làm mát dẫn điện hoặc nếu các nút tiếp xúc nằm gần đó. Đối với cuộn cảm, bề mặt tiếp xúc có thể không bằng phẳng, do đó khả năng bám sát là rất quan trọng. Không nên ấn một miếng đệm cứng lên vỏ bọc dễ vỡ chỉ vì cuộn cảm bên cạnh có thể chịu được điều đó.

Tấm lưng GPU và khung gia cố

Tấm nền có thể cung cấp sự hỗ trợ cơ học và một đường dẫn nhiệt phụ. Các miếng đệm có thể kết nối các vùng mặt sau nóng với tấm nền đó. Điều này thường thấy trong các thẻ mở rộng và cũng có thể xuất hiện trong các mô-đun máy chủ hoặc phần cứng AI biên.

Việc làm mát tấm lưng phải được đánh giá như một phần của toàn bộ cụm lắp ráp. Các miếng đệm dày có thể làm cong bo mạch in (PCB) nếu các chân đế và ốc vít không chịu được tải trọng. Ngoài ra, tấm lưng nóng vẫn cần một nơi để tản nhiệt. Một tấm kim loại chỉ đóng vai trò như một bộ tích nhiệt trong thời gian ngắn; cuối cùng, nó vẫn cần luồng không khí, khung đỡ hoặc một đường dẫn nhiệt khác.

Giao diện mạng, bộ tái định thời và chip chuyển mạch

Các máy chủ GPU cũng được trang bị các bộ điều khiển mạng tốc độ cao (NIC), bộ xử lý dữ liệu (DPU), bộ điều chỉnh thời gian (retimer), bộ chuyển mạch PCIe và các thành phần mạng. Các thiết bị này có thể sử dụng bộ tản nhiệt riêng hoặc được gắn trực tiếp vào nắp máy chủ. Miếng đệm cắt khuôn có thể giúp đơn giản hóa việc lắp đặt trong trường hợp khoảng cách đã được xác định trước và nắp máy chủ được tháo ra trong quá trình bảo trì.

Ổ SSD, bộ điều khiển và tài nguyên tính toán phụ trợ

Ổ cứng NVMe, bộ điều khiển BMC, CPU và bộ tăng tốc lưu trữ tạo ra các nguồn nhiệt nhỏ rải rác khắp khung máy. Các miếng tản nhiệt có thể kết nối chúng với các tấm đế hoặc các bộ tản nhiệt được hướng dòng khí. Mục tiêu thiết kế có thể là độ tin cậy và sự đồng đều về nhiệt độ thay vì đạt được thông lượng nhiệt tối đa.

Các đặc tính của miếng tản nhiệt quan trọng hơn các con số quảng cáo

Giao diện lắp đặt phụ thuộc vào độ dẫn nhiệt, độ dày, điện trở tiếp xúc, lực nén, diện tích, độ phẳng bề mặt và quá trình lão hóa. Giá trị W/mK cao chỉ mô tả một tính chất vật liệu theo phương pháp quy định. Bản thân giá trị này không thể dự đoán nhiệt độ điểm nóng của GPU. Các kỹ sư nên so sánh các miếng đệm ứng cử trong điều kiện độ dày và áp suất thực tế, sau đó xác nhận hiệu suất trong mô-đun hoàn chỉnh.

Độ dẫn nhiệt so với trở kháng nhiệt

Độ dẫn nhiệt cho biết nhiệt truyền qua vật liệu khối dễ dàng đến mức nào. Trở kháng nhiệt hoặc điện trở nhiệt mô tả mức chênh lệch nhiệt độ tại một điều kiện giao diện cụ thể. Đối với một lớp đồng nhất đơn giản:

R = t / (k × A)

Ở đây, t là độ dày, k là độ dẫn điện và A là diện tích tiếp xúc. Các mối nối thực tế tạo ra lực cản tiếp xúc ở cả hai bề mặt. Vì vậy, đúng vậy, một miếng đệm có hệ số dẫn nhiệt 12 W/mK có thể kém hiệu quả hơn so với một miếng đệm mềm hơn có hệ số dẫn nhiệt 6 W/mK nếu miếng đệm đầu tiên dày hơn hoặc chỉ chạm nhẹ vào bề mặt.

Đọc Độ dẫn nhiệt so với trở kháng nhiệt trong việc lựa chọn vật liệu dẫn nhiệt (TIM) và Tại sao giá trị W/mK cao không phải lúc nào cũng đồng nghĩa với khả năng làm mát tốt hơn trước khi so sánh các giá trị trong tiêu đề.

Độ dày đường nối và khe hở thực tế

Đo khe hở tối thiểu, danh định và tối đa sau khi lắp ráp. Cần tính đến chiều cao vỏ, dung sai linh kiện, độ biến thiên của chất hàn, độ cong của bảng mạch, độ phẳng của tấm tản nhiệt, độ nén của miếng đệm, thứ tự lắp các chi tiết cố định và độ giãn nở nhiệt.

Miếng đệm được chọn phải tiếp xúc ở khoảng cách tối đa và phải duy trì lực tác động dưới giới hạn cho phép ở khoảng cách tối thiểu. Việc thêm 1 mm “để đảm bảo an toàn” không phải là miễn phí. Độ dày thêm sẽ làm tăng chiều dài đường truyền nhiệt và thường làm tăng tải trọng.

Của Haktak’s Hướng dẫn lựa chọn độ dày miếng tản nhiệt và Hướng dẫn dung sai độ dày Giải thích chi tiết hơn về quy trình xếp chồng.

Độ nén, mô-đun và lực tổng

Áp lực nén đẩy không khí ra ngoài và giúp vật liệu ôm sát bề mặt. Nếu áp lực quá thấp sẽ dẫn đến tiếp xúc không hoàn toàn. Ngược lại, nếu áp lực quá cao có thể làm cong tấm ván, gây quá tải cho các mối hàn, làm nứt các linh kiện hoặc làm ảnh hưởng đến giao diện chính giữa GPU và tấm làm mát.

Lực tổng là tích của áp suất và diện tích. Chính sự thật đơn giản này lại khiến các đội gặp khó khăn. Một miếng đệm có cảm giác mềm khi kẹp giữa hai ngón tay cũng có thể tạo ra tải trọng lớn khi được đặt lên một mô-đun có diện tích lớn.

Đừng lấy độ cứng để thay thế cho đường cong nén. Hãy yêu cầu dữ liệu ứng suất-biến dạng hoặc nén-biến dạng ở độ dày và nhiệt độ tương ứng. Sau đó, hãy đọc Ảnh hưởng của áp suất nén đến hiệu suất của miếng tản nhiệt và Tỷ lệ nén miếng tản nhiệt: Bao nhiêu là đủ?.

Cách điện

Nhiều miếng đệm polymer chứa gốm có tính cách điện. Trong khi đó, than chì và một số vật liệu chuyên dụng hiệu suất cao lại không có tính chất này. Cần xác định xem miếng đệm có đi qua các dây dẫn hở, các mạch công suất hay các bộ phận làm mát được nối đất hay không. Độ bền điện môi, điện trở suất thể tích, khả năng chống đâm thủng, khoảng cách rò điện và khoảng cách cách điện là những yếu tố thuộc về kế hoạch an toàn điện toàn diện.

IEC 60243-1 bao gồm việc thử nghiệm độ bền điện của các vật liệu cách điện rắn ở tần số điện lưới. Kết quả tốt sẽ hỗ trợ việc lựa chọn vật liệu; nó không chứng nhận toàn bộ máy chủ. Hướng dẫn của Haktak về miếng đệm cách nhiệt và cách điện mang lại bối cảnh thực tiễn.

Độ biến dạng nén và tiếp xúc lâu dài

Các máy chủ AI có thể hoạt động liên tục dưới tải kẹp ổn định. Theo thời gian và do ảnh hưởng của nhiệt độ, miếng đệm polymer có thể bị giãn ra hoặc bị biến dạng vĩnh viễn. Áp suất tiếp xúc có thể giảm, đặc biệt là sau các chu kỳ hoạt động hoặc khi tháo lắp bảo trì.

Hãy hỏi cách đo độ biến dạng vĩnh viễn do nén: thời gian, nhiệt độ, mức độ nén và thời gian phục hồi đều là những yếu tố quan trọng. Sau đó, cần xác minh hiệu suất nhiệt sau thời gian lão hóa trong điều kiện lắp đặt thực tế. Một mẫu chưa qua sử dụng có thể trông hoàn hảo, nhưng sau nhiều tháng chịu tải, biên độ an toàn tại bề mặt tiếp xúc có thể bị suy giảm một cách âm thầm.

Hút chất thải, làm khô và ổn định pha

Hiện tượng “bơm ra” thường được đề cập nhiều hơn khi nói đến các loại mỡ bôi trơn, gel và vật liệu thay đổi pha so với miếng đệm rắn. Quá trình giãn nở lặp đi lặp lại có thể khiến vật liệu dẫn nhiệt (TIM) mềm bị đẩy ra khỏi vùng nóng. Hiện tượng khô cạn hoặc tách lớp cũng có thể làm thay đổi hiệu suất. Miếng đệm rắn có khả năng chống lại sự chảy tự do, nhưng chúng có thể bị trượt, rách hoặc bị ép ra ngoài nếu bị nén quá mức.

Không có định dạng nào có thể tránh khỏi sự lỗi thời. Cách thức thất bại chỉ đơn thuần là thay đổi hình thức mà thôi.

Vật liệu miếng tản nhiệt cho máy chủ GPU

Hầu hết các miếng đệm lấp khe đều sử dụng chất kết dính polymer chứa các hạt dẫn nhiệt. Elastomer silicone được sử dụng phổ biến vì chúng có thể mềm, ổn định và dễ gia công. Các chất kết dính không chứa silicone được dùng cho các hệ thống nhạy cảm với ô nhiễm. Chất độn gốm hỗ trợ khả năng dẫn nhiệt và cách điện, trong khi than chì mang lại khả năng tản nhiệt mạnh nhưng lại dẫn điện và có tính dị hướng.

Miếng lót cách nhiệt bằng silicone

Miếng lót cách nhiệt bằng silicone bao gồm nhiều mức độ dày, độ cứng và hiệu suất nhiệt khác nhau. Chúng có thể ôm sát các linh kiện HBM, VRM, bộ nhớ và các linh kiện mặt sau, đồng thời vẫn dễ dàng cắt khuôn.

Các vấn đề tiềm ẩn bao gồm hiện tượng di chuyển siloxan, rò rỉ dầu silicone hoặc các hạn chế về vật liệu từ phía khách hàng. Những vấn đề này phụ thuộc vào từng ứng dụng cụ thể. Miếng đệm silicone không nhất thiết là bẩn, và miếng đệm không chứa silicone cũng không nhất thiết có mức thoát khí thấp. Cần xác định rõ mức độ rủi ro thực tế.

Miếng lót tản nhiệt không chứa silicone

Miếng lót cách nhiệt không chứa silicone có thể được yêu cầu đối với các bộ phận tiếp xúc nhạy cảm, thiết bị quang học, quy trình phủ lớp hoặc liên kết, hoặc trong trường hợp một công ty siêu quy mô duy trì danh sách vật liệu bị hạn chế. Cần làm rõ khái niệm “không chứa silicone” trong dự án và liệu có yêu cầu thực hiện thử nghiệm phân tích hoặc thử nghiệm thoát khí cụ thể hay không.

Xem Hiểu về các vật liệu cách nhiệt không chứa silicone và Vật liệu nhiệt có độ thoát khí thấp là gì? để giải thích sự chênh lệch giữa các chỉ số hóa học và lượng phát thải được đo lường.

Tấm than chì và miếng đệm nhiệt bằng than chì

Miếng đệm tản nhiệt bằng than chì có thể truyền nhiệt theo hướng ngang từ một điểm nóng cục bộ. Độ dẫn nhiệt trong mặt phẳng của chúng thường cao hơn nhiều so với độ dẫn nhiệt xuyên theo chiều dày. Chúng cũng dẫn điện và nói chung có độ đàn hồi kém hơn so với các miếng đệm khe hở bằng chất đàn hồi dày.

Graphite có thể hỗ trợ tấm đệm bằng cách phân tán nhiệt trước khi nhiệt đi vào bề mặt làm mát lớn hơn. Không nên sử dụng graphite như một chất lấp đầy khe hở dày thông thường, trừ khi cấu trúc được thiết kế dành riêng cho mục đích đó.

Màng gia cố và cách nhiệt

Vật liệu gia cường bằng sợi thủy tinh hoặc polymer giúp cải thiện khả năng vận hành, độ bền chống rách và độ ổn định kích thước. Vải silicon chịu nhiệt Có thể phù hợp với các mối nối mỏng có tính cách điện, nơi các bề mặt tương đối phẳng. Tuy nhiên, việc gia cố có thể làm giảm độ khít, do đó cần kiểm tra độ tiếp xúc trên các cuộn cảm không bằng phẳng hoặc các linh kiện có chiều cao khác nhau.

Các loại chất độn gốm và chất kết dính

Các chất độn cách điện phổ biến bao gồm oxit nhôm, nitrua bo và các hệ gốm khác. Công thức pha chế ảnh hưởng đến độ dẫn điện, độ mềm, mật độ, tính chất bề mặt và chi phí. Tăng lượng chất độn có thể nâng cao độ dẫn điện nhưng cũng có thể làm tăng độ cứng. Công thức tối ưu là sự cân bằng – đây là một câu trả lời có phần nhàm chán nhưng lại là câu trả lời trung thực nhất.

Miếng tản nhiệt, mỡ tản nhiệt, PCM, gel hay chất lấp khe dạng lỏng?

Nên sử dụng miếng đệm khi khe hở đã được xác định, việc định vị bằng khuôn cắt mang lại giá trị gia tăng và các yếu tố như việc sửa chữa lại hoặc độ sạch sẽ là quan trọng. Nên sử dụng mỡ bôi trơn hoặc vật liệu thay đổi pha cho các bề mặt tiếp xúc chính mỏng và được kẹp chặt. Nên xem xét sử dụng chất lấp đầy khe hở dạng gel, bột nhão hoặc chất lỏng cho các bộ phận nhạy cảm, địa hình phức tạp hoặc sự biến động lớn về khe hở. Hệ thống làm mát bằng chất lỏng thay đổi bộ tản nhiệt, chứ không ảnh hưởng đến nguyên lý cơ bản của bề mặt tiếp xúc này.

Hệ thống làm mát bằng chất lỏng có loại bỏ miếng tản nhiệt không?

Không. Hệ thống làm mát bằng chất lỏng trực tiếp lên chip có thể thay thế hoặc hỗ trợ bộ tản nhiệt phía không khí, nhưng nhiệt vẫn phải đi qua các giao diện giữa vỏ đóng gói và linh kiện trước khi đi vào tấm làm mát. Các miếng đệm có thể vẫn được giữ lại xung quanh HBM, các thiết bị nguồn, bộ tái đồng bộ và tấm nền. Trên thực tế, một tấm làm mát tốt hơn có thể khiến điện trở tại các giao diện bên trong chiếm tỷ trọng lớn hơn trong tổng mức tăng nhiệt độ.

The Bài báo của Open Compute Project về các nền tảng huấn luyện AI của Meta chỉ ra rằng điện trở bên trong gói, việc kiểm soát hiện tượng cong vênh và việc triển khai vật liệu dẫn nhiệt (TIM) ngày càng trở nên quan trọng đối với các mô-đun công suất cao. Chất lỏng có hiệu quả cao, nhưng nó không thể khắc phục được tình trạng tiếp xúc kém.

Các hệ thống làm mát bằng không khí, làm mát bằng chất lỏng và làm mát bằng ngâm cần những giải pháp khác nhau

Kiến trúc làm mát xác định các điều kiện biên cho từng TIM. Các máy chủ làm mát bằng không khí phụ thuộc rất nhiều vào điện trở tản nhiệt, lưu lượng không khí và nhiệt độ đầu vào. Làm mát bằng chất lỏng trực tiếp giúp đưa tấm làm mát đến gần chip hơn nhưng lại đặt ra các hạn chế về nhiệt độ, lưu lượng và áp suất của chất làm mát. Phương pháp ngâm chất lỏng lại đặt ra các vấn đề về tính tương thích vật liệu và khả năng bịt kín. Không nên sao chép một cách máy móc cùng một thông số kỹ thuật của miếng đệm cho cả ba phương pháp này.

Máy chủ GPU làm mát bằng không khí

Làm mát bằng không khí vẫn là giải pháp thiết thực cho nhiều bộ gia tốc PCIe, máy chủ suy luận, hệ thống biên và các giá đỡ có mật độ thấp. Các miếng đệm thường kết nối bộ nhớ và các mô-đun điều chỉnh điện áp (VRM) với bộ tản nhiệt chính hoặc tấm lưng. Đường cong quạt, điện trở của cánh tản nhiệt và quá trình tuần hoàn không khí quyết định mức độ hiệu quả của các đường dẫn này.

Áp lực cao từ miếng đệm có thể làm cho bộ tản nhiệt chính bị nâng lên một chút so với bề mặt tiếp xúc của GPU. Điều này dẫn đến tình huống kỳ lạ là bộ nhớ trở nên mát hơn trong khi điểm nóng của GPU lại nóng lên. Việc kiểm tra độ tiếp xúc và thứ tự lắp đặt các chi tiết cố định là rất quan trọng.

Hệ thống làm mát bằng chất lỏng trực tiếp trên chip

Các tấm làm mát có thể loại bỏ tải nhiệt cao với công suất quạt thấp hơn và khả năng kiểm soát nhiệt độ chính xác hơn. ASHRAE cho rằng làm mát bằng chất lỏng ngày càng trở nên quan trọng khi mật độ nhiệt của các thiết bị điện tử đang vượt quá khả năng của hệ thống làm mát bằng không khí. Hệ thống này phải phối hợp giữa nguồn nước của cơ sở, bộ trao đổi nhiệt trung tâm (CDU) hoặc vòng lặp làm mát công nghệ, các tấm làm mát, các đầu nối tháo lắp nhanh, hệ thống điều khiển và cơ chế phản ứng khi rò rỉ.

Ở cấp độ linh kiện, độ phẳng của tấm tản nhiệt và độ cong vênh của mô-đun cần được chú ý kỹ lưỡng. Tấm tản nhiệt có thể tiếp xúc với gói chính thông qua một lớp TIM mỏng, trong khi các cụm pad riêng biệt kết nối với HBM hoặc các bộ phận cấp nguồn. Các cụm pad này tuyệt đối không được làm cho tấm tản nhiệt bị tách khỏi bề mặt tiếp xúc chính.

Làm mát bằng ngâm

Phương pháp ngâm một pha hoặc hai pha là phương pháp đặt linh kiện vào chất lỏng điện môi. Các miếng đệm tiếp xúc với không khí truyền thống có thể bị phồng lên, mềm đi, rò rỉ các chất phụ gia hoặc mất độ bám dính tùy thuộc vào thành phần hóa học của chất lỏng. Một số bề mặt tiếp xúc vẫn cần sử dụng chất dẫn nhiệt dạng rắn (TIM), nhưng phải tiến hành kiểm tra tính tương thích với chính xác loại chất lỏng ngâm, nhiệt độ và thời gian tiếp xúc.

Đừng chỉ dựa vào tuyên bố chung chung rằng sản phẩm “chống dầu”. Các loại chất lỏng ngâm tẩm khác nhau. Các chất kết dính và chất độn của miếng đệm cũng vậy.

Hệ thống làm mát kết hợp

Nhiều máy chủ AI sử dụng chất lỏng để làm mát GPU và CPU, trong khi bộ nhớ, thiết bị lưu trữ, bộ nguồn và các thành phần mạng được làm mát bằng không khí. Khung hướng dẫn của ASHRAE mô tả thực trạng kết hợp này ở quy mô cơ sở. Một kế hoạch quản lý nhiệt ở cấp độ máy chủ cần theo dõi cả hai đường dẫn nhiệt, bởi vì các tải còn lại được làm mát bằng không khí vẫn ảnh hưởng đến nhiệt độ đầu vào và mức tiêu thụ năng lượng của quạt.

Quy trình lựa chọn miếng tản nhiệt thực tiễn

Hãy bắt đầu từ việc lắp ráp, chứ không phải từ bộ lọc danh mục. Xác định các nguồn nhiệt và bề mặt tản nhiệt, tính toán toàn bộ phạm vi khe hở, xác định giới hạn lực tác động lên các bộ phận và ước tính mức tăng nhiệt độ cho phép tại giao diện. Sau đó, sàng lọc các nhóm vật liệu, chế tạo các chi tiết mẫu tương tự như sản phẩm thực tế và kiểm chứng máy chủ có nguồn điện trong các điều kiện môi trường và vận hành.

1. Lập bản đồ hệ thống tản nhiệt

Xác định GPU, HBM, VRM, cuộn cảm, NIC, bộ điều chỉnh thời gian, CPU, SSD và các bộ điều khiển hỗ trợ. Ghi lại mức công suất dự kiến, giới hạn nhiệt độ và bề mặt tản nhiệt dự kiến. Đánh dấu các tấm chung vì áp lực tiếp xúc của một linh kiện có thể ảnh hưởng đến tiếp xúc của linh kiện khác.

2. Xây dựng hệ thống dung sai

Cần kết hợp các yếu tố như chiều cao linh kiện, chất hàn, độ cong của vỏ đóng gói và bảng mạch in (PCB), độ phẳng của tấm làm mát, chân đế cách ly, vị trí vít, lực nén của gioăng và độ biến động trong quá trình sản xuất. Sử dụng các giá trị khe hở tối thiểu, danh định và tối đa. Cần đo đạc nhiều mẫu thử, không chỉ riêng mẫu đẹp nhất.

3. Xác định ngân sách lực lượng

Xác định giới hạn tải trọng của linh kiện và bảng mạch. Chuyển đổi độ nén của chân linh kiện thành áp suất dựa trên các đường cong do nhà cung cấp cung cấp, sau đó nhân với diện tích tiếp xúc. Kiểm tra phân bố tải trọng và vị trí các điểm tựa. Đối với các tấm làm mát nhiều vùng, tiến hành phân tích từng vùng và tác động tổng hợp của chúng.

4. Xác định mục tiêu nhiệt

Sử dụng công suất và mức tăng nhiệt độ cho phép để ước tính nhu cầu về điện trở giao diện. Cần tính đến nhiệt độ của tấm làm mát hoặc bộ tản nhiệt. Miếng đệm không thể bù đắp cho chất làm mát đã quá nóng hoặc luồng không khí không bao giờ tiếp xúc được với các cánh tản nhiệt.

5. Bổ sung các yêu cầu về điện và vệ sinh

Hãy nêu rõ liệu vật liệu đó có phải có tính cách nhiệt, đáp ứng tiêu chuẩn về mức độ dễ cháy, không chứa silicone, hạn chế hiện tượng thoát khí hay chịu được ngâm trong chất lỏng hay không. Tránh sử dụng các cụm từ mơ hồ như “loại dành cho máy chủ”. Các điều kiện và tiêu chí đánh giá đạt yêu cầu sẽ hữu ích hơn nhiều.

6. So sánh các hình thức đánh giá, không chỉ dựa vào điểm số

Hãy quyết định xem miếng đệm, gel, bột trám, chất trám khe dạng lỏng, mỡ bôi trơn hay PCM là lựa chọn phù hợp nhất cho từng mối nối. Một máy chủ có thể sử dụng bốn loại vật liệu khác nhau. Điều đó là bình thường. Việc cố gắng áp dụng một loại vật liệu duy nhất cho mọi vị trí có thể giúp đơn giản hóa danh mục vật tư nhưng lại khiến mọi thứ khác trở nên phức tạp hơn.

7. Làm mẫu thử cho chi tiết đã được cải tiến

Sử dụng hình dạng cắt khuôn, lớp lót, miếng kéo và quy trình định vị theo thiết kế. Một phiếu giảm giá hình vuông sẽ không thể bộc lộ các vấn đề như sai lệch vị trí, nhầm lẫn lớp lót, bọt khí bị kẹt hoặc cản trở các đầu nối. Nếu có kế hoạch tự động hóa, hãy tiến hành thử nghiệm việc trình bày và thu gom sản phẩm từ sớm.

8. Kiểm tra tính hợp lệ của phần cứng có nguồn điện

Đo các chỉ số về cạnh/điểm nóng của GPU, nhiệt độ HBM hoặc bộ nhớ, nhiệt độ VRM, điều kiện đầu vào/đầu ra của tấm làm mát, lưu lượng chất làm mát hoặc luồng không khí trong máy chủ, điều kiện môi trường xung quanh và công suất. Chạy các tải huấn luyện hoặc suy luận tiêu biểu, chứ không chỉ là một đợt tăng đột biến ngắn từ trạng thái nhàn rỗi lên mức đỉnh.

9. Tuổi, Thời gian phục vụ và Thi lại

Thực hiện các chuỗi thử nghiệm theo yêu cầu về nhiệt độ, độ ẩm, rung động và chu kỳ bật/tắt nguồn. Sau đó, lặp lại các thử nghiệm nhiệt và kiểm tra giao diện. Mở và lắp ráp lại các bộ phận phần cứng có thể bảo trì để kiểm tra xem miếng đệm có bị rách, dịch chuyển hay bị biến dạng vĩnh viễn hay không.

Cần các tài liệu liên quan đến ứng viên cho một dự án xây dựng? Yêu cầu mẫu miếng đệm tản nhiệt cùng với dải khe hở, diện tích tiếp xúc, giới hạn lực, bản đồ công suất và phương pháp làm mát của bạn.

Cách kiểm tra độ hiệu quả của miếng tản nhiệt trong phần cứng máy chủ AI

Quá trình xác nhận cần liên kết các tính chất vật liệu với hiệu suất ở cấp độ máy chủ. Bắt đầu bằng việc kiểm tra kích thước và các thông số cơ học, sau đó đo nhiệt độ khi hoạt động trong các điều kiện biên được kiểm soát. Tiếp theo là các thử nghiệm lão hóa và phơi nhiễm môi trường, và cuối cùng là lặp lại thử nghiệm nhiệt. So sánh “trước và sau” này sẽ cho thấy sự suy giảm tiếp xúc mà một mẫu mới trong bảng thông số kỹ thuật không thể thể hiện được.

Kiểm tra kết nối trước khi đo nhiệt độ

Sử dụng màng nhạy áp, dấu kiểm tra, tháo lắp có kiểm soát, đo lường hoặc các phương pháp phù hợp khác để kiểm tra độ bao phủ của điểm tiếp xúc. Kiểm tra để đảm bảo rằng các đảo pad không cản trở việc lắp khít của giao diện tấm làm mát chính.

Kiểm tra tiếp xúc có thể giúp tiết kiệm hàng ngày. Nếu chỉ có một góc tiếp xúc, thì dù có sử dụng kỹ thuật CFD để tinh chỉnh đến đâu cũng không thể cứu vãn được kết quả thử nghiệm.

Ghi lại các điều kiện biên

Đối với hệ thống làm mát bằng không khí, hãy ghi lại nhiệt độ đầu vào, lưu lượng khí, tốc độ quạt, áp suất và cấu hình của các card đồ họa lân cận. Đối với hệ thống làm mát bằng chất lỏng, hãy ghi lại loại chất làm mát, nhiệt độ đầu vào, lưu lượng và độ sụt áp. Trong cả hai trường hợp, hãy ghi lại công suất thực tế của GPU hoặc bo mạch.

Nếu không có điều kiện biên, hai kết quả nhiệt chỉ là hai con số được khoác lên những “chiếc áo” khác nhau mà thôi.

Theo dõi không chỉ nhiệt độ lõi GPU

Theo dõi nhiệt độ các điểm nóng, HBM/bộ nhớ, VRM, bo mạch và bề mặt tản nhiệt ở những nơi mà cảm biến hoặc phương pháp thử nghiệm cho phép. Một miếng đệm mới có thể cải thiện hiệu suất của một linh kiện nhưng lại làm giảm hiệu suất của linh kiện khác do thay đổi vị trí tấm tản nhiệt hoặc luồng khí.

Sử dụng các khối lượng công việc phù hợp

Các tác vụ như huấn luyện AI, suy luận, xử lý dữ liệu theo nhóm và các bài kiểm tra đòi hỏi nhiều bộ nhớ sẽ tạo áp lực lên các thành phần khác nhau của hệ thống. Một bài kiểm tra hiệu năng đòi hỏi nhiều sức mạnh tính toán có thể làm nóng GPU theo cách khác so với một tác vụ đòi hỏi băng thông bộ nhớ cao. Hãy kiểm tra cả tổ hợp ứng dụng dự kiến và trường hợp xấu nhất đã được xác định.

Kiểm tra lại sau khi ủ

Các thử nghiệm như chu kỳ nhiệt, bảo quản ở nhiệt độ cao, nhiệt ẩm, rung động và chu kỳ cấp/cắt nguồn có thể phát hiện ra hiện tượng mất độ nén, biến dạng chậm, nứt vỡ, ăn mòn hoặc sự dịch chuyển của vật liệu. Trình tự thực hiện các thử nghiệm này phải phù hợp với yêu cầu và mức độ rủi ro của sản phẩm, chứ không phải là một danh sách ngẫu nhiên sao chép từ máy chủ khác.

Các sự cố thường gặp của miếng tản nhiệt GPU và ý nghĩa của chúng

Nhiệt độ điểm nóng cao, bộ nhớ quá nhiệt và kết quả không nhất quán giữa các máy chủ thường cho thấy vấn đề về hình học hoặc tiếp xúc trước khi cho thấy khả năng dẫn điện không đủ. Độ dày không đúng, độ cứng quá cao, vị trí cắt khuôn không chính xác, tấm làm mát bị cong vênh và lực siết vít không đồng đều là những nguyên nhân phổ biến. Việc thay thế còn tiềm ẩn một rủi ro khác: việc thay đổi một miếng đệm có thể làm xáo trộn giao diện GPU chính.

Miếng đệm quá dày

Một miếng đệm VRM dày có thể khiến bộ tản nhiệt bị đẩy ra xa nắp GPU. Nhiệt độ lõi hoặc điểm nóng vẫn tăng lên dù miếng đệm thay thế có chỉ số dẫn nhiệt tốt hơn. Đây là một trong những chủ đề được nhắc đến nhiều nhất trong các cuộc thảo luận về sửa chữa GPU.

Miếng đệm quá mỏng

Miếng đệm có thể trông như đã được lắp đặt nhưng không bao giờ bị nén. Nhiệt độ bộ nhớ tăng lên, hoặc kết quả thay đổi tùy theo hướng của khung máy và độ rung. Các vết hằn có thể cho thấy tiếp xúc một phần hoặc không tiếp xúc.

Miếng đệm quá cứng

Vật liệu cứng có thể truyền tải trọng vào cảm biến HBM, cuộn cảm, các mối hàn hoặc bảng mạch in (PCB). Loại vật liệu này cũng có thể khó thích ứng với các bề mặt bị cong vênh. Hãy yêu cầu thông số về ứng suất nén, chứ không chỉ độ cứng Shore.

Miếng đệm bị trượt hoặc ổn định lại

Sau một thời gian dài hoạt động ở nhiệt độ cao, miếng đệm có thể không phục hồi được. Áp suất tiếp xúc giảm xuống. Máy chủ vượt qua các bài kiểm tra ban đầu nhưng sau đó mất đi biên độ an toàn — đây chính xác là loại vấn đề mà không ai muốn phải giải thích trong quá trình triển khai hệ thống.

Máy bơm TIM chính ngừng hoạt động

Nhiệt độ GPU có thể dao động ngay cả khi các miếng đệm phụ vẫn hoạt động bình thường. Hiện tượng giãn nở nhiệt lặp đi lặp lại có thể làm chất bôi trơn bị dịch chuyển khỏi vùng nóng ở trung tâm. Việc sử dụng chất dẫn nhiệt pha rắn (PCM) phù hợp hoặc công thức có khả năng chống rò rỉ tốt hơn có thể giúp khắc phục vấn đề này, nhưng cũng cần kiểm tra hệ thống lắp đặt và tình trạng bề mặt.

Lớp lót hoặc màng bảo vệ vẫn được giữ nguyên tại chỗ

Đúng vậy, tình trạng này vẫn còn xảy ra. Nguyên nhân là do lớp lót bị rách, màu sắc màng bọc tương tự nhau và quá trình lắp ráp được thực hiện vội vàng. Hãy sử dụng các miếng kéo dễ nhận biết, hướng dẫn làm việc bằng hình ảnh và phương pháp đóng gói poka-yoke.

Miếng đệm bị xê dịch trong quá trình bảo dưỡng

Miếng đệm dính có thể bị giãn ra hoặc rách khi tháo tấm làm mát. Miếng đệm không dính có thể rơi ra hoặc bị xê dịch trong quá trình lắp ráp lại. Cần xác định rõ liệu các miếng đệm có thể tái sử dụng hay không và bổ sung miếng đệm thay thế vào bộ dụng cụ bảo trì khi cần thiết.

Các tiêu chuẩn và hướng dẫn ngành cần biết

Không có tiêu chuẩn nào riêng lẻ chứng nhận rằng một miếng tản nhiệt phù hợp với mọi máy chủ AI. Các phương pháp của ASTM có thể đánh giá khả năng truyền nhiệt, các phương pháp của IEC có thể hỗ trợ thử nghiệm điện và môi trường, tiêu chuẩn UL 94 quy định về tính dễ cháy của vật liệu ở quy mô nhỏ, còn hướng dẫn của ASHRAE/OCP quy định các điều kiện tại trung tâm dữ liệu và hệ thống làm mát bằng chất lỏng. Kế hoạch thử nghiệm sản phẩm phải kết nối các yếu tố này lại với nhau.

Hãy sử dụng phiên bản hiện hành theo yêu cầu của khách hàng. Các phương pháp thử nghiệm và phiên bản có thể thay đổi. Ngoài ra, chỉ nên so sánh dữ liệu khi đã nắm rõ các thông số về độ dày, áp suất, nhiệt độ, thiết bị kẹp và cấu tạo vật liệu.

Để hiểu rõ hơn về vấn đề này, hãy đọc hướng dẫn của Haktak về các tiêu chuẩn kiểm tra TIM phổ biến và Cách kiểm tra độ dẫn nhiệt.

Một ví dụ thực tế về tấm làm mát cho bộ gia tốc AI

Hãy hình dung một bộ tăng tốc theo phong cách OAM với một gói linh kiện ở trung tâm, các vùng HBM liền kề và các giai đoạn cấp nguồn bố trí xung quanh viền. Một tấm làm mát bằng chất lỏng tiếp xúc với gói linh kiện thông qua một lớp chất dẫn nhiệt (TIM) chính mỏng. Các “đảo” riêng biệt trải dài qua khu vực bộ nhớ và các mô-đun điều chỉnh điện áp (VRM). Bản vẽ thể hiện các khe hở tiêu chuẩn, nhưng các kết quả đo đạc trên nguyên mẫu cho thấy sự biến động về độ phẳng của tấm làm mát và độ đồng phẳng của gói linh kiện.

Phiên bản đầu tiên sử dụng một loại miếng tản nhiệt có độ dẫn nhiệt cao và chắc chắn trên mỗi cụm thứ cấp. Nhiệt độ bộ nhớ ở mức ổn định. Tuy nhiên, nhiệt độ tại điểm nóng của GPU lại cao hơn dự đoán. Kết quả kiểm tra tiếp xúc cho thấy các miếng tản nhiệt VRM dày đang phải chịu tải quá lớn và khiến tấm tản nhiệt bị nhô lên nhẹ so với gói chip chính.

Giải pháp không nhất thiết phải là sử dụng một loại TIM chính có độ dẫn nhiệt cao hơn. Một cuộc điều tra hợp lý sẽ:

1. Đo khoảng cách tối thiểu và tối đa tại mỗi đảo.
2. Ghi lại độ phẳng của tấm làm mát và độ đồng phẳng của gói sản phẩm.
3. Tính toán lực tổng hợp từ tất cả các diện tích miếng đệm.
4. Nên sử dụng miếng đệm mềm hơn hoặc mỏng hơn ở những vị trí chịu tải quá lớn.
5. Nên cân nhắc sử dụng chất trám khe dạng gel hoặc lỏng cho các bộ phận có độ biến thiên lớn nhất.
6. Sau khi thực hiện thay đổi, hãy kiểm tra lại tiếp điểm của giao diện chính.
7. Tiến hành các bài kiểm tra nhiệt độ GPU, HBM và VRM trong cùng điều kiện công suất và hệ thống làm mát.
8. Để cụm chi tiết đó “lão hóa” và lặp lại các phép đo.

Có thể thiết kế cuối cùng sẽ sử dụng một lớp PCM mỏng hoặc mỡ bôi trơn tại vị trí TIM2, các miếng đệm mềm trên HBM và chất lấp đầy khe hở dạng phun lên các linh kiện nguồn có chiều cao khác nhau. Giải pháp kết hợp này không phải là một thiết kế thiếu khoa học. Mỗi giao diện đều được cung cấp vật liệu phù hợp với nhu cầu của nó.

Không có nhà cung cấp có trách nhiệm nào có thể hứa hẹn mức giảm nhiệt độ GPU cụ thể chỉ dựa trên một bức ảnh. Các yếu tố như cấu trúc hình học, công suất, chất làm mát và cách lắp đặt là những yếu tố quyết định kết quả. Việc sàng lọc vật liệu giúp thu hẹp các lựa chọn; còn việc kiểm chứng phần cứng mới là yếu tố quyết định cuối cùng.

Miếng tản nhiệt cắt khuôn theo yêu cầu dành cho sản xuất máy chủ AI

Một miếng đệm nhiệt dùng trong sản xuất không chỉ đơn thuần là một hình chữ nhật được cắt ra từ tấm vật liệu. Vị trí các lỗ, vùng cấm cắt, các khối đệm, độ dày, lớp dính tạm thời, lớp gia cố, thiết kế lớp lót, miếng kéo, cách trình bày và bao bì đều ảnh hưởng đến quá trình lắp đặt và tỷ lệ thu hồi. Thiết kế quy trình gia công tốt cũng giúp giảm thiểu nguy cơ người vận hành để lại màng bảo vệ trên sản phẩm hoặc lắp đặt linh kiện ngược.

Haktak có thể thảo luận về:

• Miếng đệm cắt khuôn theo yêu cầu dành cho HBM, VRM, bộ nhớ, NIC, bộ tái đồng bộ và tấm nền.
• Bề mặt bám dính một mặt, hai mặt hoặc không bám dính.
• Tách các miếng lót và kéo các miếng gạt để lắp ráp tấm làm mát.
• Củng cố cho các cấu trúc có kích thước lớn, mỏng hoặc hẹp.
• Tấm cắt theo hình dạng hoặc định dạng mang để đặt thủ công và tự động.
• Một cụm máy chủ có thể bao gồm nhiều độ dày hoặc vật liệu khác nhau.
• Các mẫu thử nghiệm, sau đó là quá trình chuyển đổi sang sản xuất hàng loạt.
• Nhãn linh kiện, kiểm soát phiên bản, truy xuất nguồn gốc lô hàng và đóng gói theo định hướng.
• Phát triển vật liệu trong trường hợp loại tiêu chuẩn không đạt được các chỉ tiêu về độ mềm, độ dẫn điện hoặc độ sạch.

The dịch vụ phát triển vật liệu theo yêu cầu sẽ mang lại hiệu quả cao nhất khi yêu cầu bao gồm các giới hạn có thể đo lường được. “Rất mềm, dẫn điện rất tốt và rất rẻ” là một mong muốn thường gặp. Bản đồ khe hở và ngân sách lực là những thông số kỹ thuật đầu vào phù hợp hơn.

Các vấn đề về kiểm soát chất lượng và nhà cung cấp đối với phần cứng trung tâm dữ liệu

Phần cứng ở quy mô toàn đội xe đòi hỏi tính nhất quán giữa các lô hàng, khả năng truy xuất nguồn gốc và việc thay đổi có kiểm soát. Quá trình đánh giá chất lượng cần bao quát cả vật liệu cơ bản lẫn chi tiết gia công, bởi vì độ dày, độ chính xác khi cắt khuôn, hướng của lớp lót và các tạp chất đều có thể ảnh hưởng đến quá trình lắp ráp. Các nhà mua hàng nên điều chỉnh công tác kiểm tra đầu vào sao cho phù hợp với các rủi ro thực tế, thay vì chỉ thu thập các tài liệu giấy tờ mà cuối cùng không bao giờ được áp dụng trên dây chuyền sản xuất.

Hãy hỏi nhà cung cấp về cách họ thực hiện việc kiểm soát:

• Xác định nguồn gốc nguyên liệu và khả năng truy xuất nguồn gốc lô hàng.
• Độ dày, dung sai và lấy mẫu thử nghiệm.
• Kích thước cắt khuôn, lỗ, chất lượng mép và tạp chất.
• Phía đinh ghim, loại lớp lót, lực tháo rời và hướng của miếng kéo.
• Các khuyết tật về hình thức, nếp gấp, vết rách và các hạt bám vào.
• Quy trình xử lý và đóng gói sạch sẽ trong những trường hợp cần đảm bảo không bị nhiễm bẩn.
• Ghi nhãn thời hạn sử dụng và điều kiện bảo quản.
• Kiểm tra sản phẩm đầu tiên và các mẫu đối chiếu đã được phê duyệt.
• Thông báo về thay đổi quy trình, công thức, vật liệu lót và nhà cung cấp.
• Kiểm soát các trường hợp không phù hợp và phân loại lô hàng.

Các miếng đệm mềm cỡ lớn cần được gia cố trong quá trình vận chuyển để tránh bị giãn ra hoặc nhăn nheo. Các cụm linh kiện nhỏ có thể được vận chuyển trên cùng một phương tiện vận tải chung để duy trì vị trí sắp xếp. Nếu robot sẽ thực hiện việc lấy linh kiện, cần thảo luận về bố cục tấm, độ cứng của lớp lót, khu vực lấy linh kiện và độ tương phản của hệ thống thị giác trước khi thiết kế khuôn mẫu được chốt lại.

Danh sách kiểm tra khi mua miếng tản nhiệt cho máy chủ GPU

Hãy gửi kèm theo yêu cầu báo giá (RFQ) một bộ tài liệu kỹ thuật tóm tắt. Các nhà cung cấp có thể đưa ra phản hồi chính xác hơn khi nắm rõ thông số giao diện, chứ không chỉ dựa vào cụm từ “miếng tản nhiệt tốt nhất cho GPU”. Đối với các dự án ở giai đoạn đầu, có thể sử dụng các khoảng giá trị, nhưng việc không nêu rõ ranh giới cơ học thường dẫn đến việc phải thực hiện thêm các vòng lấy mẫu và làm chậm quá trình đánh giá chất lượng.

Bao gồm:

• Kiểu thiết kế máy chủ, bộ tăng tốc hoặc mô-đun.
• Tên các linh kiện và công suất ước tính hoặc giới hạn nhiệt độ.
• Kiến trúc làm mát bằng không khí, làm mát trực tiếp bằng chất lỏng, làm mát bằng ngâm hoặc làm mát kết hợp.
• Vật liệu bề mặt làm mát, lớp hoàn thiện và độ phẳng.
• Khoảng cách tối thiểu, danh nghĩa và tối đa theo vị trí.
• Bản vẽ diện tích tiếp xúc và bản vẽ cắt khuôn.
• Tải trọng kẹp tối đa của từng bộ phận, bảng mạch và tổng thể.
• Giá trị điện trở nhiệt mục tiêu hoặc mức tăng nhiệt độ cho phép.
• Các yêu cầu về cách điện và điện áp.
• Phạm vi nhiệt độ vận hành, bảo quản và bảo dưỡng.
• Độ ẩm, rung động, ngâm trong chất lỏng hoặc tiếp xúc với các chất gây ô nhiễm.
• Không chứa silicone, thoát khí, các yêu cầu về chống cháy và các chất bị hạn chế.
• Các tùy chọn về đinh ghim, lớp lót, miếng kéo và vị trí đặt.
• Số lượng mẫu thử, sản lượng hàng năm và địa điểm sản xuất.
• Các báo cáo thử nghiệm bắt buộc, các điều khoản về khả năng truy xuất nguồn gốc và kiểm soát thay đổi.

Yêu cầu cung cấp các mẫu đại diện và thông số kỹ thuật chính xác của cấu trúc dự kiến đưa vào sản xuất. Nếu hai loại vật liệu có vẻ tương tự nhau, hãy tiến hành thử nghiệm cả hai trong cùng điều kiện nguồn điện và làm mát. Chi phí cho một bộ mẫu thứ hai sẽ thấp hơn nhiều so với việc phải tiến hành lại quá trình đánh giá chất lượng sau khi thiết kế giá đỡ đã được phê duyệt.

Sẵn sàng để ôn lại bài chưa? Liên hệ Haktak để nhận mẫu sản phẩm, bảng thông số kỹ thuật, hỗ trợ cắt khuôn theo yêu cầu hoặc đề xuất về vật liệu lấp khe hở.

Các câu hỏi thường gặp về miếng tản nhiệt cho máy chủ AI và GPU

1. Các GPU công suất cao có sử dụng miếng tản nhiệt trên chip GPU không?

Thông thường không phải là miếng đệm khe hở dày theo kiểu truyền thống. Vi mạch GPU hoặc nắp gói chip thường sử dụng chất bôi trơn mỏng, vật liệu thay đổi pha, màng mỏng, giao diện gói hàn hoặc một loại chất dẫn nhiệt (TIM) có điện trở thấp khác. Các miếng đệm này thường được sử dụng nhiều hơn trên HBM, VRM, bộ nhớ, tấm lưng và các linh kiện có khe hở lớn hơn.

2. Độ dẫn nhiệt tối ưu cho miếng đệm máy chủ AI là bao nhiêu?

Không có tiêu chuẩn “tốt nhất” nào áp dụng cho mọi trường hợp. Hãy so sánh các yếu tố như điện trở nhiệt khi lắp đặt, độ dày, áp lực tiếp xúc, độ mềm và độ lão hóa. Một miếng đệm có giá trị W/mK thấp hơn nhưng đảm bảo tiếp xúc hoàn toàn có thể mang lại hiệu quả tốt hơn so với một miếng đệm cứng hơn, có giá trị W/mK cao hơn nhưng lại khiến tấm làm mát bị tách rời khỏi linh kiện.

3. Miếng tản nhiệt cho bộ nhớ GPU nên dày bao nhiêu?

Hãy sử dụng các giá trị khe hở tối thiểu, danh định và tối đa đã đo được dành riêng cho mô-đun và tấm tản nhiệt cụ thể đó. Không được sao chép độ dày từ một mẫu GPU khác. Nếu quá mỏng sẽ không đảm bảo tiếp xúc; nếu quá dày có thể làm tăng lực tác động và gây ảnh hưởng đến giao diện chính của GPU.

4. Miếng tản nhiệt dày hơn có thể khiến nhiệt độ GPU tăng cao hơn không?

Đúng vậy. Điều này làm kéo dài đường dẫn nhiệt và có thể khiến bộ tản nhiệt hoặc tấm làm mát bị nâng lên hoặc nghiêng. Nhiệt độ bộ nhớ có thể giảm trong khi nhiệt độ điểm nóng của GPU lại tăng lên. Hãy kiểm tra lại nhiệt độ của tất cả các linh kiện sau mỗi lần thay đổi độ dày miếng đệm.

5. Tôi có thể xếp chồng hai miếng đệm tản nhiệt lên nhau không?

Việc xếp chồng sẽ tạo thêm một bề mặt tiếp xúc và có thể gây ra hiện tượng trượt hoặc biến dạng không đồng đều. Thông thường, việc sử dụng một miếng đệm, gel hoặc chất lỏng lấp đầy khe hở có kích thước phù hợp sẽ mang lại hiệu quả tốt hơn. Việc xếp chồng tạm thời có thể giúp kiểm tra khe hở, nhưng không nên áp dụng phương pháp này vào quy trình sản xuất mà chưa qua quá trình xác nhận.

6. Miếng dán giữ nhiệt có cần được nén lại không?

Đúng vậy, hầu hết các miếng đệm khe hở đều cần lực nén được kiểm soát để thích ứng với hình dạng và đẩy không khí ra ngoài. Mức độ nén phù hợp phụ thuộc vào đường cong vật liệu và giới hạn lực lắp ráp. Lực nén lớn hơn không phải lúc nào cũng tốt hơn, đặc biệt là khi sử dụng trên các linh kiện HBM, BGA và các bo mạch máy chủ mỏng.

7. Keo tản nhiệt có tốt hơn miếng đệm tản nhiệt cho GPU không?

Đối với mối nối mỏng, phẳng và được kẹp chặt giữa gói GPU và bộ tản nhiệt, keo dán, mỡ bôi trơn hoặc PCM thường tạo ra đường kết dính mỏng hơn. Đối với bộ nhớ, VRM và các khe hở có thể điều chỉnh, miếng đệm hoặc chất lấp khe hở thường là giải pháp thực tế hơn. Chúng giải quyết các vấn đề cơ học khác nhau.

8. Liệu hệ thống làm mát bằng chất lỏng có giúp loại bỏ nhu cầu sử dụng chất dẫn nhiệt (TIM) không?

Không. Nhiệt vẫn truyền qua các giao diện bên trong gói chip và điểm tiếp xúc giữa gói chip với tấm tản nhiệt. Các điểm tiếp xúc cũng có thể kết nối HBM, VRM và các linh kiện phụ với tấm tản nhiệt. Hệ thống làm mát bằng chất lỏng hiệu quả hơn có thể làm cho điện trở giao diện trở nên rõ ràng hơn, chứ không phải ít đi.

9. Tại sao nhiệt độ điểm nóng của GPU lại tăng lên sau khi thay đệm tản nhiệt?

Các nguyên nhân phổ biến bao gồm miếng đệm quá dày hoặc quá cứng, siết ốc không đều, bôi chất dẫn nhiệt (TIM) ban đầu không đúng cách, miếng đệm bị lệch vị trí hoặc tấm tản nhiệt không còn tiếp xúc phẳng. Hãy kiểm tra lại độ tiếp xúc và tuân thủ thông số kỹ thuật cơ khí ban đầu nếu có thể.

10. Miếng tản nhiệt bằng than chì có an toàn khi sử dụng gần GPU không?

Graphite có khả năng tản nhiệt tốt nhưng lại dẫn điện. Do đó, có thể cần phải cách điện, kiểm soát các cạnh và bố trí cẩn thận khi đặt gần các linh kiện nhỏ. Chất liệu này không phải là vật liệu thay thế chung cho miếng đệm khe hở mềm có tính cách điện.

11. “Pump-out” trong giao diện truyền nhiệt của GPU là gì?

Hiện tượng “pump-out” là quá trình chất mỡ mềm hoặc chất dẻo bị đẩy ra khỏi vùng tiếp xúc trung tâm trong quá trình lặp đi lặp lại các chu kỳ gia nhiệt, làm mát và giãn nở cơ học. Hiện tượng này có thể làm tăng nhiệt độ tại các điểm nóng theo thời gian. Các yếu tố như tính lưu biến của vật liệu, tình trạng bề mặt, đường nối và thiết kế lắp đặt đều ảnh hưởng đến hiện tượng này.

12. Có thể tái sử dụng miếng tản nhiệt máy chủ sau khi bảo trì tấm làm mát không?

Chỉ khi vật liệu và quy trình bảo dưỡng cho phép. Kiểm tra xem có bị rách, biến dạng nén, nhiễm bẩn, lệch trục và mất độ bám dính hay không. Đối với các dịch vụ bảo dưỡng có kiểm soát tại hiện trường, việc sử dụng các miếng đệm thay thế được đóng gói theo phiên bản chính xác thường an toàn hơn.

13. Các máy chủ AI có cần miếng tản nhiệt không chứa silicone không?

Chỉ áp dụng khi sản phẩm có quy định cụ thể về hạn chế liên quan đến silicone, siloxane, lớp phủ, tiếp xúc hoặc ô nhiễm. “Công thức không chứa silicone” và “mức thoát khí thấp” không phải là hai tuyên bố giống nhau. Cần nêu rõ phương pháp thử nghiệm và tiêu chí chấp nhận trước khi lựa chọn.

14. Những tiêu chuẩn nào áp dụng cho miếng tản nhiệt GPU?

Tiêu chuẩn ASTM D5470 thường được tham chiếu trong các thử nghiệm truyền nhiệt. Tiêu chuẩn IEC 60243-1 áp dụng cho thử nghiệm độ bền điện môi, các phương pháp theo tiêu chuẩn IEC 60068 áp dụng cho thử nghiệm môi trường, và tiêu chuẩn UL 94 có thể được yêu cầu để đánh giá tính dễ cháy. ASHRAE và OCP cung cấp hướng dẫn về điều kiện hoạt động của máy chủ và hệ thống làm mát. Yêu cầu cụ thể của dự án sẽ quyết định phạm vi áp dụng.

15. Haktak cần những thông tin gì để đề xuất một miếng đệm tản nhiệt?

Vui lòng cung cấp bản vẽ chi tiết và bề mặt tản nhiệt, dải khe hở, diện tích tiếp xúc, giới hạn lực, mục tiêu nhiệt, yêu cầu về điện, phương pháp tản nhiệt, môi trường hoạt động, loại lớp lót ưa thích và khối lượng dự kiến. Các bản đồ công suất, hình ảnh và dữ liệu về độ phẳng của tấm tản nhiệt cũng rất hữu ích.

Xây dựng hệ thống tản nhiệt xoay quanh giao diện thực tế

Quá trình làm mát máy chủ AI là một chuỗi liên kết. Tấm tản nhiệt, vòng tuần hoàn chất làm mát và hệ thống cơ sở hạ tầng đều quan trọng, nhưng các lớp đệm nhỏ tiếp xúc với HBM, VRM và các thành phần silicon hỗ trợ cũng không kém phần quan trọng. Miếng đệm nhiệt chỉ phát huy hiệu quả khi độ dày, độ mềm, độ dẫn nhiệt và tính chất điện của nó phù hợp với điểm tiếp xúc thực tế. Nó sẽ không phát huy tác dụng nếu được chọn như một giải pháp chung chung để đối phó với những yếu tố không chắc chắn.

Haktak cung cấp các loại vật liệu cách nhiệt tiêu chuẩn và theo yêu cầu dành cho ngành điện tử. Xem qua các giải pháp miếng tản nhiệt, so sánh với phạm vi rộng hơn dòng sản phẩm, hoặc Yêu cầu đề xuất vật liệu dành cho máy chủ AI, mô-đun tăng tốc hoặc cụm GPU công suất cao.