很多行業/企業都在接入DeepSeek一體機，表明了行業/企業都在積極擁抱AI大模型，擁抱AI大模型等于擁抱未來！

  接入DeepSeek一體機沒有錯，但如何選對一體機則大有學問，不要以為，接下來要談滿血版、殘血版的話題，實際上，接下來要言談話題，更為重要。這就是DOIT視頻號《選型中的學問，DeepSeek一體機不僅是滿血版！》直播，安擎計算機信息股份有限公司（以下簡稱'安擎'）首席架構師張駿、安擎產品技術總監劉龍、百易存儲研究院負責人宋家雨等嘉賓希望交流的話題。

你要關注一體機顯存容量

  接入DeepSeek一體機，顯存容量是一個特別重要的指標，實際上，671B滿血版也好、70B殘血版也好，體現在一體機上，其中最需要關注的指標就是GPU顯存容量，因為事關一體機的性能表現，如TTFT（Time to First Token，首Token響應時間）、后續Token 延遲 (TPOT) 、TPS（Tokens Per Second），也就是，DeepSeek一體機好用與否的問題。

  有些領導會對私域部署的DeepSeek一體機性能有所質疑，其性能不如云版本提供的服務，質疑其響應速度緩慢不好用，其中部分問題就出在顯示內存容量上。對于Deep Seek一體機的顯存容量有一個計算公式，重點考慮大模型參數（如671B、70B）、激活參數、參數精度，以及上下文的數據緩存等要素，因為它們都要加載到顯存，否則就會影響推理的速度。對此，在直播對話中，嘉賓也給出了一個簡單計算方法，就是參數量?2。

  實際上，不同的GPU處理器版本，其內置顯存容量不同，有大有小，如果DeepSeek一體機的顯存容量確定了，所需要的GPU卡的數目也就確定了。也就是說，選擇GPU不僅是看誰的計算能力強，同時也需要看顯存容量的配置。

  為什么GPU設計不盡可能多配一些HBM顯存，讓問題簡單化？實際上，高帶寬是HBM顯存的優勢，但其容量偏小，且價格昂貴！ GPU靈活配置不同容量HBM，有助于用戶進行更加合理的選擇，既然如此，在DeepSeek一體機的選型中，就應該認真觀察顯存特別是HBM顯存容量配置，這就是經驗之談。

有場景的用戶會選擇70B，更為領先

  接入DeepSeek一體機是個好的開始，例如三大運營商之中，有的使用DeepSeek輔助辦公，對于內部會議進行紀要、整理；的使用DeepSeek輔助軟件開發、代碼生成，但這些都是在使用DeepSeek一體機的基礎能力，私域部署DeekSeek一體機，主要是考慮公有云服務所不具備的私密性和掌控性，但是不利的方面，用戶需要自己管理和運維系統。

  接入DeepSeek一體機，更為重要的是DeepSeek和行業數據以及行業業務經驗的緊密結合，需要讓DeepSeek成為真正的行業專家，與行業的業務發展進行深度融合，與行業場景的融合就需要使用行業私有數據，或對DeepSeek大模型進行微調（Finetune）或者采用RAG（Retrieval Augmented Generation，檢索增強生成）并結合知識圖譜的方案。此外，不僅僅是文本、圖像、視頻、音頻等非結構化數據，同時也要結合數據庫、ERP等應用中的結構化數據，對于業務進行創新，這才是大模型給行業帶來的本質性變化。

  接入DeepSeek一體機就是一個開始，接下來還有很多業務開發的工作。對此，需要企業培養自己的專業技術團隊，發揮人力資源的優勢。也只有依賴自己的專業團隊，才能夠隨時、隨地將開源最新的技術進步付諸實踐，從而構建敏捷、迭代的業務創新模式，原有的Total Solution的IT服務外包模式顯然難以滿足需求，這意味著企業需要從購買產品方案的模式，轉型為養人DIY的模式，DeepSeek一體機應用也是如此。

  有意思的是，購買DeepSeek 70B等殘血版一體機用戶，常常會有非常明確的場景需求，會有清晰的分析和規劃，以適用、夠用為原則；相比，沒有明確場景用戶的需求，往往會惟恐不能滿足需求，常常會愿意支付更多費用，購買671B滿血版，采取更加穩妥和保守的策略。

某種意義上衡量，購買DeepSeek一體機殘血版的用戶，往往在應用上更為領先，當然敷衍、投機者除外，這也是一個非常有意思的現象。

一體機不等同于一臺機器

  有些人會把DeepSeek一體機等同于一臺機器，實際上，前面說過，為什么會有感覺私有部署DeepSeek一體機不好用，性能不行，除了顯存等硬件配置之外，一臺DeepSeek一體機所能夠支持的用戶數，所謂并發性能的限制也是重要原因，當超出上線就會出現等待的現象，這也是為什么DeepSeek官方發布聲明：服務器資源限制導致有些用戶訪問效果不佳，響應緩慢的原因。私域部署DeepSeek一體機當然概莫能外，需要衡量所支持的客戶數量，有時候就要考慮構建DeepSeek一體機的集群，如果這樣，則網絡帶寬以及存儲的性能，都會影響DeepSeek一體機的整體訪問性能。

  DeepSeek一體機也同樣遵循RPM（Roofline Performance Model，屋頂線性能模型），也就是屋頂線模型（Roofline Model），其依據算術強度（即計算量與數據量的比值）來判定程序性能是受限于硬件的算力峰值、內存以及IO帶寬，用于分析模型在特定計算平臺上所能達到的理論計算性能上限（由于環境等因素的影響，實際性能測試結果一般差于Roofline模型給出的結果）。對應的場景不同，對于算力、I/O以及存儲性能的需求有所不同。

有些用戶選擇70B模型為例，就是充分考慮了RPM，對于參數、精度等不同因素的影響和需求。

冷板×浸沒雙模出擊：超流體液冷定義散熱新維度

  盡管DeepSeek大幅度拉低了算力門檻，但高算力必然帶來高能耗，以GPU為例，單張GPU顯卡的功耗達到700W左右，一臺DeepSeek一體機往往配備8張GPU卡，如此其功耗就達到了5600W，在加上CPU（500W）以及DRAM、SSD、網卡等電力消耗，DeepSeek一體機就是一臺耗電的怪獸。

更為頭疼的是高能耗必然帶來集中散熱的需求，這也是液冷技術備受關注的原因。其中，超流體液冷最為引人注目。

  超流體液冷技術的靈感源自三菱重工在遠洋船舶領域的“空氣潤滑系統”：通過向船底注入氣泡降低阻力，提升航行效率。英特爾于2023年提出將這一原理應用于數據中心散熱：在冷卻液中注入可控微氣泡，顯著提升流速與熱傳導效率，同時結合冷板散熱與新型介電液（不導電、防漏液），實現散熱效能與安全性的雙重突破。該技術既可適配冷板式液冷（精準定向散熱），也能擴展至浸沒式液冷（全機浸沒高效均溫），并通過在循環分配單元（CDU）中集成超流體生成器，靈活應對不同場景需求。

測試數據顯示，超流體技術可使散熱效率提升30%以上，助力數據中心在同等能耗下承載更高算力密度。

在直播對話中，安擎嘉賓透露將推出單機16 GPU卡配備的DeepSeek一體機，很重要的一個因素就是超流體的液冷技術提供保駕護航。

小結

  購買一臺一體機，接入DeepSeek看似簡單，但簡單之中更有大學問。此外，DeepSeek一體機和私有數據的結合，更是顛覆式的創新，而這將直接決定企業的未來。

更多細節參見DOIT傳媒視頻號《選型中的學問，DeepSeek一體機不僅是滿血版！》直播回看！

注：該文轉自DOIT傳媒公眾號