在2025京東云城市大會深圳站上，京東云展示了其在大模型技術(shù)領(lǐng)域的最新進(jìn)展，并發(fā)布了包括言犀智能體平臺、言犀AI開發(fā)計算平臺、超智一體化算力集群、云海AI存儲在內(nèi)的八大智算產(chǎn)品。同時推出“開發(fā)訓(xùn)練+場景應(yīng)用”雙引擎一站式平臺，助力企業(yè)實現(xiàn)DeepSeek等大模型開箱即用、智能體深度開發(fā)與應(yīng)用，全面打通從模型落地到產(chǎn)業(yè)智能升級的最后一公里。
京東集團(tuán)技術(shù)委員會主席、京東云事業(yè)部總裁曹鵬表示，當(dāng)下，全國企業(yè)都在加速部署DeepSeek，讓員工零時差用上大模型。基于京東集團(tuán)復(fù)雜場景實踐，京東云構(gòu)建了一站式大模型產(chǎn)品矩陣，從底層的智算基礎(chǔ)設(shè)施，到中間層的模型服務(wù)和工具，再到上層的Agent應(yīng)用開發(fā)，支持企業(yè)快速部署大模型及應(yīng)用。
面向大模型的開發(fā)部署，京東云持續(xù)升級言犀AI開發(fā)計算平臺，進(jìn)一步簡化了模型開發(fā)流程。平臺不僅支持京東自身的言犀大模型，支持各類模型的調(diào)優(yōu)開發(fā)，內(nèi)置20余種開源模型和豐富的數(shù)據(jù)集，并提供100余種算法和工具鏈，幫助客戶根據(jù)自身業(yè)務(wù)特征，快速開發(fā)專屬大模型。此外，京東云DeepSeek大模型一體機(jī)，通過自研的算力池化能力、智能推理加速引擎，充分融合軟硬件，實現(xiàn)了性能的全面提升，推理速度提升50%，企業(yè)可以根據(jù)自己的需求靈活選擇不同版本，開箱即用。
在算力方面，京東云通過打造超智算一體化算力集群，滿足大模型對大算力的需求。具備單集群2000卡調(diào)度能力和全局超10萬卡調(diào)度能力，支持跨智算中心橫向擴(kuò)展，通過軟硬件協(xié)同優(yōu)化，將大模型算力利用率MFU提升至75%。
隨著更多性能的GPU都可以支持大模型，異構(gòu)算力將成為主流，京東云vGPU AI算力平臺，針對DeepSeek大模型技術(shù)特點，通過推理加速與內(nèi)核驅(qū)動級優(yōu)化，提升單臺服務(wù)器推理性能50%。通過集群算力池化調(diào)度提升集群利用率70%。全面適配十余家國產(chǎn)化算力資源。同時借助AI全密態(tài)機(jī)密容器能力，確保模型參數(shù)與訓(xùn)練數(shù)據(jù)雙域零泄露，為用戶提供金融級安全防護(hù)。
在存儲方面，云海AI存儲可支持千億級參數(shù)AI大模型，4K隨機(jī)寫IOPS達(dá)到1000萬級，平均延遲在100微秒級，支持百GB級超大帶寬，性能提升30%的同時，通過存算分離技術(shù)實現(xiàn)成本下降30%，極致性能和極致性價比，更好地支持大模型落地應(yīng)用。
在網(wǎng)絡(luò)方面，基于京東集團(tuán)萬卡集群大規(guī)模實踐，京東云沉淀不同網(wǎng)絡(luò)部署的調(diào)優(yōu)方案，推出高性能云網(wǎng)絡(luò)，RDMA帶寬速率達(dá)到3.2Tbps，全面支持高階GPU對于高帶寬的要求；通信延遲降低至2us。
智算中心往往功率密度更高，是傳統(tǒng)數(shù)據(jù)中心的5倍以上，對供電、散熱的要求也呈幾何級增長。京東云基于10多年數(shù)據(jù)中心建設(shè)運營實踐，積累了豐富智算中心建設(shè)運維經(jīng)驗。我們自研的阿爾法智能算力模塊，支持液冷系統(tǒng)一體化交付，PUE控制在1.15以內(nèi)，可實現(xiàn)同等規(guī)模下投資成本下降15%。當(dāng)前，京東云已服務(wù)于超20家智算中心，打造高等級新型智算中心。
大模型安全是智能時代的終極防火墻。京東云大模型安全可信平臺，超200種自研紅藍(lán)對抗攻擊手法，覆蓋全部31類合規(guī)風(fēng)險，全流程AI檢測精準(zhǔn)狙擊，風(fēng)險識別率95%+，硬核護(hù)航千億參數(shù)模型業(yè)務(wù)零漏洞。
在行業(yè)實踐中，京東云成功支持某新能源汽車頭部廠商、某全球新能源科技領(lǐng)導(dǎo)企業(yè)，打造覆蓋全集團(tuán)的智能計算底座，實現(xiàn)千卡級AI算力集群的精細(xì)化管理。技術(shù)上一方面創(chuàng)新多元算力調(diào)度，顯著提升GPU利用率，另一方面創(chuàng)建全生命周期AI開發(fā)環(huán)境，實現(xiàn)開箱即用，大幅提升研發(fā)效率。目前，該平臺已支撐起企業(yè)智能駕駛研發(fā)、人形機(jī)器人等20余個核心場景，成為集團(tuán)的"數(shù)智發(fā)動機(jī)"。
AI生產(chǎn)力澎湃，智能生長正當(dāng)時。京東云將以行業(yè)領(lǐng)先的智算基礎(chǔ)設(shè)施，為企業(yè)用戶提供極致性能、極致性價比的服務(wù)，持續(xù)降低大模型應(yīng)用門檻，助力每個企業(yè)找到AI轉(zhuǎn)型的最優(yōu)路徑。