代理服务器的ip地址和端口号码
2月18日,武汉云基于华为昇腾910B,成功部署上线亿的完整*大型号的DeepSeekR1大模型——DeepSeek-R1“满血版”,为武汉市市区两级政务用户提供快速访问服务。
本次部署基于两台华为Atlas800服务器,共计使用16块910B显卡(5p算力),集成CANN、FrameworkPTAdapter、MindIE等组件,实现了DeepSeek大模型高效落地应用,搭建了安全的私域环境,全面保障了模型完整、知识安全和应用合规,为开发者和客户提供澎湃、弹性、充足的算力。同时,针对大模型场景提供多维并行优化技术,实现性能端到端提升,加速智能业务快速部署落地。
与此同时,配套华为云昇腾云化部署,可提供20+开发工具集成,覆盖推理迁移全流程,云化工具免配置,一键打开,集成*佳实践模板;兼容Mind-IE、vLLM双框架,支持框架持续演进,支持昇腾量化算子,在保障精度的情况下降低模型训练和推理的算力消耗,支持DeepSeek不同形态部署,保障用户能够顺利接入并高效利用DeepSeek技术。
武汉云作为武汉与华为云共建的全国*朵“城市云”,采用“313”架构,建成“政务域、根技术域、产业域”3个资源池,打造全市统一的云运营管理平台,构建信息安全、标准规范、运营运维三大服务保障体系。因此在安全保障方面,武汉云满足国内数据安全合规要求,特别适用于对数据安全性要求极高的场景,全面保障数据的隐私与安全。针对DeepSeek核心训练、推理数据均驻留在武汉本地,进一步保障了数据的安全性。
值得一提的是,武汉云基于DeepSeek构建了AIGC应用开发平台,具备知识库管理、定制化应用、高便捷开发等功能。该平台支持用户快速搭建不同行业、不同场景的大模型应用代理服务器的ip地址和端口号码,同时引入AIAGENT与Workflow高效工作流编排技术,进一步提高工作效率,降低运营成本。基于此平台,已开发上线智能公文写作、问答助手等场景应用。
未来,华为云将继续携手武汉云,秉持数据驱动、AI赋能的核心理念,基于DeepSeek及其他商业大模型,开展语料采集、清洗、整合与训练,致力于打造一个自主创新、开放且具有武汉特色的“江豚大模型”。