香港100M服务器
采用100M BGP混合带宽,可选15M或25M电信CN2带宽,搭配联通、移动直连线路,兼顾内地访问与国际网络连接,适合企业网站、跨境电商及应用部署等业务。
A5IDC · ARTICLE TAGS
通过文章标签,快速查找服务器、网络线路及技术运维相关内容。
面向 Linux 推理服务运维人员,文章说明如何区分 GPU 显存 OOM 与主机内存 OOM,并依据模型加载后的稳定基线、同负载下显存是否持续增长,以及并发变化与峰值的关系,判断模型占用、进程泄漏或请求叠加。结合 nvidia-smi、框架 allocated 与 reserved 统计及对照测试,提供排查和恢复验证方法。
新手指南
2026-10-19
面向在日本GPU服务器上运行Ollama的运维与开发人员,说明如何区分模型权重、上下文缓存和并发造成的显存压力,并结合GPU与CPU利用率、内存、磁盘、网络、请求延迟及队列变化,通过固定负载和逐项复测定位瓶颈。
新手指南
2026-10-18