metrics 监控/proc/下pid各项指标 cpu、内存、磁盘io、磁盘读写带宽、exe、cmdline 可以结合管道符进行排序 如:bash metrics.sh |sort -k 2 -r -q INTERVAL=${1:-1} if (( BASH_VERSINFO[0] < 4 ))
sed -n '/Failed password/p' /var/log/auth.log | grep -v "invalid" | awk '{print $11}' | sort | uniq sed -n '/Accept/p' /var/log/auth.log | awk '{pri
本文按原配置的顺序解释 sglang serve 和全部 35 个不同参数。只说明现有配置,不调整参数值。末尾重复出现的 --log-requests 单独注明。 参数含义依据 SGLang 官方文档及当前 main 分支源码。原配置没有提供镜像标签、SGLang 版本和 /data/model 的
摘要:大模型推理中的 KV Cache 既是计算结果,也是影响首 Token 延迟、吞吐量和显存利用率的关键资源。SGLang HiCache 将前缀缓存组织为 GPU、CPU 与外部存储三级体系;Mooncake 则提供跨节点数据传输和分布式存储能力。两者分别解决缓存管理与分布式基础设施问题,可独
引言 在 AI Coding 场景中,直接从需求描述进入代码实现,容易出现范围失控、设计偏移、上下文丢失和任务状态难以追踪等问题。OpenSpec 通过规格驱动开发(Spec-Driven Development)方式,将需求探索、方案设计、任务实施和最终归档拆分为独立阶段,使开发过程具备更清晰的边
vllm: #!/usr/bin/env bash set -uo pipefail # ============================================================ # Config # ================================
#!/usr/bin/env bash set -euo pipefail # ========================= # 按需修改 # ========================= NAMESPACE="${NAMESPACE:-project-a}" ACCOUNT="${A
背景 源端 GitLab 采用 Omnibus/Linux package 安装方式,运行目录包含 /opt/gitlab、/var/opt/gitlab、/etc/gitlab。目标端计划改为 Docker 部署,通过官方备份恢复方式完成迁移,避免直接复制运行目录导致权限、路径、数据库状态不一致。
在银河麒麟高级服务器操作系统(Kylin V10)上部署华为昇腾(Ascend)环境时,由于底层内核版本与新版编译器的严格安全策略,直接安装驱动往往会遇到内核模块(DKMS)编译中断的问题。本文将详细梳理从固件升级到驱动安装的完整流程,并提供针对该系统环境的底层编译拦截修复方案。 1. 运行环境说明
概述 本文整理了一套 Langfuse 基于 Kubernetes 与 Helm 的部署方法,覆盖以下主题: Helm Chart 自定义配置方式 中国区镜像拉取加速思路 内置 PostgreSQL、Redis、ClickHouse、MinIO 的配置逻辑 hostPath + PV/PVC 持久化