归档

2025 年 04 月

CoreDNS快速配置

2025-04-22

https://.:443 { tls /root/cert/cert /root/cert/key forward . tls://8.8.8.8 { tls_servername dns.google health_check 5s }

快速启动 QwQ-32b-awq

2025-04-08

环境 2× A40 GPU CUDA 12.4 NVIDIA 驱动 570.86.10 安装步骤 # 安装 uv 并创建虚拟环境 pip install uv uv venv vllm-qwq-awq --python 3.12 --seed # 激活虚拟环境 source vllm-qwq-aw

PentAGI 使用指南

2025-04-07

系统要求需安装 Docker 和 Docker Compose 最低 4GB 内存配置 10GB 可用磁盘空间需要网络连接以下载镜像和更新许可协议使用 PentAGI 前，请阅读并同意《最终用户许可协议》(EULA)。协议文本可在PentAGI的 GitHub 代码库查看：EULA.md 获

hping3 和 slowhttptest 命令

2025-04-03

hping3 命令详解 hping3 是一款功能强大的网络测试工具，可用于多种网络测试场景。以下是常见用法： TCP SYN 泛洪攻击 hping3 -S -p <目标端口> --flood <目标IP> -S: 设置SYN标志位(建立连接请求) --flood: 高速发送模式(不等待响应) UD

软中断

2025-04-01

ksoftirqd进程CPU占用过高以下步骤进行系统性排查和优化：一、问题定位分析查看软中断分布 watch -d -n 1 'cat /proc/softirqs' 观察NET_RX（网络接收中断）或BLOCK（块设备中断）是否持续增长若NET_RX数值飙升，通常与网络流量激增或网卡驱动

2025 年 03 月

Nginx禁止域名访问

2025-03-27

Nginx不允许域名访问，仅允许ip+端口方式访问 server { listen 46295; server_name _; if ($host != "公网ip") { return 444; # nginx自己的状态码,在客户端显示为empty

2025 年 02 月

大模型显存计算

2025-02-25

该公式只需对变量P和Q进行替换即可。

vLLM 部署指南 - DeepSeek-R1-Distill-Qwen-7B

2025-02-25

环境准备 1. 依赖管理依赖组件版本要求参考地址 PyTorch 需对齐 CUDA 版本官方推荐版本 CUDA Toolkit 需要对应NVIDIA Driver版本 CUDA 版本说明 NVIDIA Driver 建议>=535，推荐>=550

导入本地模型到ollama

2025-02-12

ollama文档 ollama离线安装下载模型文件 hf-mirror 魔塔在魔塔或者hf镜像站下载GGUF格式模型文件创建Modelfile # FROM 本地模型文件路径 FROM ./qwen2-5.gguf

2025 年 01 月

网络调优

2025-01-16

net.core.default_qdisc = fq net.ipv4.tcp_congestion_control = bbr net.ipv4.tcp_rmem = 4096 87380 67108864 net.ipv4.tcp_wmem = 4096 16384 67108864 net

菜单

归档