内存分析
分析内存:使用memory_profiler定位内存占用。大模型加载占主要内存。向量索引也占大量内存。
模型优化
模型优化:使用量化模型(int8/int4)减少内存。按需加载模型而非全部常驻。设置模型缓存过期。
向量优化
向量优化:使用HNSW索引减少内存。定期清理无用向量。设置向量库最大容量。
系统优化
系统优化:增加Swap。限制OpenClaw进程内存。使用容器资源限制。
分析内存:使用memory_profiler定位内存占用。大模型加载占主要内存。向量索引也占大量内存。
模型优化:使用量化模型(int8/int4)减少内存。按需加载模型而非全部常驻。设置模型缓存过期。
向量优化:使用HNSW索引减少内存。定期清理无用向量。设置向量库最大容量。
系统优化:增加Swap。限制OpenClaw进程内存。使用容器资源限制。