1. 内存计算中的数据搬运挑战在传统冯·诺依曼架构中数据需要在处理器和内存之间来回搬运这已成为制约计算性能的主要瓶颈。内存计算Processing-In-Memory, PIM通过将计算任务移至数据存储位置从根本上改变了这一局面。以UPMEM为代表的商用PIM架构通过在每个DRAM模块中集成可编程处理单元DPU实现了真正的近数据计算。然而现实情况是即使采用了PIM架构CPU与DPU之间的显式数据传输仍然是无法回避的性能瓶颈。我们的实验数据显示在典型的向量加法工作负载中朴素的数据拷贝时间平均达到DPU实际计算时间的31.9倍。这种开销在基因组分析等数据密集型应用中尤为明显例如当处理GRCh38人类参考基因组时传统方式需要传输数百GB的原始测序数据。关键发现在256个DPU的测试平台上数据搬运时间占整个PIM任务执行时间的90%以上。这严重削弱了PIM架构的理论优势。2. 内容感知复制技术原理2.1 时空冗余性特征分析内容感知复制Content-Aware Copy, CAC技术的核心思想源于一个重要观察许多PIM工作负载中存在显著的数据冗余。这种冗余表现为两种形式空间冗余同一数据集内部存在大量重复内容。例如基因组序列中高度重复的碱基片段机器学习训练数据中相似的样本特征稀疏矩阵中连续的零值块时间冗余不同时间处理的数据集之间存在重复。典型场景包括机器学习中的多轮epoch训练基因组分析中连续处理的多个样本流式计算中的滑动窗口处理我们通过合成工作负载量化了这种冗余性定义冗余度参数R0≤R≤1。如图5所示当R1完全冗余时CAC可实现高达9.5倍的传输加速。2.2 技术实现框架PIM-CACHE系统由三个关键组件构成重复内容识别模块DRM采用1KB固定大小的数据块划分使用FarmHash算法生成64位指纹多线程哈希表管理默认16个线程块重组缓冲区BRB每个DPU独享的存储区域采用FIFO替换策略动态维护块偏移映射表tOB压缩预处理单元对整数型数据应用VByte压缩支持16线程并行压缩压缩比可达4:1对于[0,127]范围内的整数// 典型DRM操作伪代码 void process_block(Block* block) { uint64_t fingerprint farmhash64(block-data); if (hash_table.lookup(fingerprint)) { // 重复块处理 append_offset_table(block-dpu_id, hash_table.get_offset()); } else { // 新块处理 uint32_t new_offset allocate_brb_space(block-dpu_id); hash_table.insert(fingerprint, new_offset); schedule_copy(block-dpu_id, new_offset, block-data); } }3. 关键技术实现细节3.1 指纹算法选型与优化我们对比了四种主流哈希算法在块指纹生成中的性能算法单线程吞吐量(GiB/s)16线程吞吐量(GiB/s)碰撞概率Murmur34.262.52^-64XXHash324.868.32^-32XXHash644.570.12^-64FarmHash5.175.42^-64最终选择FarmHash作为默认算法因其在x86平台上的优异表现。实际部署时我们采用16线程并行处理对1GiB数据生成指纹仅需0.015秒。3.2 动态块大小管理块大小的选择需要在两个矛盾因素间取得平衡小块的优点更高的去重粒度减少内存占用每个DPU仅64KB WRAM大块的优点更低的元数据开销更高的指纹生成效率通过实验验证图8我们确定1KB是最佳折中点相比4KB块提升30%重复检测率相比512B块减少40%元数据开销3.3 压缩与解压缩流水线对于整数型数据我们实现了两级压缩优化主机端压缩def vbyte_compress(data): result bytearray() for num in data: while num 127: result.append((num 0x7f) | 0x80) num 7 result.append(num) return bytes(result)DPU端解压缩每个DPU部署16个tasklet并行处理零拷贝内存访问优化实测解压缩吞吐达3.3GiB/s在基因组序列传输场景中这种组合方案使得512MiB数据的传输时间从4.2秒降至1.3秒。4. 实际应用效果评估4.1 基因组分析案例我们使用人类基因组GRCh38约3.2GB和T2T-CHM13约3.1GB作为测试数据集序列传输方式256DPU传输时间(s)重复率GRCh38朴素拷贝4.170%GRCh38CAC4.820%T2T朴素拷贝4.05-T2TCAC继GRCh38后2.7140%关键发现虽然单次序列传输可能没有空间冗余GRCh38的块级重复率仅2/220但连续处理相似序列时CAC能有效利用时间冗余。在T2T传输中我们观察到1.5倍的加速。4.2 端到端性能对比在向量加法工作负载中缓冲区大小2GiB不同配置的表现配置R0.25时间(s)R0.75时间(s)R1时间(s)单线程CPU1.821.791.7732线程CPU0.960.930.91DPU朴素拷贝1.541.621.68DPUCAC0.870.590.41值得注意的是在高冗余R1场景下CAC比朴素拷贝快4.1倍相比32线程CPU仍有2.2倍优势实际拷贝数据量减少89%5. 工程实现中的经验教训5.1 内存管理陷阱UPMEM SDK的内存管理有几个关键限制WRAM分配后无法单独释放必须通过mem_reset()整体重置MRAM地址必须64字节对齐并行传输dpu_push_xfer要求所有DPU的目标地址相同解决方案采用BRB的FIFO管理策略实现自定义内存分配器保证对齐开发混合传输策略对对齐数据用并行API5.2 负载均衡优化初始实现中发现DRM线程存在严重负载不均由于数据冗余的随机性某些线程处理量是其他线程的3倍哈希表争用导致吞吐下降30%改进措施动态任务窃取work stealing机制分层哈希表设计全局线程本地基于冗余度预测的任务预分配5.3 参数自动调优我们开发了自适应参数调整模块def auto_tune(config): if config.redundancy 0.3: config.block_size 4KB # 降低元数据开销 config.compression False else: config.block_size 1KB if config.data_type integer: config.compression True6. 扩展应用场景6.1 机器学习训练优化在ResNet-50训练中应用CAC技术每epoch的图像数据重复率约15-20%通过缓存激活值后续epoch获得1.8-2.3倍传输加速特别适合联邦学习中的参数服务器场景6.2 时序数据库处理处理物联网传感器数据时对温度等缓变信号相邻采样点差值可压缩至1字节结合Delta编码VByte实现6:1压缩比实测写入吞吐提升4.7倍7. 性能优化关键参数在实际部署中我们推荐以下配置组合参数推荐值适用场景块大小1KB通用场景哈希算法FarmHashx86平台DRM线程数物理核心数×1.5高冗余数据压缩阈值32字节/元素整数数据集BRB大小DPU MRAM的15%平衡计算/存储对于特定场景的调优建议基因组分析采用2KB块大小启用二级缓存稀疏矩阵使用COO格式预处理禁用压缩流式数据设置时间窗口为10-100个批次