Hi:欢迎来到58硕博论文网     

所有论文科目分类


主页 > 硕博论文 > CPU-GPGPU共享最后一级缓存架构中的数据共享优化

CPU-GPGPU共享最后一级缓存架构中的数据共享优化

作者2019-03-27 10:24未知
随着CPU和GPGPU在各种环境下得到应用,人们逐渐发现这两个处理器各自的独特优势。为了实现优势互补并支持更广泛的场景,由CPU和GPGPU组成的异构多处理器系统受到关注。其中CPU和GPGPU共享最后一级缓存(LLC)的片上紧耦合系统能实现更细粒度的交互。然而简单地将CPU和GPGPU连接到共享LLC时两种处理器在访存行为上的差异性导致数据共享效率受限,并不能充分发挥异构多处理器系统的计算能力。本文首先分析了 CPU和GPGPU使用共享LLC进行数据交换时的访存特征。发现简单的缓存替换策略并不能提供最高的数据交换效率,会产生缓存抖动问题,中间暂存数据被写入内存也会引入不必要的内存事务并浪费了内存带宽。此外传统的交互模式往往造成一方处理器空闲等待对方提供数据,无法有效地实现数据生成和计算的重叠。为了解决这些问题,本文提出使用固定大小的元素作为数据交换单位,并在LLC中实现硬件管理的共享数据队列以支持基于元素的数据共享。进一步提出元素-原子的数据组织方式以移除元素大小限制,配合访问协议支持GPGPU大规模乱序访问。同时还使用后备存储避免死锁同时保持访问低延迟,并在共享数据队列中实现了低代价的全局同步。在使用传统LLC进行数据交换时,本文发现CPU和GPGPU的算法常常偏好不同的最优数据存储布局以满足各自不同的局部性,导致数据存储布局冲突。已有的转换方法会污染转换处理器的缓存、引入额外的转换代码执行或管理代价。本文通过在共享LLC中加入访存地址重映射实现体系结构辅助的自动转换。于是运行在不同处理器上的算法始终可以它们各自的最优数据存储布局访问共享数据,并充分利用各的自私有缓存。由于处理器不再直接进行布局转换,CPU或GPGPU代码中也不再需要加入额外的管理代码。其次,本文使用可编程的重映射控制器实现灵活的数据存储布局转换,移除了对数据大小和只支持特定目标布局的限制。根据GPGPU并行访存的特征,本文指出其访存过程中存在大量的仿射计算,即各线程执行完全相同的内存地址计算,只有作为输入的线程ID有差异。这种冗余计算导致GPGPU的计算资源浪费且不利于对访存统一调度。因此本文提出访存分离计算,由CPU生成仿射计算参数,交由共享LLC计算各线程的实际访存地址,并生成相应的访存请求。LLC最终将数据经过访存融合后推送给GPGPU的各线程。因此访存分离计算移除了GPGPU代码中大部分的访存地址计算和访存操作本身,将更多GPGPU的计算资源保留给实际工作,提高了系统效率。最后,本文使用模拟器环境验证提出的优化方法。其中共享数据队列相比传统的数据交换方法加速了 48%,而CPU和GPGPU的平均全局同步时间分别缩短到21%和38%。使用共享数据存储布局重映射后,测试程序的平均执行时间降低到69%;相比于使用CPU和GPGPU进行数据存储布局转换,使用本文的方法的平均转换时间分别减少到58%和46%。访存分离计算则将运行时间平均降低到48%,GPGPU平均执行的指令数下降到84%。实验表明,本文提出的优化方法从不同角度提升了 CPU和GPGPU在共享LLC架构下的数据共享性能。
58硕博论文网

最新更新

热门推荐

[硕士论文]企业战略管理视角出发研
本文是 mba论文 ,本论文从企业战略管理的视角出发,依靠文献检索法、调查研究法、对比分析法对案例银行(乌鲁木齐银行)互联网金融竞争环境和因素(外延和内涵)进行了系统而又深入的研究,并综合运用SwOT 分析得出so战略应为乌鲁木齐银行首选的战略,同时给出了-些战略实施的保障措施,以帮助案例银行重新调整竞争模式和发展战略,创新传统的经营模式,以应对新形势下的挑...[全文]
[硕士论文]传统商业银行发展互联网
本文是 mba论文 ,传统商业银行发展互联网金融的主要模式。在互联网金融的强力冲击下,商业银行的金融中介地位逐步弱化,收入来源一再受到冲击,传统的主要收入来源利差收入也难抵颓势。在这样的背景下,传统商业银行唯有积极结合互联网金融并开展相关业务,目前主要模式如下: (一)与互联网企业合作,资源共享 互联网+时代下,跨界合作成为趋势,传统商业银行与...[全文]
[硕士论文]国外金融行业市场进展情
本文是 mba论文 ,随着互联网金融的蓬勃发展,人们分别通过理论研究、市场预测及统计分析等方法对互联网金融及其对传统金融机构的影响,以及在影响之下金融机构采取的战略转型进行了深入研究,并取得了丰硕的成果。下面分别介绍国外相关研究进展情况及发展趋势。 国外研究综述 (一)关于互联网金融对传统金融行业影响的研究 在国外,互联网形式的商业模式和金融业...[全文]
[硕士论文]网络银行金融机构市场主
本文是 mba论文 ,在 20 世纪 90 年代中期,美国出现了一家名为安全第一网络银行(Security First Network Bank, SFNB),正式标志着互联网金融的诞生。随着越来越多的金融科技企业推出高效便捷的金融产品和服务,以网络贷款、网上银行等为代表的金融服务开始在美国金融市场迅速发展,互联网金融企业与传统金融机构开始相互竞争。截至目前,传统金融机构的市场主导地位没有发生...[全文]
[硕士论文]【mpa论文】新媒体视角下
本文是 mpa论文 ,新媒体,从字面意思上理解,就是一种新的媒体形式,是相对于传统媒体而言的。New media是新媒体一词的英文翻译。新媒体概念的提出人是美国的戈尔德马克。从普遍意义上来说,新媒体是继报刊、广播和电视等传统媒体之后发展起来的媒体形态,是通过数字和网络技术,依托互联网平台,以微信、微博、贴吧、论坛等为渠道,向用户传播快捷、广泛的信息、为...[全文]
[硕士论文]地方政府公信力mpa论文研
本文是 mpa论文 ,人无信不立,业无信不兴。同样,国无信必颓,政无信则衰。当前,我国经济和社会发展都取得了重大成就,人们的生活水平也逐步提高,公民参政议政的意识越来越强烈,对政府提出了新的期待。互联网时代,通讯媒体迅速发展,网络信息日益多元化,政府的行政行为都浮现在人们的视线中,一方面加强了对政府工作人员的监督,另一方面信息的多元化网民的...[全文]
关闭窗口 论文咨询