面包芯语

超线程SMT究竟可以快多少？（斐波那契版）

原创 Linux阅码场 2021-10-22 08:20
示波器需要多少模拟通道？ 超越传统分流器：探索新型电流传感解决方案
前几天，宋老师写了2篇文章：
超线程SMT究竟可以快多少？
超线程SMT究竟可以快多少？(AMD Ryzen版 )

宋老师的SMT测试很有意思，但是编译内核涉及的因素太多了，包括访问文件系统等耗时受到存储器性能的影响，难以估算，因此很难评判SMT对性能的提升如何。

 

为了探究SMT对计算密集型workload的效果，我自己写了一个简单的测试程序。

 

使用pthread开多个线程，每个线程分别计算斐波那契数列第N号元素的值。每个线程计算斐波那契数列时除线程的元数据外只分配两个unsigned long变量，由此避免过高的内存开销。

 

workload的详细代码和测试脚本在[https://github.com/HongweiQin/smt_test]

 

毫无疑问，这是一个计算密集型负载，我在自己的笔记本上运行，配置如下（省略了一些不重要的项目）：
$ lscpuArchitecture:                    x86_64CPU(s):                          12On-line CPU(s) list:             0-11Thread(s) per core:              2Core(s) per socket:              6Socket(s):                       1NUMA node(s):                    1Vendor ID:                       GenuineIntelModel name:                      Intel(R) Core(TM) i7-9750H CPU @ 2.60GHzL1d cache:                       192 KiBL1i cache:                       192 KiBL2 cache:                        1.5 MiBL3 cache:                        12 MiB

 

可以看到笔记本有一个Intel i7的处理器，6核12线程。经查，CPU0和CPU6共用一个Core，CPU1和CPU7共用一个Core，以此类推。

 

以下的测试(Test 1-5)中，每个线程分别计算斐波那契数列第40亿号元素的数值。

 

Test1：采用默认配置，开12线程进行测试。测试结果为总耗时45.003s。

 

qhw@qhw-laptop:~/develop/smt_test$ time ./smt_test -f 4000000000threads_num=12, fibonacci_max=4000000000, should_set_affinity=0, should_inline=1, alloc_granularity=32 real0m45.003suser7m12.953ssys0m0.485s

 

Test2：把smt关掉，同样的测试方法（12线程）。总耗时为25.733s。

 

qhw@qhw-laptop:~/develop/smt_test$ cat turnoff_smt.sh#!/bin/bash
echo "turn off smt"sudo sh -c 'echo off > /sys/devices/system/cpu/smt/control'qhw@qhw-laptop:~/develop/smt_test$ ./turnoff_smt.shturn off smtqhw@qhw-laptop:~/develop/smt_test$ time ./smt_test -f 4000000000threads_num=12, fibonacci_max=4000000000, should_set_affinity=0, should_inline=1, alloc_granularity=32 real0m25.733suser2m23.525ssys0m0.116s

 

对，你没看错。同样的workload，如果关掉smt，总耗时还变少了。Intel诚不欺我！

 

Test3：再次允许smt，但是将程序限制在三个物理Core上运行，则总耗时为34.896s。

 

qhw@qhw-laptop:~/develop/smt_test$ ./turnon_smt.shturn on smtqhw@qhw-laptop:~/develop/smt_test$ time taskset -c 0-2,6-8 ./smt_test -f 4000000000threads_num=12, fibonacci_max=4000000000, should_set_affinity=0, should_inline=1, alloc_granularity=32 real0m34.896suser3m17.033ssys0m0.028s

Test3相比于Test1用了更少的Core，反而更快了。

 

为什么在Test2和3会出现这样违反直觉的结果？

 

 猜想：Cache一致性在作怪！

 

图1


测试程序的main函数会分配一个含有T(T=nr_threads)个元素的`struct thread_info`类型的数组，并分别将每个元素作为参数传递给每个计算线程使用。`struct thread_info`定义如下：

 

struct thread_info {pthread_t thread_id;int thread_num;unsigned long res[2];};

 

结构体中的res数组用于计算斐波那契数列，因此会被工作线程频繁地写。

 

注意到，sizeof(struct thread_info)为32，而我的CPU的cacheline大小为64B！这意味着什么？

 

图2


如图所示，如果Thread 0在Core 0上运行，则它会频繁写tinfo[0]，Thread 1在Core 1上运行，则它会频繁写tinfo[1]。

 

这意味着，当Thread 0写tinfo[0]时，它其实是写入了Core 0上L1 Cache的Cacheline。同样的，当Thread 1写tinfo[1]时，它其实是写入了Core 1上L1 Cache的Cacheline。此时，由于Core 1上的Cacheline并非最新，因此CPU需要首先将Core 0中的Cacheline写入多核共享的L3 Cache甚至是内存中，然后再将其读入Core 1的L1 Cache中，最后再将Thread 1的数据写入。此时，由于Cache 0中的数据并非最新，Cacheline会被无效化。由此可见，如果程序一直这样运行下去，这一组数据需要在Cache 0和1之间反复跳跃，占用较多时间。

 

这个猜想同样可以解释为什么使用较少的CPU可以加速程序运行。原因是当使用较少的CPU时，多线程不得不分时共用CPU，如果Thread 0和Thread 1分时共用了同一个CPU，则不需要频繁将Cache无效化，程序运行时间也就缩短了。

 

 验证猜想：增加内存分配粒度！

 

对程序进行修改后，可以使用`-g alloc_granularity`参数设定tinfo结构体的分配粒度。使用4KB为粒度进行分配，再次进行测试：

 

Test4：12线程，开启SMT，分配粒度为4096。总耗时为13.193s，性能相比于Test1的45.003s有了质的提升！
 
qhw@qhw-laptop:~/develop/smt_test$ time ./smt_test -f 4000000000 -g 4096threads_num=12, fibonacci_max=4000000000, should_set_affinity=0, should_inline=1, alloc_granularity=4096 real0m13.193suser2m31.091ssys0m0.217s

 

Test5：在Test4的基础上限制只能使用3个物理Core。总耗时为24.841s，基本上是Test4的两倍。这说明在这个测试下，多核性能还是线性可扩展的。

 

qhw@qhw-laptop:~/develop/smt_test$ time taskset -c 0-2,6-8 ./smt_test -f 4000000000 -g 4096threads_num=12, fibonacci_max=4000000000, should_set_affinity=0, should_inline=1, alloc_granularity=4096 real0m24.841suser2m26.253ssys0m0.032s

 

超线程SMT究竟可以快多少？

 

表格和结论：

 

测试名 硬件配置 运行时间(s)
Test6 “真”6核  38.562 
Test7“假”6核 58.843
Test8“真”3核  73.175 

 

测试使用的是6个工作线程。为了减少误差，增加一点运行时间，每个线程计算斐波那契数列第200亿项的值。

 

对比Test6和7，可以看到SMT的提升大概在52.6%左右。

 

测试记录：

 

Test6：别名“真”6核，使用6个关闭了SMT的物理核进行计算。总耗时为38.562s。

 

Test7：别名“假”6核，使用3个开启了SMT的物理核进行计算。总耗时为58.843s。

 

Test8：别名“真”3核，使用3个关闭了SMT的物理核进行计算。总耗时为1m13.175s。

 

qhw@qhw-laptop:~/develop/smt_test$ cat test.sh#!/bin/bash
fibonacci=20000000000sudo printf "" ./turnoff_smt.shtime ./smt_test -f $fibonacci -g 4096 -t 6 ./turnon_smt.shtime taskset -c 0-2,6-8 ./smt_test -f $fibonacci -g 4096 -t 6 ./turnoff_smt.shtime taskset -c 0-2,6-8 ./smt_test -f $fibonacci -g 4096 -t 6 ./turnon_smt.shqhw@qhw-laptop:~/develop/smt_test$ ./test.shturn off smtthreads_num=6, fibonacci_max=20000000000, should_set_affinity=0, should_inline=1, alloc_granularity=4096 real0m38.562suser3m50.786ssys0m0.000sturn on smtthreads_num=6, fibonacci_max=20000000000, should_set_affinity=0, should_inline=1, alloc_granularity=4096 real0m58.843suser5m53.018ssys0m0.005sturn off smtthreads_num=6, fibonacci_max=20000000000, should_set_affinity=0, should_inline=1, alloc_granularity=4096 real1m13.175suser3m39.486ssys0m0.008sturn on smt


更多精彩，点击关注"Linux阅码场"

登录阅读全文
免责声明： 该内容由专栏作者授权发布或作者转载，目的在于传递更多信息，并不代表本网赞同其观点，本站亦不保证或承诺内容真实性等。若内容或图片侵犯您的权益，请及时联系本站删除。侵权投诉联系：  nick.zong@aspencore.com！
Linux阅码场 专业的Linux技术社区和Linux操作系统学习平台，内容涉及Linux内核,Linux内存管理,Linux进程管理,Linux文件系统和IO,Linux性能调优,Linux设备驱动以及Linux虚拟化和云计算等各方各面.
评论
  • 人形机器人疯狂进厂打工！银河通用、智元、乐聚机器人怕是都疯了
     万万没想到！科幻电影中的人形机器人，正在一步步走进我们人类的日常生活中来了。1月17日，乐聚将第100台全尺寸人形机器人交付北汽越野车，再次吹响了人形机器人疯狂进厂打工的号角。无独有尔，银河通用机器人作为一家成立不到两年时间的创业公司，在短短一年多时间内推出革命性的第一代产品Galbot G1，这是一款轮式、双臂、身体可折叠的人形机器人，得到了美团战投、经纬创投、IDG资本等众多投资方的认可。作为一家成立仅仅只有两年多时间的企业，智元机器人也把机器人从梦想带进了现实。2024年8月1
    刘旷 2025-01-21 11:15 616浏览
  • 瑞芯微开发板/主板Android配置APK默认开启性能模式方法
    本文介绍瑞芯微开发板/主板Android配置APK默认开启性能模式方法，开启性能模式后，APK的CPU使用优先级会有所提高。触觉智能RK3562开发板演示，搭载4核A53处理器，主频高达2.0GHz；内置独立1Tops算力NPU，可应用于物联网网关、平板电脑、智能家居、教育电子、工业显示与控制等行业。源码修改修改源码根目录下文件device/rockchip/rk3562/package_performance.xml并添加以下内容，注意"+"号为添加内容，"com.tencent.mm"为AP
    Industio_触觉智能 2025-01-17 14:09 189浏览
  • 电气系统中，如何选择一款最为适配的数字隔离芯片？
    数字隔离芯片是一种实现电气隔离功能的集成电路，在工业自动化、汽车电子、光伏储能与电力通信等领域的电气系统中发挥着至关重要的作用。其不仅可令高、低压系统之间相互独立，提高低压系统的抗干扰能力，同时还可确保高、低压系统之间的安全交互，使系统稳定工作，并避免操作者遭受来自高压系统的电击伤害。典型数字隔离芯片的简化原理图值得一提的是，数字隔离芯片历经多年发展，其应用范围已十分广泛，凡涉及到在高、低压系统之间进行信号传输的场景中基本都需要应用到此种芯片。那么，电气工程师在进行电路设计时到底该如何评估选择一
    华普微HOPERF 2025-01-20 16:50 113浏览
  • 汽车免拆诊断案例 | 2007 款日产天籁车起步加速时偶尔抖动
    故障现象　一辆2007款日产天籁车，搭载VQ23发动机（气缸编号如图1所示，点火顺序为1-2-3-4-5-6），累计行驶里程约为21万km。车主反映，该车起步加速时偶尔抖动，且行驶中加速无力。 图1　VQ23发动机的气缸编号 故障诊断接车后试车，发动机怠速运转平稳，但只要换挡起步，稍微踩下一点加速踏板，就能感觉到车身明显抖动。用故障检测仪检测，发动机控制模块（ECM）无故障代码存储，且无失火数据流。用虹科Pico汽车示波器测量气缸1点火信号（COP点火信号）和曲轴位置传感器信
    虹科Pico汽车示波器 2025-01-23 10:46 58浏览
  • 过孔的设计孔径是真的很重要，但高速先生也是真的不关心
    高速先生成员--黄刚这不马上就要过年了嘛，高速先生就不打算给大家上难度了，整一篇简单但很实用的文章给大伙瞧瞧好了。相信这个标题一出来，尤其对于PCB设计工程师来说，心就立马凉了半截。他们辛辛苦苦进行PCB的过孔设计，高速先生居然说设计多大的过孔他们不关心！另外估计这时候就跳出很多“挑刺”的粉丝了哈，因为翻看很多以往的文章，高速先生都表达了过孔孔径对高速性能的影响是很大的哦！咋滴，今天居然说孔径不关心了？别，别急哈，听高速先生在这篇文章中娓娓道来。首先还是要对各位设计工程师的设计表示肯定，毕竟像我
    一博科技 2025-01-21 16:17 143浏览
  • PCB设计第058篇 如何打开IPC-2581格式的PCB加工文件
        IPC-2581是基于ODB++标准、结合PCB行业特点而指定的PCB加工文件规范。    IPC-2581旨在替代CAM350格式，成为PCB加工行业的新的工业规范。    有一些免费软件，可以查看（不可修改）IPC-2581数据文件。这些软件典型用途是工艺校核。    1. Vu2581        出品：Downstream     
    电子知识打边炉 2025-01-22 11:12 117浏览
  • Ubuntu20.04取消root账号自动登录方法触觉智能RK3568开发板演示
    Ubuntu20.04默认情况下为root账号自动登录，本文介绍如何取消root账号自动登录，改为通过输入账号密码登录，使用触觉智能EVB3568鸿蒙开发板演示，搭载瑞芯微RK3568，四核A55处理器，主频2.0Ghz，1T算力NPU；支持OpenHarmony5.0及Linux、Android等操作系统，接口丰富，开发评估快人一步！添加新账号1、使用adduser命令来添加新用户，用户名以industio为例，系统会提示设置密码以及其他信息，您可以根据需要填写或跳过，命令如下：root@id
    Industio_触觉智能 2025-01-17 14:14 140浏览
  • 挑战6万月薪【三】Purple Pi OH开发板带你7天入门OpenHarmony！
    现在为止，我们已经完成了Purple Pi OH主板的串口调试和部分配件的连接，接下来，让我们趁热打铁，完成剩余配件的连接！注：配件连接前请断开主板所有供电，避免敏感电路损坏！1.1 耳机接口主板有一路OTMP 标准四节耳机座J6，具备进行音频输出及录音功能，接入耳机后声音将优先从耳机输出，如下图所示：1.21.2 相机接口MIPI CSI 接口如上图所示，支持OV5648 和OV8858 摄像头模组。接入摄像头模组后，使用系统相机软件打开相机拍照和录像，如下图所示：1.3 以太网接口主板有一路
    Industio_触觉智能 2025-01-20 11:04 186浏览
  • 聊聊RISC-V MCU技术
    嘿，咱来聊聊RISC-V MCU技术哈。 这RISC-V MCU技术呢，简单来说就是基于一个叫RISC-V的指令集架构做出的微控制器技术。RISC-V这个啊，2010年的时候，是加州大学伯克利分校的研究团队弄出来的，目的就是想搞个新的、开放的指令集架构，能跟上现代计算的需要。到了2015年，专门成立了个RISC-V基金会，让这个架构更标准，也更好地推广开了。这几年啊，这个RISC-V的生态系统发展得可快了，好多公司和机构都加入了RISC-V International，还推出了不少RISC-V
    丙丁先生 2025-01-21 12:10 418浏览
  • 2025年刚开始，就收到了“橄榄枝”！
    临近春节，各方社交及应酬也变得多起来了，甚至一月份就排满了各式约见。有的是关系好的专业朋友的周末“恳谈会”，基本是关于2025年经济预判的话题，以及如何稳定工作等话题；但更多的预约是来自几个客户老板及副总裁们的见面，他们为今年的经济预判与企业发展焦虑而来。在聊天过程中，我发现今年的聊天有个很有意思的“点”，挺多人尤其关心我到底是怎么成长成现在的多领域风格的，还能掌握一些经济趋势的分析能力，到底学过哪些专业、在企业管过哪些具体事情？单单就这个一个月内，我就重复了数次“为什么”，再辅以我上次写的：《
    牛言喵语 2025-01-22 17:10 150浏览
  • 【工程师故事】+2024年总结之做技术不能想当然
    2024年是很平淡的一年，能保住饭碗就是万幸了，公司业绩不好，跳槽又不敢跳，还有一个原因就是老板对我们这些员工还是很好的，碍于人情也不能在公司困难时去雪上加霜。在工作其间遇到的大问题没有，小问题还是有不少，这里就举一两个来说一下。第一个就是，先看下下面的这个封装，你能猜出它的引脚间距是多少吗？这种排线座比较常规的是0.6mm间距（即排线是0.3mm间距）的，而这个规格也是我们用得最多的，所以我们按惯性思维来看的话，就会认为这个座子就是0.6mm间距的，这样往往就不会去细看规格书了，所以这次的运气
    wuliangu 2025-01-21 00:15 294浏览
我要评论
0
点击右上角，分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦