Summary Problem Type Verifiable in P time Solvable in P time P Yes Yes NP Yes Yes or No * NP-Complete Yes Unknown NP-Hard Yes or No** Unknown *** Increasing Difficulty * An NP problem that is also P is solvable in P time. ** An NP-Hard problem that is also NP-Complete is verifiable in P time. *** NP-Complete problems (all of which form a subset of NP-hard) might be. The rest of NP hard is not....
Calc 1b = 十亿 = 1e9 >>> 1e9/1024/1024/1024 0.9313225746154785 例: FP32 7B参数量：7 * 0.93 * (32/8)=26.04GB REF vLLM推理性能鉴赏 - 知乎 (zhihu.com) huggingface.co
图片使用了smms图床，特殊网络下可能无法加载； qemu-system-x86_64 -M q35 -accel kvm -cpu host -m 4096 -smp 4 -drive file=drive 发挥CPU全部性能：CPU模型与指令集 -cpu model 使用qemu-system-x86_64 -cpu help 我们暂时只要了解，QEMU提供这么多CPU模型，是为了便于我们迁移镜像到其他物理机，特别是不同CPU的物理机。 测试 硬件：Intel 12100（4核8线程，无E核）， DDR4 32G 3200Mhz RAM 软件：GeekBench 6.1.0 宿主机：PVE运行的QEMU Ubuntu 22.04，分配8核心、10G RAM 客户机：（嵌套虚拟化） Ubuntu 22.04，4G RAM，KVM，HOST 宿主机测试性能：单核2265、多核7711，QEMU Standard PC (i440FX + PIIX, 1996) - Geekbench 测试CPU模型对CPU性能的影响： cpu model single core multi core url host 2224 7187 https://browser.geekbench.com/v6/cpu/2157089 max 2221 7366 https://browser.geekbench.com/v6/cpu/2157146 kvm64 1149 3994 https://browser.geekbench.com/v6/cpu/2157214 其中host、与max的性能可以视为误差范围内，而kvm64无论多核还是单核，理论性能测试只达到了理论性能的50%左右； 利用geekbench的对比功能：kvm64 vs max，可以看到在少数测试项目中kvm64性能与max近似，绝大部分性能低于60%；...
Intro 查看QEMU文档，对Accelerator（加速器）的介绍如下： This is used to enable an accelerator. Depending on the target architecture, kvm, xen, hax, hvf, nvmm, whpx or tcg can be available. By default, tcg is used. If there is more than one accelerator specified, the next one is used if the previous one fails to initialize. 关于kvm, xen, hax, hvf, nvmm, whpx, tcg，以下内容总结自ChatGPT 3.5（Emmm，真好用）： 技术/软件 描述 平台支持 虚拟化方式 KVM (Kernel-based Virtual Machine) 开源虚拟化解决方案，利用Linux内核虚拟化功能，在Linux上运行虚拟机 Linux 硬件虚拟化 Xen 基于微内核架构的开源虚拟化系统，支持多种客户机操作系统 多平台（特别在x86上常用） 硬件虚拟化或直接运行 HAX (Hardware Accelerated Execution) Intel提供的硬件加速执行技术，用于Android模拟器中的虚拟机 x86主机上运行ARM虚拟机 硬件加速虚拟化 HVF (Hypervisor....
图片使用了smms图床，特殊网络下可能无法加载； qemu-system-x86_64 -M q35 -accel kvm -cpu host -m 4096 -smp 4 -drive file=drive 前置知识：超线程——任务管理器里展示的并不是真正的CPU 测试使用的CPU为英特尔® 酷睿™ i3-12100 处理器 (intel.cn)，根据规格表，一共有4颗核心。而在htop中，可以看到8个CPU负载 是因为操作系统以CPU支持的线程数，作为逻辑核心展示，而不是物理核心； 当CPU启用超线程后，CPU 会在每个物理内核上公开两个执行上下文，一个物理内核现在就像两个“逻辑内核”一样，可以处理不同的软件线程； By taking advantage of idle time when the core would formerly be waiting for other tasks to complete, Intel® Hyper-Threading Technology improves CPU throughput.（协程和这个理念基本相同） What Is Hyper-Threading? - Intel 当然，超线程技术并不能让多核性能简单的x2，理想情况下可以带来20%至30%左右的性能（吞吐量）提升。 为虚拟机分配核心 QEMU使用-smp分配核心，使用方式： -smp [[cpus=]n][,maxcpus=maxcpus][,sockets=sockets][,dies=dies][,clusters=clusters][,cores=cores][,threads=threads] 可以简单理解为一颗叶子节点为线程（逻辑核心）的满二叉树： 逻辑处理器数量： $$ n=sockets*dies*clusters*cores*threads $$ 其中，maxcpus是QEMU为热插拔设置的属性，在此不展开； 参数 对应的物理对象 参数作用 sockets CPU插槽 CPU插槽数目 dies CPU晶片 每个CPU有几块承载核心的晶片 clusters 晶片上的CPU簇 / cores CPU核心 每簇包含几个CPU threads / 每个CPU核心通过超线程支持的线程数 常见写法：...