| |
|
知识库 -> 数码 -> 内存(RAM) 1T 以上是什么体验? -> 正文阅读 |
|
[数码]内存(RAM) 1T 以上是什么体验? |
[收藏本文] 【下载本文】 |
[图片] [图片] |
泻药,人在美国,下飞机好久了。 现在总共有三台0.75T (768G) 和一台1T (1024G), 一台1.5T (1536G) 内存的机器,加起来总共是4.75T (4864G)。一台核心配置96c192t (Quad intel Xeon 8168)、三台核心配置104c208t (Quad intel Xeon 8176)、一台核心配置配置128t256c (dual AMD EPYC 7H12) |
|
四路志强 |
|
两路枭龙 被问的比较多的: 你的CPU核心数比我的显卡流处理器多,显存比我内存大,内存比我的storage大....storage比我网盘大... 服务器开机前十秒钟会发出喷气式客机一样的轰鸣,然后十几秒后会噪音变小。 进机房我一般都会带着入耳式耳机,密封效果不错的那种,不然会耳鸣 |
|
勉强算是1T吧(2021.03 真的升级到1.5T了),前两天重启服务器,顺手用Windows截了个图,体验嘛: 1、内存大最大的体验就是没有体验。 忘记内存,不用跑个什么程序都要先想想自己内存够不够跑算例/程序。 2、日常服务器待机从来没见内存超过3%的。真干起来活(Linux,centos 7),勉强够用。大型有限元计算,还多线程并行,一个线程几十个g,1T很轻松就用完了,真的很吃内存。 一般是这么用的,开线程,分配内核和内存;再开再分配;分配到程序吐核或者内存不足,768GB很有限的。 3、大家知道intel 4代(也就是五年前的普通电脑)用的1333 ddr3单通道内存的io有多少吗?8G/s左右。现在的最新的nvme ssd,尤其是amd的pcie4 ssd,速度已经可以达到4G/s甚至5.5G/s,但是为什么还是无法代替内存吗?延迟。大内存,一般都是多通道,可以带来超高带宽+超低延迟。超低延迟是无论组什么raid都无法实现的,所以内存的作用永远是储存代替不了的。 3+、一个很特殊的体验,运行某些很小的程序的时候,速度无敌快,远高于因为频率和核心数造成的影响(可能在基础上高七八倍)。因为正常来讲普通pc的小程序都是放在内存里的,但是服务器比较牛逼,L1L2L3 cache加起来快256mb,cache跑火车,小程序直接cache运行了,在cache这种超低延迟的缓存里跑当然快了... 4、一般服务器上的内存都会有ECC (RECC),如题所述的1T以上,几乎肯定是服务器了,我课题组成员有需要耗费内存300G+,计算时间两天的有限元程序,在自己的工作站上 (非ECC),跑经常很奇怪的出错,她最开始以为是网格划分以及迭代中的随即不收敛问题,后来我告诉她,你不如在服务器上试试。然后就再也没很奇怪的出错过了。 下图为某种体验,内存基本用光,cpu反而闲置很多 |
|
|
|
程序猿对于算力的需求是没有止境的,越高的性能越大的可能。 如果是人的主观体验,现在1T的体验和二十五年前1G的,人的主观体验差不了多少,大家都体验过哈哈哈哈 |
我的物理有机老师(做计算化学的)有一次在课上说,他的服务器内存有1.5T。 我:??确定不是硬盘1.5T?? 然后过了一小会儿他又说这是好多128G的内存条垒上去的。 我:原来真是1.5T的内存,是我年少无知。 不过他说这1.5T的内存跑一些大体系的运算时还是不够用。 ㄟ( ▔, ▔ )ㄏ |
(这台机器已经十年了) 最大的体验:启动慢。三分钟内,显卡都没初始化。也就是,想看到上电自检报告,得按下按钮三分半左右。至于进系统呢,五分多钟。 |
|
|
|
|
|
|
|
1048576 MB(此处应为MiB),OK? 系统嘛……就是Debian unstable。80线,Linux内核源码目录(用的tmpfs)下make -j80(驱动大部分都启用了),两分多钟的飞机声,就不响了。 |
前几天登录了一下服务器,发现不知道啥时候给又加了512G内存... |
|
想起之前导师让学院信息中心开几个小型机。 我们登上一看,我靠! 224核,1.5T内存… 等等,你叫他小型机!? |
体验就是,一定要让供应商负责调试好内存稳定性。 之前作为技术顾问去帮隔壁实验室修理过一台amd的机器,2T内存,症状是不定时死机,日志都没有的那种。初步怀疑是内存问题,跑memtest非常痛苦,前后跑了近一周。不过memtest没发现问题,我得出结论是bios存在问题,但厂家信誓旦旦说bios没问题。后来他们又折腾了一个月,最终还是刷了新bios解决问题的。 后来我自己实验室买的1.5T以上内存的机器都要求供应商调试好内存稳定性再交付。对于这么大的内存,自己跑memtest实在太累了。把这些时间用来休息都更合算。 |
没到 1TB 内存, 但是还是得说下 E7 这种准系统在大内存环境下的问题: |
|
四路 E7, 每路都是内存板. 应该和某位答主的情况差不多. 经常会碰到一路 CPU 的内存出现故障导致系统把这一路 CPU 停掉. 所以每次去机房的时候多多少少会跑一两次 memtest. 有的时候就会 KP 且重启失败(IPMI 没有 watchdog), 这个时候只能上 IPMI 看看到底发生了啥然后手动 reset. 当然如果是一般场景, 我自己放家里的服务器就只配了 128GB 内存(如果是 32GB 的 LRDIMM 的话能配置到 512GB). 这样的机器作为桌面PC典型的情况就是基本不能休眠, 毕竟 NVMe 最快也就 6GB/s 写入还要考虑掉速. 一般的用途就是开各种虚拟机塞各种老 libc 的环境, FreeNAS, Windows Server 和 Client 系统跑 IM. |
刚好,我们服务器就是1T内存,至于什么体验,那就是大数据可以一次性载入,不需要分块,不用考虑内存溢出的问题,但是仍然很慢,你把500G的数据一次性从硬盘阵列载入内存,可以先回去睡个觉,醒了差不多也就好了。 就是,编程更加简单,不需要考虑数据分块,即使多人同时登陆多任务并行也不用担心。 |
768G的强答一下。。 体验就是发现了需要开启linux THP,还有一个glibc malloc的坑。 大概是2013-2014年那一阵吧,当时在尝试把updateserver放在超大内存的机器上跑,跟厂家要了1T的测试机,不过厂家说1T有问题,给了台768G的先玩玩。当时updateserver设计为一天的MVCC数据都尽量存在内存里,等compaction之后一次性释放,所以内存分配器很简单,还记得是用的山哥写的PageArena,每次找操作系统批发2M的"page",然后零售给MVCC逻辑,等compaction之后把所有的2M的page都free掉。 当时用的比较多的好像是192G的,memtable一般也就配置为大几十G,问题还太明显。用上大内存后,把memtable的可用内存也跟着调大到300多G,然后发现释放memtable的PageArena时会卡住到秒级别,才发现free慢成狗,碎片化的内存太多了,当时的内核默认还没打开THP,在某位资深专家的指导下开启了THP,发现对于ob这种严格管理内存的系统真是太有用了。不过话说回来,现如今的centos 6 7都默认开THP,对于绝大多数内存使用并不检点的系统比如mysql redis甚至tidb来说反而产生很大的负面作用,现在团队里的DBA同学对于系统参数管理其中一个检查项就是要关闭THP。 另外一个就是glibc malloc的坑(不过我不知道目前广泛使用的版本是否还有这个问题,目前团队在研的系统还没测到这么细),就是在mmap分配出去的数量超过一个可配置的阈值后,以后的malloc都只使用sbrk分配虚拟内存,这会造成什么影响,道上的专家们应该很清楚了,暴露这个问题仍然是在大内存上才更容易出现。 |
可能大概就是这样吧乁(?˙?˙?乁)病没啥感觉,跑个程序,瞬间吃满了。现在已经升级到8T内存了,依然不够用。 |
|
传数据都是。 |
|
顺带一提,有次京东12tb的硬盘都被我们买断货了ε=ε=(ノ≧?≦)ノ |
跑上千台虚机也可以。供某单位办公用。 |
|
|
给某个水电站做项目时,申请部署服务器,总共多少不知道,划了512G的内存给我们用,我们的项目是很小的项目,就是记录数据做一个简单的分析展示,拿到服务器参数信息的时候怀疑自己看错了,又一看硬盘40T,哦原来真的有512G的内存。 后来发现512G内存是常规操作。 又后来项目负责人带来了一个“指示”:禁止使用服务器玩股票。 我不懂但我大为震撼。 |
如果你一个人睡觉,你搞一张5米巨床其实卵用都没有,床再大并不会改善你睡眠质量,反而每天铺床要花超长的时间(类比开机自检)。如果你搞 impart(类比有很多吃内存的应用),作用就来了,每个人都有足够空间活动,而不需要轮换去沙发或者别的房间等候(类比虚拟内存swap)。 实际上家用场景下,1T完全是没用的,不会给你上网、打游戏带来哪怕0.001%的提升,反而会导致开机速度变得极慢无比,完全是负提升。 |
元旦前夕一个机柜停机维护。 不停机体会不到,停机一次,硬盘越多、内存越多,单等自检就够头疼。 基本没有体验。 只是有些系统需要那么多内存。 除非内存升级只是系统切换的一环。 就像是8G内存的办公机,硬塞64G也不会快。 |
你电脑内存多大啊? 1T 我说的是内存,运行内存,你懂吗?不是硬盘存储! 就是1T啊 算了,不能跟你这种傻子说话,走了走了 内存1T的大小已经不是普通民用范畴的了,,,是什么体验还真的不知道。不过现在的X86架构的CPU 最大支持内存好像是256G吧,1T的内存显然需要组成节点了,组成一个计算集群,那就不是什么体验的问题了。 |
并没有什么奇怪的体验,只不过能够随时调用数据量变得多了起来而已。 RAM本质上其实和硬盘一样的。 换句话来说,RAM是高铁,硬盘就是绿皮车。 都是往同一个目的地(CPU)运送人(数据),前者当然要快得多,但是高铁(RAM)的造价也肯定会比绿皮车(硬盘)高得多,而且载得人少。 再来另外一个差别就是,RAM断电之后里边的数据就清空了,但现在也不是没有办法把RAM当成硬盘来使用。 给你个内存(RAM)当做硬盘使用时的测速跑分。 |
|
对比一下你自己的SSD或者机械硬盘跑分就知道了。 其次,至于什么体验。 我是个业余音乐爱好者,平时做做编曲(管弦乐)什么乱七八糟的。 |
|
一首五六个音源就得占用20G左右的内存,这还是DAW压缩过后的。 一个(是一个,不是一种)乐器,大概就需要占用约2G左右的内存。 你可以想象,一个管弦乐队有多少个人,有多少件乐器。 1T=1024GB 算下来也不过500来个乐器。 更别提像弦乐这样的东西,一个占7-8GB内存更是常有的事情。 当然,这只是极端情况,只能说少有,但不会没有。 你肯定想问既然会占那么大的资源,为什么不用硬盘呢? ——因为要随时调取呀。 因为要同时播放100-200个乐器,那就需要同时调用100-200个乐器的资源,就需要特别快的读取和写入速度。 —— 顺便一提,1T内存现在只有服务器才能有吧? 家用的CPU和主板,现在最高能够负荷512G。 |
强答一波,用过实验室的256G机器,一般用来跑模型。 在这个之前我用的是32G或者64G,犹记一次数据挖掘的比赛,原数据10G,光是特征提取就很费劲,numpy数据全部读进来,大概要乘以4,也就是原始数据就要占用大概40G,那阵子每天都报memory error,很痛苦,不得已只能将数据拆开来几份或者几十份进行特征提取,然后模型训练的时候只能用增量训练,onehot也只能scipy.sparse,onehot几万或者几十万个维度,加上数据条数一多,多少内存都hold不住,而且用scipy.sparse估计也会更快。 之后用了256G的机器,再也没有为内存担忧过,每次都是直接全部数据直接上,比如几十万张差不多51*51大小的图片,看到内存占有率到达200+G时觉得实验室这钱花得真值,但是有时也会被实验室的人说,他们也还要用。大内存机器省去了,置换内存的步骤,也就是读取一批,处理一批。有时训练图像可以把所以图片加载进来,没有大内存的话就要写程序读取一批训练,训练的时候再读取一批,轮流着来。 大机器的另外一个好处是可以很快地跑GridSearch,GridSearch应该会将数据复制多份,这个时候就需要很多内存,刚刚跑了个GridSearch,如下图所示。 |
|
但是内存虽然大了,python只能用一个核心也是很醉,运算速度被CPU限制住了,看着那2w多的CPU的64个核心只能跑一个,我...。虽然可以用concurrent,但是一来麻烦,而来效率也不是随着核数线性提升。后来在一些任务上用上了批处理跑多个脚步,看着CPU占有率100%,一两天的结果几十分钟就出来的时候是真的爽。这样的确用上了全部核心,但还有一些任务不能这样拆分,总之很麻烦。 |
本来已经打算买了。 可惜老婆不同意。 |
你可以做一个Ramdisk,塞进去一个完整的GNU/Linux发行版,并且通过这个发行版Sync Android/Linux的源码并且编译一个Android发行版 |
您好 什么体验,简单说就是启动非常慢 mem 1T以上的机器,也就是单位科研工程师可以放心大胆的做一些大内存消耗的科研项目 维护工程师体验就比较苦了,机房的灰尘真的比较吓人 对个人用户没什么意思 个人喜欢diy,喜欢server平台,mem到128G您就感觉不到mem了,在Windows平台上做什么都OK Linux平台上,256G mem的 server一般的科研项目也够了,当然大型项目可以加 一般发烧友用到256G的就可以了,再上面主板的开销就非常贵了 要体验大内存,泰安和超微的主板都可以稳定运行os 仅供参考 |
跑Smart3D软件依旧会提示他妈的内存不足,请分块。。。。。。 分块,10米一个块就告诉我需要1.4T的运存。。。我要你何用。。。。。。 怂了,0.5米一个分块qwq 这个项目79.4平方公里,5镜头,140W张图,95-95重叠率 |
|
感觉就是感觉还行的那个感觉 |
你电脑多少内存? 1.5TB 那是硬盘容量!我是问内存多少?? 1.5TB 算了,你个电脑小白啥都不懂。 |
学校超算上有两个胖节点,2T内存,144个核心。我大点的体系,普通节点跑不了的,基本都在上面跑(100原子以上?)就是排队时间太长。不知道新系统启用后排队时间会不会改善一点。 |
不太到1t,两块tesla仿真0.5秒跑两天 |
|
|
最近内存便宜了,前一阵子给实验室配工作站写了个1T配置,终于可以来答题了。 先看配置: 双路intel xeon 8383c关超线程80核心,16*64G插满刚好1T内存,显卡3060 12G亮机卡 |
|
|
|
感觉1T真的比之前的512G那台爽太多,之前的512G工作站有两三个人跑大点的模型就内存挤爆了,现在的1T内存舒服太多。跑几个大模型也不会内存不足报错了。 |
|
|
这个应该请 @王飞 来回答啊。 这么一堆人提Mac Pro都是官网截图,连付款按钮都不带点一下的。只有他能给你们看个真家伙。 |
|
|
|
贵!!!!!!!!预计这两年整1T的内存可期!!!到时得贵到天际去了!!用不起啊!! |
没什么感觉。remote 到 rhel6.0, 多少内存都一个感觉。 |
什么是外排序? 什么是SAX? 什么是Swap分区? 之前跑Knowledge Graph,下载了整个Freebase。普通电脑上为了能快速query,可以搭一个(图)数据库。把数据灌入数据库,然后query的时候写sql或者spasql 内存足够大的话:
(差不多是这个意思,具体freebase什么结构存的有点儿不记得了) 装X时刻开始: |
|
|
|
|
|
|
不想说话 只想放张图 日期 2017年09月12日签定 。 |
|
|
|
[收藏本文] 【下载本文】 |
上一篇文章 下一篇文章 查看所有文章 |
|
|
娱乐生活:
电影票房
娱乐圈
娱乐
弱智
火研
中华城市
印度
仙家
六爻
佛门
风水
古钱币交流专用
钓鱼
双色球
航空母舰
网球
乒乓球
中国女排
足球
nba
中超
跑步
象棋
体操
戒色
上海男科
80后
足球: 曼城 利物浦队 托特纳姆热刺 皇家马德里 尤文图斯 罗马 拉齐奥 米兰 里昂 巴黎圣日尔曼 曼联 |
网站联系: qq:121756557 email:121756557@qq.com 知识库 |