多功能PCIE交换机之九:单NT系统中需要注意的问题

多功能PCIE交换机之九:单NT系统中需要注意的问题

1.单NT与双NT系统差异

NTB通常用在双控或者多控的系统上,用来实现跨节点的数据传输。在由多个节点构成的系统上,通常每个节点上都有一个NTB芯片,以实现全系统地址空间划分和路由。顾名思义,单NT是指用一个PCIE非透明桥来实现节点间数据传输的方案,通常用在两个节点之间。和多NT的系统相比,这种方法实现相对比较简单,成本较低,开发周期较短,能够缩短整个系统的关键功能和性能的验证周期。

2.单NT系统的实现

单NT的实现需要结合整个系统的设计要求,
根据具体服务器的主板和各种设置,确定好物理NTB需要安装在哪台机器上,然后考虑并检查下面的设置:

a. 检查BIOS里是否有NTB相关的enable/disable开关,如果有,打开相应的开关;

b.在需要安装物理NTB的节点上,EEPROM里enable相应的NTB;而在其他的节点上,通过EEPROM来disable
NTB;

c.根据系统的设计要求,设置好地址地址转换窗口的数量和大小。

3.单NT系统中PCIE设备的特点

单NT系统中,由于link
port一侧的NTB实际上是disable的,link
port一侧看到的NTB相应的BAR空间实际都是virtual
port一侧映射过来,然后由link
port一侧操作系统初始化PCIE时设置的。因此,Virtual
port 端重启之后,Link
port NTB相应的BAR寄存器会发生变化,因此会导致Link
Port不能往virtual
port读写数据。此外,如果link
port节点上电的时候,virtual
port一侧还没有上电,

那么link
port 在初始化PCIE总线的时候无法看到NTB设备,进而导致link
port一侧的NTB
PCEI设备都不会存在,驱动更无从加载。

4.单NT系统中碰到的问题该如何规避

针对上面的问题,了解了问题的根源,不难想到下面的解决方法:

1.确保virtual
port先于link
port上电,且保证link
port初始化PCIE的时候,virtual
port一侧的NTB
PCIE设备已经探测并初始化;

2.如果link
port节点能够正常使用NTB,此后出现了virtual
port节点重启,那么link
port需要重启或者恢复到之前的NTB
PCIE 的设置,等到virtual
port成功起来之后,就可用继续使用NTB了。

时间: 2024-10-03 09:35:21

多功能PCIE交换机之九:单NT系统中需要注意的问题的相关文章

多功能PCIE交换机之六:基于NTB夸节点的读写

多功能PCIE交换机之六:基于NTB夸节点的读写优化 1.基于NTB跨节点读写的应用的特点 NTB常常用在要求高性能和高可靠性的场合,用来实现跨节点数据的传输.比如用作虚拟网卡.跨节点数据同步通道等,这些场合都期望充分发挥NTB基于PCIE的高速传输特性,最大限度地提高系统性能. 2.基于NTB跨节点读写的两种实现方式 实现地址转换.建立NTB通道之后,有两种实现NTB跨节点传输数据的方式: 基于CPU实现数据传输 基于NTB DMA实现数据传输 前者依赖CPU去搬运数据,会占用CPU周期,但非

多功能PCIE交换机之一:概述

多功能PCIE交换机之一:概述 作为服务器或者系统升级的重要方法,横向扩展越来越时髦,越来越多的厂家利用这种方法来实现产品的升级.传统网络.InfinBand.PCIE都可以用来帮助实现横向扩展,这里着重介绍基于PCIE技术实现的横向扩展和容错设计.基于PCIE实现横向扩展和容错设计离不开PCIE多功能交换机.所谓多功能PCIE交换机,指的是一种拥有多个PCIE桥.支持多种配置.自带非透明桥甚至DMA功能的配置灵活.管理方便的芯片. 为了便于读者有更直观的认识,后面都以PLX某款多功能PCIE

PCIE多功能交换机之七:单NT到双NT

1.单NTB设置 NTB有多种使用方式,一种常使用的模式是单NT Active-Passive模式,整体结构如下图: 为了实现这种模式,具体到EEPROM设置上,它要求保证节点0上的EEPROM里使能NT0,并且保证bar4/5的窗口是大小不小于目的地址空间的大小.而在节点1上的NTB都disable 掉. 考虑到fail-over和上电重启,这种设置会造成下面的问题: 在每次两个节点同时上电的情况下,如果Passive节点先于Active节点启动,Passive节点的BIOS和内核启动时无法探

多功能PCIE交换机之五: 基于NTB的DMA

如果说PCIE多功能桥中的NTB为跨节点的数据传输铺好路.架好桥的话,那么PCIE多功能桥中的DMA就是多个节点之间的高铁和航班.没有NTB打通数据通道,DMA也不可能跨越节点.但没有DMA的话,NTB还是可以依赖CPU来在多个节点之间搬运数据.因此DMA对NTB而言是如虎添翼.锦上添花. 和NTB的单NT和双NTB配置相比,DMA可配置的选项比较多,但不管是中断模式.查询模式,也无论描述符是在DMA控制器片上还是片外,亦或配置成单个还是多个DMA channel,都有现成的代码可供参考或寄存器

多功能PCIE交换机之二:EEPROM恢复与故障排除

作为实现failover的重要器件,8717PCIE switch既支持virtual switch mode, 也支持basic mode,此外它的DMA.地址窗口也有不同的配置方式.而多块8717卡既可组合成单NT的Active-Passive模式,也可以组合成双NT的Active-Active模式,而这些都依赖于 8717 switch上的EEPROM的正确设置.因此,在调试阶段,工程师常常需要修改它的设置,一有不慎,就可能烧入错误的EEPROM设置,导致PCIE switch无法正常工作

单自由度系统中质量、阻尼和刚度变化对频率响应函数(FRF)影响图的绘制

作者:赵兵 日期:2020-02-17 目录 1.     背景 2.     VISIO绘制 3.     Matlab绘制 (1)     M变化时 (2)     K变化时 (3)     C变化时 4.     参考文章 1. 背景 写文章时需要用到几张图,下面是从PDF上截图截出来的,用来表示单自由度系统在冲击激励下的频率响应曲线,当K(刚度),C(阻尼),M(质量)变化时,频率响应曲线的变化情况.       图 1 单自由度系统刚度,阻尼,质量影响曲线 用图1放在文章中,不太美观,

多功能PCIE交换机之三:数据迁移及其cache一致性

关于PCIE非透明桥 cache一致性PCIE非透明桥提供了两种机制来从local node往remote node迁移数据,分别是基于地址映射和内嵌的 DMA.对remote节点而言,当它接受数据的时候,CPU可能是不知情的,因此需要保证cache一致性: 对local节点,当通过DMA往它自己的内存传输数据时,本地的CPU也不会被通知,因此需要考虑cache 一致性. 不同的平台实现Cache一致性的机制不一样,ARM平台需要软件参与,而IntelX86平台硬件能够自动维 护cache一致性

多功能PCIE交换机之八:窗口扩展和驱动加载的常见问题

结合本人在PCIE NTB/DMA最近的实际工作,总结了地址转换窗口扩展和驱动加载过程中碰到的主要问题和解决办法. 0.系统启动后看不到NTB设备 需要检查BIOS,在PCIE设置里面NTB芯片是否使能.这是因为针对不同的应用场景和客户需要,BIOS里面通常添加了Enable/Disable NTB的选项. 1.如何扩展地址转换窗口 a.确定系统要求的地址转换窗口的范围和大小: b.确保系统要求的地址转换窗口的范围和大能够被BIOS支持 c.从可用的BAR2/3和BAR4/5中选择未使用的或者可

jQuery Validate【为表单提供了强大的验证功能,让客户端表单验证变得更简单】

jQuery Validate jQuery Validate 插件为表单提供了强大的验证功能,让客户端表单验证变得更简单,同时提供了大量的定制选项,满足应用程序各种需求.该插件捆绑了一套有用的验证方法,包括 URL 和电子邮件验证,同时提供了一个用来编写用户自定义方法的 API.所有的捆绑方法默认使用英语作为错误信息,且已翻译成其他 37 种语言. 该插件是由 J?rn Zaefferer 编写和维护的,他是 jQuery 团队的一名成员,是 jQuery UI 团队的主要开发人员,是 QUn