做了十几年存储相关的项目,从裸盘到分布式集群都摸过一遍,现在回头看,DAS、NAS、SAN这三套架构几乎覆盖了90%的本地化存储需求。很多朋友刚开始接触这块,容易被“块级”“文件级”“网络存储”这些概念绕晕,再加上厂商宣传的各种术语,反而更难选型。
这篇文章只讲三件事:DAS、NAS、SAN到底是什么,它们各自的优势短板和适用场景,以及在实际项目中怎么做选型决策。内容会尽量去掉浮夸的技术包装,直接用底层逻辑和实操经验来讲,希望能帮你建立一套清晰的存储架构判断框架。
1. 三种存储架构的核心定义与业务定位
1.1 DAS(直接存储):离CPU最近的存储方式
DAS全称是Direct-Attached Storage,直译叫直接附加存储。说白了就是硬盘直接挂在服务器上,不经过任何网络设备,操作系统通过内部的SCSI、SAS或者NVMe协议直接访问磁盘。我们平常见到的服务器内部SATA盘、SAS盘、NVMe SSD,甚至通过RAID卡直连的磁盘阵列柜,都属于DAS的范畴。
DAS最核心的价值就是一个“直”字。数据从磁盘到CPU的路径最短,中间没有网卡、交换机、协议转换这些环节,所以延迟最低、带宽最高。拿NVMe SSD来说,PCIe 4.0单盘性能就能摸到7000MB/s左右的顺序读,这在任何网络存储方案里都很难做到。正因为性能极致,DAS一直是高性能计算、数据库单机部署这类场景的首选。
不过DAS的问题也很明显:存储资源是孤岛。每台服务器只能用自己的磁盘,A机器磁盘不够了,B机器哪怕空闲大量空间也帮不上忙;反过来,A机器硬盘坏了,数据只能靠本地RAID或备份恢复,别的主机无法接手。在虚拟化和容器化越来越普及的今天,这种“资源无法共享、管理零散”的缺陷会被放大。
1.2 NAS(网络附加存储):文件级共享的普适方案
NAS全称是Network-Attached Storage。它相当于一台专门提供文件存储服务的“小电脑”,自带操作系统和文件系统,通过网络对外提供文件级的共享访问,最常用的协议是NFS(Linux/Unix生态)和SMB/CIFS(Windows生态)。
用户访问NAS时,看到的是一个网络路径,比如\\nas-server\share或/mnt/nfs_data,操作系统会把这个路径挂载成一个目录。你在这上面读写文件,实际请求会被转换成NFS或SMB协议的数据包,经过网卡、交换机,最后到达NAS服务器,由NAS上的文件系统完成真正的磁盘IO。也就是说,NAS把“文件管理”这件事打包成了一个网络服务。
NAS的优势是跨平台、易部署、共享方便。Windows、Linux、macOS都能通过协议互访,而且管理界面通常很友好,小型团队甚至不需要专职存储工程师就能维护。对于办公文档共享、研发代码仓库备份、日志集中存储、媒体资料归档这类场景,NAS几乎是性价比最优解。
但NAS有先天性的短板:性能上限受限于文件和网络双重开销。文件协议本身有解析、锁管理、权限检查等步骤,再加上网络传输的延迟,高并发随机读写场景下性能和稳定性都比较吃力,不适合承载数据库数据文件、虚拟机磁盘这类延迟敏感的负载。
1.3 SAN(存储区域网络):块级存储的专用网络
SAN全称是Storage Area Network,意思是“存储区域网络”。它在概念上完全区别于DAS和NAS:SAN把存储设备上的磁盘空间,通过专用网络直接“映射”给服务器,让服务器把它当成一块本地硬盘来用。
最常见的SAN实现有两条路线:一是FC SAN,用光纤通道交换机和光纤HBA卡组建专用网络,传输协议是FC(Fibre Channel),天然低延迟高带宽,适合高要求和关键业务;二是IP SAN,常见的是iSCSI协议,借助现有以太网络和TCP/IP协议传输SCSI命令。
从使用角度看,SAN上面看到的是一个裸磁盘设备(LUN),服务器要对它自行分区、格式化、建文件系统。也就是说,SAN只负责把数据块从存储端搬到服务器端,不关心数据是什么格式。这种架构的价值非常直接:它既保留了块存储的高性能和低延迟,又把存储资源从单台服务器中解放出来,可以在多台服务器之间按需分配,并配合集群文件系统(如VMFS)实现多主机并发读写。
不过SAN的代价也最明显:贵和复杂。专用设备、专业调试、专门的运维技能,都对团队提出了较高要求。
需要模型API调用? 免费领10W Token,多模型网关一键接入 Claude、DeepSeek 等主流模型。
2. 为什么选型不能只看“快不快”:协议、架构与瓶颈的全方位拆解
2.1 协议栈差异决定了性能上限
很多人会问:NAS也走网络,SAN也走网络,为什么SAN性能通常更好?问题出在协议栈上。
DAS直接使用本地IO协议(比如NVMe或SAS),整条路径没有任何网络封装,效率最高。举个例子,一块万转SAS盘的延迟大约3ms,NVMe SSD能到0.1ms级别,这种延迟表现只有在DAS或高性能SAN环境下才能看到。
NAS这边,一次文件读写的完整链路是:应用程序 -> 系统调用 -> VFS -> NFS/SMB客户端 -> TCP/IP -> 网卡 -> 交换机 -> NAS端 -> 文件系统 -> 磁盘。每一层都有解析和拷贝开销,还经常出现多次用户态和内核态切换。单线程大文件顺序读可能还行,一旦进入高并发小额随机读写,延迟会陡增,甚至出现明显的性能抖动。
SAN稍微例外。FC SAN在设计之初就是为存储而生,FC协议去掉了TCP/IP里大量与存储无关的机制,时延非常稳定;iSCSI虽然还是TCP/IP协议栈,但通过专用的卸载网卡(TOE、RDMA网卡)等手段,也能把协议开销压到很低。另外,SAN传输的是原始SCSI命令和块数据,不涉及文件系统级别的解析,整体效率远高于NAS。
有一点要特别注意:协议栈差异在纯性能测试里表现得淋漓尽致,但实际业务中瓶颈未必都在存储。比如一个跑MySQL的虚拟机,如果CPU核数不足,或者应用本身SQL写得烂,再快的存储也可能被这些瓶颈拖住。所以选型时不能只看存储单点性能,要结合整个链路的资源情况来做判断。
2.2 共享能力与资源隔离的权衡
DAS最大的软肋就是不可共享。物理上磁盘只归属一台主机,其他机器无法直接访问。在集群场景里,DAS会让高可用方案很难做。比如两台Web服务器要做主备切换,假如数据库数据存在各自主机本地盘上,主节点宕机了,备节点根本没有那份数据,想切换都切不了。
NAS解决的是“文件级共享”,天然支持多台主机同时读写同一个目录。但“共享”也带来了新的问题:锁竞争。比如多个Web服务器同时写同一个日志文件,需要文件锁机制保证不会互相覆盖。文件锁在低并发时问题不大,高并发下就会成为性能热点,并可能导致IO等待严重。
SAN解决的是“块级共享”,以LUN为单位分配给服务器。多个服务器能不能同时访问同一个LUN,取决于文件系统是否支持集群并发访问。比如VMware的VMFS就是专为多主机共享设计,多台ESXi主机可以在同一LUN上并发运行虚拟机,文件锁机制由VMFS负责。而如果直接把同一个LUN分配给两台普通的Linux服务器,两边都挂载并写入ext4或xfs,几乎必然会损坏文件系统。这是SAN使用中特别容易踩的坑。
资源隔离方面,NAS和SAN都提供了比DAS更好的灵活性。NAS可以设置共享目录配额,SAN可以按LUN分配不同的性能层级(比如全闪存池和高性能SAS池),实现租户或业务之间的资源隔离。DAS的隔离完全靠物理磁盘划分,要扩容就得停机插盘,对一个7x24小时业务来说很不友好。
2.3 存储网络拓扑与扩展方式
DAS的拓扑最简单,就是主机到磁盘的一对一关系。扩展DAS的方式主要是增加内部硬盘位,或者通过外部扩展柜(JBOD)串接。受限于机箱空间和端口数量,DAS扩容的空间有限,而且扩容通常需要停机操作,这对关键业务是不能接受的。
NAS的拓扑是“服务器 -> 以太网交换机 -> NAS节点”。NAS本身可以是单机,也可以做成HA集群。增加存储容量时,可以在线向NAS里加硬盘、扩RAID组,或者直接新增一个NAS节点做联邦。整体扩展对企业而言相对友好,而且不需要安装特殊的客户端软件,任何设备只要能连通网络就行。不过NAS的容量扩展要想清楚,一个卷扩容到很大之后,文件系统检查和备份恢复的时间会显著变长。
SAN的拓扑最复杂,生产环境常见的是“服务器HBA卡 -> 光纤交换机 -> 存储控制器前端端口”这样一条链路(FC环境),或者“服务器网卡 -> 以太网交换机 -> 存储控制器iSCSI端口”。SAN的扩展性很强,可以通过增加交换机端口连接更多服务器,也可以通过增加存储控制器和磁盘柜扩展容量和性能。只要规划好域、分区(Zoning)和逻辑单元号(LUN Masking),SAN通常能支撑一个中等规模数据中心的全部存储需求。
3. 实操场景下的选型决策与落地要点
3.1 典型场景匹配:单机、文件协作、虚拟化怎么选
我把这些年接触过的场景归纳成三类,大家可以照着做映射。
第一类是“单机性能优先”场景。典型例子是单机物理机部署数据库、跑高性能计算作业,或者某些对IO延迟极其敏感的应用。这时候DAS反而最合适。没有网络抖动、没有协议转换,直接NVMe SSD顶上去,一颗CPU内完成的IO链路,性能和稳定性都最可控。但要警惕:DAS不可共享,一旦应用需要做高可用或迁移,DAS的劣势就会冒出来。
第二类是“多主机文件协作”场景。典型例子是开发团队共享构建产物、办公文档集中存储、NAS网关为大量客户端提供文件服务。这种场景的核心诉求是共享方便、权限可控、跨平台兼容,对性能要求以顺序读写为主。选NAS是最稳妥的。特别是中小型团队,一套中高档NAS就能解决所有问题,运维成本低。要注意的是,尽量避免让NAS同时承担数据库存储或虚拟机磁盘存储,否则很容易因为锁和延迟导致性能问题。
第三类是“服务器虚拟化和数据库集群”场景。典型例子是vSphere/OpenStack集群、Oracle RAC、SQL Server AlwaysOn。这类场景要求多台服务器共享同一份存储,同时延迟要低、隔离性要好。SAN是绝对的主力选择。预算充足、追求稳定,优先FC SAN;想降低成本且对性能要求适度,可以选iSCSI SAN,但一定要做好网络规划和调优。
3.2 关键参数与配置经验:iSCSI、FC、NFS的落地细节
先说NAS的NFS调优。生产环境我把大量时间花在RPC/锁定选项和mount参数上。Linux挂载NFS时特别建议显式指定版本协议和各项超时参数,比如:
bash复制mount -t nfs -o rw,hard,intr,timeo=600,retrans=2,vers=4.0 192.168.1.10:/data /mnt/data
hard加上intr保证网络抖动时进程不会被永久挂死;timeo=600表示在单次RPC请求超时后等待60秒再重试,给网络和NAS响应留足余量;vers=4.0是关闭v3那套陈旧状态管理,减少LOCK带来的复杂性。如果是多线程高并发场景,还可以把rsize和wsize设为1048576(1MB),减少大文件读写的包数量。
iSCSI的核心调优点,第一是MTU,第二是多路径。MTU方面,建议在交换机和网卡上全部开启巨帧,把MTU从1500提到9000。不开启巨帧时,同样传1MB数据要拆成约700个包;开启后只要约117个包,CPU开销和网络占用会明显下降。当然,“全部开启”意味着从发起端到目标端的每一个网络节点都要统一配置,任何一个环节还是1500,巨帧就不生效,而且可能出现分片问题。
多路径方面,生产环境要配合MPIO(多路径IO)来做负载均衡和链路冗余。以Linux下的iSCSI为例,装好device-mapper-multipath,把同一个LUN通过多条物理路径(比如两块网卡分别连到不同交换机)映射进来,然后配置multipath把多条路径合并成一个设备。这样单块网卡或单台交换机故障时,IO路径自动切换,业务不中断。配置完成后务必用multipath -ll确认所有路径状态正常。
FC SAN的落地,重点在规划Zoning和LUN Masking。Zoning是在光纤交换机层面做端口隔离,让主机和存储之间走指定的通道,防止无关主机看到存储的所有设备。我的建议是采用单发起端到单目标端的Zone,也就是一个Zone里面只包含一台主机的一个端口和一个存储端口,这种Zone最安全,排查问题也快。LUN Masking是在存储端把LUN映射到特定主机,不映射的主机就算物理光纤连着也看不见,这是双保险。
3.3 成本评估与隐性支出:别只看采购价
很多朋友以为DAS最便宜、SAN最贵,其实没这么简单。
DAS的采购成本最低,但隐性成本很高。一是运维人工成本,每台服务器都要单独管理磁盘、RAID、备份,服务器数量上来了,工作量会成倍增加;二是停机扩容成本,很多DAS扩容需要停机窗口,这在关键业务里根本无法容忍;三是数据可用性成本,本地盘损坏后恢复周期长,容易造成长时间业务中断。
NAS的采购成本适中,性价比很高。软件授权费通常已经包含在设备价格里,管理界面友好,一般不需要专职人员。但要注意硬盘成本和质保服务。高密度NAS里如果装满大容量SAS盘或企业级SSD,盘的成本可能比NAS本体还贵。此外,NAS一旦作为生产存储,建议买带硬件RAID卡和缓存保护的型号,否则突然断电很容易造成数据损坏。
SAN的采购和运维成本最高,但带来的好处是集中管理、高可用性、扩展性强。FC SAN需要购买HBA卡、光纤跳线、光纤交换机、存储阵列的授权模块;iSCSI SAN则要部署独立存储网络或VLAN,避免和业务流量混跑。另外,SAN存储阵列的软件特性(快照、克隆、远程复制、自动分层)通常要额外买License,这部分预算很容易被忽略。
给个简单的成本参考方向:同样是20TB可用容量的生产存储,DAS方案裸硬件成本可能在2-5万元;NAS入门级到中端在3-10万元;而FC SAN从低端到高端差异巨大,从10万元到几十万元都有可能,要结合性能和可用性要求来定。
4. 真实踩坑记录与问题排查技巧实录
4.1 DAS、NAS、SAN各自最常见的坑
DAS最常见的坑是磁盘故障恢复和局部过热。特别是RAID卡写缓存,如果没配BBU(电池备份单元)或电容,一旦整机掉电,写缓存里的数据全部丢失,即使磁盘RAID本身是好的,文件系统也可能损坏。所以DAS部署中我会特别检查RAID卡缓存策略,要么有BBU/电容保护并把写策略设为Write Back,要么就老老实实设Write Through,宁可性能差一点,也不能牺牲数据的持久性。
NAS常见的坑一是权限设计混乱,二是NFS客户端没做安全限制。权限混乱指的是SMB和NFS混用时的ACL冲突。举例来说,Windows用户通过SMB建了一个文件夹,设置了用户A可写;而Linux服务器用NFS挂载同一个共享,又用root创建了一些文件,这些文件可能带的是uid=0的默认权限,Windows客户端访问时会出现奇怪的permission denied。我处理过不少这类问题,建议是尽量统一走一种协议访问某个共享,不要让多种协议同时操作同一份数据。NFS安全方面,记得在/etc/exports里明确指定允许访问的网段和权限,并且开启root_squash选项,防止被入侵的客户端用root身份绕过普通用户权限限制。
SAN一块,我踩过最大的坑是FC环境的Zoning配置没收敛,导致多台主机在存储阵列上互相“看到”,出现了不必要的LUN冲突。还有一个非常常见的坑:存储端把同一LUN映射给两台没有集群文件系统的Linux主机,两边都直接挂载并写入,最后导致文件系统崩溃。想想都肉疼,这是一个可以在规划和操作流程上就避免的失误。
4.2 排查思路与工具:从延迟到协议的排查路径
存储问题排查和网络问题排查思路很相似:先确认范围,再逐层尝试。
第一步是看最基础的延迟和带宽。用ping测一下存储IP的连通性,再看丢包率和延迟。对于iSCSI和NFS,正常内网时延应该在0.2ms到0.5ms左右;如果时延常年超过5ms且伴随丢包,先查网络而不是存储。例如我遇到过NFS访问慢,用ping一测,发现交换机端口协商在百兆模式,换一根跳线之后立刻恢复正常。
第二步是看系统层IO状态。Linux下用iostat -x 1看看%util和await,判断磁盘是否打满;用pidstat找到具体是哪个进程在发起大量IO;用fio做基准测试,排除存储本身的性能干扰:
bash复制fio --name=randwrite --ioengine=libaio --iodepth=32 --rw=randwrite \
--bs=4k --numjobs=4 --size=1G --direct=1 --group_reporting
对于SAN环境,还可以查看多路径状态,比如Linux下用multipath -ll,看每条路径是active还是failed;FC环境用tuple_check工具或fcrls(不同厂商命令不同)检查链路健康度。有一次客户反馈虚拟机的M5盘IO极慢,我用esxcli storage core device list发现活动的VMFS卷在一条STATUS=dead的路径上,后来把另一条正常路径设为active,IO立刻恢复正常。
第三步是查协议层日志。NFS的日志一般在内核环形缓冲区和/var/log/messages里;iSCSI的会话信息用iscsiadm -m session -P 3查看;FC环境可以从存储阵列和光纤交换机上拉日志看是否有影响性能的告警。总之,排查一定要从物理链路、网络协议栈、文件系统层层推进,不要一上来就怀疑存储阵列本身。
4.3 备份与容灾经验:存储选型之外的保命底线
不管DAS、NAS、SAN用得再好,没有靠谱的备份方案,数据随时可能“蒸发”。我用过一个很接地气的经验法则:同一份数据,至少要同时存在于两种不同的介质上,并且其中一份要放在异机/异地。
对于DAS,建议定期把本地盘上的关键数据用rsync或者备份软件拉到独立的备份服务器或NAS上,别让所有鸡蛋都在一个“机箱”里。NAS自身的多盘RAID保障的是硬件层面的冗余,但不等于防误删、防勒索病毒;一定要单独开启快照/回收站,并定期把快照或重要目录远程复制到另一台存储上。SAN上,如果阵列支持快照和克隆,建议规划好按小时/按天/按周的快照策略;对OLTP数据库,备份前要和应用结合,保证一致性,比如MySQL的FLUSH TABLES WITH READ LOCK配合LVM快照或阵列快照。
关于容灾,我特别想强调一件事:存储高可用不等于容灾。SAN做了双控制器、NAS做了HA集群、DAS做了RAID,这些解决的是单点硬件故障,解决不了机房断电、火灾或整机丢失的灾难。要在建设预算和运维精力允许时,至少做到异机或异地异步复制,让核心业务数据保留一个独立的“平行副本”。
5. 给不同规模团队的选型建议
创业团队或小型IT团队,我先建议认真评估NAS。成本可控,部署快,很多功能开箱即用,尤其是快照、云同步和用户权限管理,对非专业运维比较友好。只要业务负载不到高并发数据库级别,NAS能覆盖绝大多数需求。
中等规模、已上虚拟化的团队,我会优先考虑iSCSI SAN。基于成熟以太网技术,可以复用现有交换机和网络运维能力,比FC更好入门;再加上MPIO和存储端快照,已经能满足虚拟化集群、中小型数据库的基本高可用需求。关键是网络要独立规划,万兆起步,最好把存储流量和业务流量分开VLAN。
大规模、高要求的关键业务,FC SAN仍然是稳妥选择。虽然贵,但它的稳定性和可控性经过了多年关键业务场景的验证。对于数据库集群、核心虚拟机池这类“不能出一点闪失”的业务,FC SAN值得这笔投入。配套的自动化、监控、容量规划和水位告警都需要跟上,不能只依赖存储阵列自带的管理界面。
最后再补一个小建议:无论选哪种方案,都要提前在测试环境把备份、监控、故障切换演练做到位。存储系统就像水电基础建设,平时不起眼,等出问题时才知道它有多重要。定好巡检制度和响应预案,往往比单纯堆硬件更有效。
