在科技界的一则最新动态中,知名科技博客Phoronix于3月23日披露,随着Linux 6.15内核版本的临近,开源社区中的EROFS(增强型只读文件系统)即将迎来一次重大革新。此次升级的核心亮点在于,EROFS将引入48位寻址支持,以满足人工智能模型训练过程中对数据存储容量的迫切需求。
一直以来,EROFS受限于32位块寻址机制,其最大容量被限定在16TiB(在4KiB块大小下)。而48位寻址技术的加入,将彻底打破这一瓶颈,使得EROFS能够轻松应对AI训练中所需的大规模数据集存储挑战,同时也为对象存储客户端提供了更为广阔的存储空间。
除了容量上的大幅提升,此次EROFS的更新还涉及到了核心磁盘结构的全面扩展,包括inode、设备槽以及inode块的优化。为了支持基本的时间戳功能,新版EROFS引入了32字节紧凑inode的mtime字段,这一改进无疑将进一步提升文件系统的实用性和灵活性。
在性能优化方面,新版EROFS同样不遗余力。针对Zstd压缩算法,新版EROFS引入了字节导向的编码扩展,这一改进使得压缩器能够保持其原有的高效压缩方法,从而在提升压缩效率的同时,也确保了数据压缩质量。据测试数据显示,在启用48位寻址后,Zstd镜像的构建时间得到了显著缩短,特别是在Intel Xeon Platinum 8163 CPU上,构建时间从原先的3分52秒骤降至12秒,这一提升无疑将为AI训练等高性能应用场景带来极大的便利。
EROFS,这一由华为最初开发并随后由全球开源社区共同维护的轻量级只读文件系统,自问世以来便以其出色的存储效率和性能表现赢得了业界的广泛关注。此次重大升级,不仅进一步巩固了EROFS在只读文件系统领域的领先地位,更为AI、大数据等前沿科技领域的发展提供了强有力的支持。
随着人工智能技术的不断发展和普及,对于数据存储和处理能力的需求也将持续增长。EROFS此次的升级,无疑为这一趋势提供了强有力的技术支撑,我们有理由相信,在未来的科技发展中,EROFS将继续发挥其独特优势,为更多领域的应用场景提供高效、可靠的存储解决方案。