使用tar+lz4/pigz+ssh更快的数据传输
前面一篇介绍了如何最大限度的榨取SCP的传输速度,有了这个基础,就可以进一步的使用压缩来加速传输速度了。只使用scp,传输速率最快约90MB,本文通过压缩将把最快传输速率提升到约250MB/s(包括解压的过程)。
共 2 篇相关文章
前面一篇介绍了如何最大限度的榨取SCP的传输速度,有了这个基础,就可以进一步的使用压缩来加速传输速度了。只使用scp,传输速率最快约90MB,本文通过压缩将把最快传输速率提升到约250MB/s(包括解压的过程)。
pig是个啥东东?简单的说,就是支持并行的gzip。pig默认用当前逻辑cpu个数来并发压缩,无法检测个数的话,则并发8个线程。