按大小拆分超大文件的方法(本文测试了一个62G的文件)

遇到一个问题,从网络上下载了一个62G的文件(新浪微博的语料集,地址:http://itee.uq.edu.au/~dke/WISE2012.htm),之后要进行其他处理,很显然先拆分成小文件再处理比较好。

我当时用的是windows系统,貌似没有这种拆分如此大的文件的工具,我本人试着用C++的内存映射方法(在内存里建一个内存映射文件,然后把超大文件的一部分映射到内存,然后分片读文件),将文件的一部分一部分读出来,读一部分换掉一部分然后写入小文件,从而达到拆分文件的目的,然而网上找了好多文章,内存映射这块还是没搞懂,尤其是参数很是复杂,只好放弃。

最后才发现,windows下面难以解决的问题,linux早就存在了现成的方案来解决,那就是split命令。split具体的使用方法贴一下:

linux split 命令

功能说明:切割文件。

语  法:split [–help][–version][-<行数>][-b <字节>][-C <字节>][-l <行数>][要切割的文件][输出文件名]

补充说明:split可将文件切成较小的文件,预设每1000行会切成一个小文件。

参  数:

-<行数>或-l<行数>  指定每多少行就要切成一个小文件。

-b<字节>  指定每多少字就要切成一个小文件。支持单位:m,k

-C<字节>  与-b参数类似,但切割时尽量维持每行的完整性。

–help  显示帮助。

–version  显示版本信息。

[输出文件名]  设置切割后文件的前置文件名,split会自动在前置文件名后再加上编号。

使用例子:

  split -b 100m filename

看过命令后,会发现其中的-C命令,会照顾到行,就是说截取的时候,不会将一行从中间截断,最终我只用了一行命令解决了问题:

split -C 1024m 62G.txt output

该命令将一个62G的文件,拆分成每个1G的小文件,并且不会将行拆开(新浪微博这个数据,每行一条,不能拆分)

 

相关推荐

发表评论

电子邮件地址不会被公开。 必填项已用*标注