位置: 编程技术 - 正文
Linux下删除大数据文件中部分字段重复行的方法(linux删除大量文件方法)
编辑：rootadmin最近写的一个数据采集程序生成了一个含有1千多万行数据的文件，数据由4个字段组成，按照要求需要删除第二个字段重复的行，找来找去linux下也没找到合适的工具，sed/gawk等流处理工具只能针对一行一行处理，并无法找到字段重复的行。看来只好自己python一个程序了，突然想起来利用mysql，于是进行乾坤大挪移： 1. 利用mysqlimport --local dbname data.txt导入数据到表中，表名要与文件名一致 2. 执行下列sql语句(要求唯一的字段为uniqfield） 复制代码代码如下: use dbname; alter table tablename add rowid int auto_increment not null; create table t select min(rowid) as rowid from tablename group by uniqfield; create table t2 select tablename .* from tablename,t where tablename.rowid= t.rowid; drop table tablename; rename table t2 to tablename; 
推荐整理分享Linux下删除大数据文件中部分字段重复行的方法(linux删除大量文件方法)，希望有所帮助，仅作参考，欢迎阅读内容。
文章相关热门搜索词:linux删除大文件命令,linux 删除大批量文件,linux中删除,linux删除所有数据,linux删除所有数据,linux删除大于1g的文件,linux删除大于1g的文件,linux删除大小为0的文件,内容如对您有帮助，希望把文章链接给更多的朋友！
Linux中限制用户访问权限的3种方法 现在需要限定某个用户对特定目录/文件的访问权限，或者把某个用户的访问范围限制在某个目录/文件中。现实情况下，还是能遇到这样的需求的，比如
清除swap里的文件的方法 方法很简单，按下面的操作就可以了vi打开一个文件的时候突然断网，再次连接上去vi打开的时候提示在swap里面已经存在一个。要删除这个文件怎么办呢
linux修改系统时间和linux查看时区、修改时区的方法 一、查看和修改Linux的时区1.查看当前时区命令：date-R2.修改设置Linux服务器时区方法A命令：tzselect方法B仅限于RedHatLinux和CentOS命令：timeconfig方法C适用于D
标签: linux删除大量文件方法
本文链接地址:https://www.jiuchutong.com/biancheng/356997.html 转载请保留说明！
