位置: 编程技术 - 正文
推荐整理分享Shell脚本实现乱序排列文件内容的多种方法(洗牌问题)(shell脚本ll),希望有所帮助,仅作参考,欢迎阅读内容。
文章相关热门搜索词:shell脚本-le,shell脚本.sh,shell脚本-lt,shell脚本ne,shell脚本-lt,shell脚本wc,shell脚本一百例,shell脚本一百例,内容如对您有帮助,希望把文章链接给更多的朋友!
洗牌问题:洗一副扑克,有什么好办法?既能洗得均匀,又能洗得快?即相对于一个文件来说怎样高效率的实现乱序排列?
ChinaUnix 确实是 Shell 高手云集的地方,只要你想得到的问题,到那里基本上都能找到答案。r 给出了一个取巧的方法,利用 Shell 的 $RANDOM 变量给原文件的每一行加上随机的行号然后根据这个随机行号进行排序,再把临时加上去的行号给过滤掉,这样操作之后得到的新文件就相当于被随机“洗”了一次:当然如果你的源文件每行的内容比较复杂的话就必须对这段代码进行改写,但只要知道了处理的关键技巧,剩下的问题都不难解决。
另外一篇来自苏蓉蓉的用 awk 来实现洗牌效果的随机文件排序代码分析(原贴在这里,以及对此帖的一个后续讨论,如果你没有登录帐号的话可以到这里查看精华区文章)则写的更为详细:--------------------------------------------------------------------关于洗牌问题,其实已经有了一个很好的shell解法,这里另外给三个基于AWK的方法,有错误之处还请不吝指出。
方法一:穷举
类似于穷举法,构造一个散列来记录已经打印行出现行的次数,如果出现次数多于一次则不进行处理,这样可以防止重复,但缺点是加大了系统的开销。方法二:变换
基于数组下标变换的办法,即用数组储存每行的内容,通过数组下标的变换交换数组的内容,效率好于方法一。方法三:散列
三个方法中最好的。 利用AWK中散列的特性(详细请看:info gawk 中的7.x ),只要构造一个随机不重复的散列函数即可,因为一个文件每行的linenumber是独一无二的,所以用:
随机数+每行linenumber ------对应------> 那一行的内容
即为所构造的随机函数。 从而有:
其实大家担心的使用内存过大的问题不必太在意,可以做一个测试:
测试环境:
PM 1.4GHz CPU,G硬盘,内存M的LAPTOPSUSE 9.3 GNU bash version 3.. GNU Awk 3.1.4
产生一个五十几万行的随机文件,大约有M:拿效率较低的方法一来说:
洗牌一次所用时间:结果(文件内容省略):所以效率还是勉强可以接受的。
方法二的测试:结果(文件内容省略):效率明显好于第一个。
接着考察一下方法三的效率:结果(文件内容省略):对于一个M的文件来说已经相当不错了。--------------------------------------------------------------------
附带存一个来自 flyfly 写的 python 版本乱序代码:
Shell脚本实现生成SSL自签署证书 启用apache的mod_ssl之后需要有证书才能正常运作。写了个脚本来操作。首先要确定机器上已经有openssl。#!/bin/sh##ssl证书输出的根目录。sslOutputRoot="/etc/apach
Shell脚本中非交互式修改密码的两种方法 今天在写一个shell脚本的时候发现需要设置用户的密码,而设置密码是交互式的,这样在脚本中显然是不太好的,因此上网查找资料,发现了以下两种常
Shell脚本实现自动安装zookeeper A:本脚本运行的机器,LinuxRHEL6B,C,D,...:待安装zookeepercluster的机器,LinuxRHEL6首先在脚本运行的机器A上确定可以ssh无密码登录到待安装zk的机器B,C,D,...上,
标签: shell脚本ll
本文链接地址:https://www.jiuchutong.com/biancheng/381257.html 转载请保留说明!友情链接: 武汉网站建设