当前位置: 技术问答>linux和unix
Shell处理数据的唯一性问题
来源: 互联网 发布时间:2015-11-07
本文导语: 新手用Shell处理数据. 有如下数据,文件名为test.dat: (注:双引号是为方便看在这里加上的,实际数据中没有双引号) "123" "123 " "124" "124 " "124 " 唯一化结果应该是 123 124 但是由于有些数据后有空格,如何处理才可以得到...
新手用Shell处理数据.
有如下数据,文件名为test.dat:
(注:双引号是为方便看在这里加上的,实际数据中没有双引号)
"123"
"123 "
"124"
"124 "
"124 "
唯一化结果应该是
123
124
但是由于有些数据后有空格,如何处理才可以得到正确结果?
我想用sed 's/*[][]$//g' test.dat |...
但是不对,请问该如何处理,用其它脚本也可..
有如下数据,文件名为test.dat:
(注:双引号是为方便看在这里加上的,实际数据中没有双引号)
"123"
"123 "
"124"
"124 "
"124 "
唯一化结果应该是
123
124
但是由于有些数据后有空格,如何处理才可以得到正确结果?
我想用sed 's/*[][]$//g' test.dat |...
但是不对,请问该如何处理,用其它脚本也可..
|
sed 's/ *$//g' test.dat |...
|
这样也可以:
cat 1.txt|sort|uniq
cat 1.txt|sort|uniq
|
楼上的合起来就对了
sed 's/ *$//g' | unique
sed 's/ *$//g' | unique