当前位置:  技术问答>linux和unix

linux shell 读取文件效率低下问题 在线等

    来源: 互联网  发布时间:2016-12-30

    本文导语:  如题,现在我的需求是这样的,读第一个文件的每一行,然后得到最后两个字段,查询另外一个文件,然后联接起来,生成一个新文件.比如说一个文件a的一行记录如下 13694233929,nokia,n93 然后得到nokia,n93,查询另外一个文件,该...

如题,现在我的需求是这样的,读第一个文件的每一行,然后得到最后两个字段,查询另外一个文件,然后联接起来,生成一个新文件.比如说一个文件a的一行记录如下 13694233929,nokia,n93 然后得到nokia,n93,查询另外一个文件,该文件大概有1w 条记录,比如说得到的如下所示nokia,n93,648,400,sybriam os.... 然后将这条记录与13694233929连接起来,放进一个新文件里面去,如此操作,直到读取完a 文件的所有内容.a 文件大概有400m 左右大小,有700w 条记录.所以我将他cut成40部分,然后进行下面的操作,可是我发现如果按照我这样来实现,效率很低,我测试过两分钟才写进2w 条记录,哪位大虾能帮帮小弟阿,小弟刚接触linux ,莫见怪.代码如下:

#!/bin/bash
while read LINE
do
  str=`echo $LINE| awk -F ',' '{print $2","$3}' `
  phoneNum=`echo $LINE | awk -F ',' '{print $1}'`
  strT=`grep -n  "$str"  ./terminal_b`
#  echo $str1
  phoneName=`echo $strT |awk -F ':' '{print $2}'`
  # index=`expr index "$strT" ":"`
  # echo ${strT:index}
  str=$phoneNum,$phoneName
  echo $str  >> /home/jinwei/test/awkTest/test
done

    
 
 

您可能感兴趣的文章:

  • linux 下使用 FREETDS 访问数据库 image 字段的问题, 仅能读取 64K ,超出部分读取不到?
  • linux下的mib读取问题?大虾帮解答下
  • Linux下怎么样读取非标准输入设备键盘的值?
  • 请问在Linux里,如何用JAVA读取内存里的PATH设置
  • LINUX如何读取网络文件
  • 局域网中,linux机器如何读取windows下共享的文件?
  • LINUX下如何读取SCSI硬盘序列号
  • 怎样在Linux下读取物理内存
  • linux下编程读取windows数据
  • Linux下,如何读取网卡接收的数据包啊?
  • linux下如何用c语言读取和设置网关
  • 谁知道linux/unix下利用Schema读取校验xml的开源代码,给一个链接,谢谢!
  • 解决Linux串口分段读取?
  • 在linux系统下,如何在程序内部读取NAS上的数据?
  • 请问linux中有没有可以读取BIOS信息的驱动程序!
  • linux串口读取数据的问题,select
  • linux下如何用C实现对嵌入式开发板AD部分寄存器的读取?
  • 求在Linux(Ubuntu)下的C截屏代码(读取/dev/fb0)!!
  • 通过linux驱动接口读取串口来自另外一个CPU发送的数据,有几个疑问:
  • 请问LINUX下怎么用C语言对文件进行操作(包括新建、读取、删除、修改)
  • Window和Linux下效率的问题,急!
  • 哪位结合原码说明下Linux内核开发人员是如何处心积虑的提高效率的
  • 在LINUX下,进程间访问临界资源只能通过效率很低的锁文件方式来实现吗?
  • 使用精简的linux系统效率会提高吗?
  • 急!在LINUX上有什么工具可以测试两个程序的效率
  • Linux里计算器的一个问题 关于效率的!
  • 求助:用虚拟机运行linux/unix效率问题
  • 删除swap分区,对linux运行效率影响有多大?
  • linux下如何有效率的开发?
  • 如果在linux下写服务端的程序,是自己写epoll流程还是用glib效率高呢?
  • 请问在LINUX下进行网络编程,什么模型或者什么技术效率比较高?
  •  
    本站(WWW.)旨在分享和传播互联网科技相关的资讯和技术,将尽最大努力为读者提供更好的信息聚合和浏览方式。
    本站(WWW.)站内文章除注明原创外,均为转载、整理或搜集自网络。欢迎任何形式的转载,转载请注明出处。












  • 相关文章推荐
  • Linux_centos_redhat下tar命令解压tgz文件方法
  • 用java读中文linux中的文件是正确的,用java读英文linux版本中的文件是乱码,如何使英文linux读出的文件数据也是中文的?
  • linux下nm命令(显示可执行文件的符号信息)介绍以及常见nm命令用法举例
  • Linux查找包含指定文字的文件(linux查找指定文件)
  • Linux下c函数dlopen实现加载动态库so文件代码举例
  • 请问LINUX内核下,哪些文件夹下的文件是跟LINUX的硬件平台无关的?
  • mount命令(linux操作系统)挂载卸载文件系统(cifs,光驱,nfs等)方法介绍
  • 请问各位linux开发大虾,linux下有类似VC中depends的工具可以查看文件调用了哪些so文件吗?
  • linux内存文件系统ramfs实现原理
  • 急::在Linux下怎么根据另一台windows或linux的文件名,去得到这个文件
  • linux/Centos/ubuntu下如何使用umask命令修改新建文件时的默认权限
  • 我的机器装了WINDOWS2000 和 LINUX 7.3 , 请问在LINUX 中如何访问`WIN2K中的文件?同样在WIN2K中如何访问LINUX 中的文件?
  • Linux内存文件系统(ramdisk)的三种实现方式
  • 请问如何在WINDOWS中访问linux下的文件,并把Windows下的文件复制到linux下的分区中
  • 根据文件大小查找文件的find命令举例(Linux,centos,redhat)
  • linux下copy文件通常又些文件名的大小写会发生变化的,而linux又对大小写敏感,如何解决这一问题
  • Linux下glibc库文件锁:协同锁(advisory lock)和强制锁(mandatory lock)
  • Redhat Linux下用c怎么可以知道一个文件是文件夹还是真的文件?
  • Linux下u盘文件系统相关操作
  • [提问]Linux下如何把多个.a文件编译一个.so文件,或者把多个.so文件编译成一个.so文件
  • linux下find查找文件命令详细介绍及find文件用法举例说明
  • linux中对文件排序的命令(文件夹中包含子文件)
  • linux c/c++ IP字符串转换成可比较大小的数字
  • 在win分区上安装linux和独立分区安装linux有什么区别?可以同时安装吗?(两个linux系统)
  • linux哪个版本好?linux操作系统版本详细介绍及选择方案推荐
  • 在虚拟机上安装的linux上,能像真的linux系统一样开发linux程序么?
  • secureCRT下Linux终端汉字乱码解决方法
  • 我重装window后,把linux的引导区覆盖了,进不了linux怎么办?急啊,望热心的人帮助 (现在有linux的盘)
  • Linux c字符串中不可打印字符转换成16进制
  • 安装vmware软件,不用再安装linux系统,就可以模拟linux系统了,然后可以在其上学习一下LINUX下的基本操作 了?
  • Linux常用命令介绍:更改所属用户群组或档案属性


  • 站内导航:


    特别声明:169IT网站部分信息来自互联网,如果侵犯您的权利,请及时告知,本站将立即删除!

    ©2012-2021,,E-mail:www_#163.com(请将#改为@)

    浙ICP备11055608号-3