Oracle外部表External Table是一项比较传统方便的工具。使用独立在文件系统中的文本文件为载体,通过Directory对象建立起虚拟数据表(External Table)和数据文件数据之间的关系。同时,通过直接加载等技术提高数据导入过程速度,让用户使用起来可以得到同数据库表相同的查询检索效率。
对于External Table技术,Oracle在每个新版本中都在不断的丰富提升,一些更加实用的特性被不断加入到系统中。在Oracle 11gR2(在10gR2较晚版本中最开始出现)版本中,正式推出了Preprocessor预处理器语句,在操作系统层面提供了对数据进入数据库前的程序介入接口。
本篇主要介绍Preprocessor语法的使用和应用场景,并且通过案例进行说明。
1、语法和内容
外部表External Table的核心在于定义数据表时候的描述参数,Preprocessor特性实际上就是外部表定义过程中的一个参数项目。从语法结构上,如下图所示:
使用Preprocessor参数有配套参数项目,用于详细指定出究竟处理文本文件的函数是谁?在哪?directory_spec参数是可选项目,如果处理函数位置和默认Directory不同,就是用这个来指定。File_spec就是指定的函数处理程序对象。
从系统部署角度看,处理程序(加密或者压缩)和数据放在相同的位置显然不是一个好主意,同时也不是规范安全的做法。
注意:如果程序执行需要参数设置,需要写在shell或者batch脚本中指定。
2、实验背景环境
下面通过一个案例来进行说明。案例比较简单:受磁盘空间大小的限制,在文件系统中保存的外部表文件需要压缩保存,但是在读取的时候,需要即时进行解压处理。这种时候,就需要使用Proprocessor进行方便的程序处理。
我们选择使用Oracle 11g进行测试,具体版本为11.2.0.4。
SQL> select * from v$version;
BANNER
--------------------------------------------------------------------------------
Oracle Database 11g Enterprise Edition Release 11.2.0.4.0 - 64bit Production
PL/SQL Release 11.2.0.4.0 - Production
CORE 11.2.0.4.0Production
TNS for Linux: Version 11.2.0.4.0 - Production
NLSRTL Version 11.2.0.4.0 – Production
在操作系统层面,设置文件存储结构。
--目录结构准备
[root@localhost /]# mkdir -p /prtest/bin
[root@localhost /]# mkdir -p /prtest/data
[root@localhost /]# ls -l | grep prtest
drwxr-xr-x. 4 oracle oinstall 4096 Oct 13 15:59 prtest
准备压缩数据,为csv格式文件。
--数据压缩准备
[oracle@localhost ~]$ cd /prtest/data/
[oracle@localhost data]$ ls -l
total 1264
-rw-r--r--. 1 oracle oinstall 1291480 Oct 13 16:02 tmp001.csv
[oracle@localhost data]$ gzip tmp001.csv
[oracle@localhost data]$ ls -l
total 340
-rw-r--r--. 1 oracle oinstall 346110 Oct 13 16:02 tmp001.csv.gz
处理程序可以是实际程序,也可以是一个shell或者batch执行脚本。我们在Linux环境下,准备一个简单的解压命令脚本。
[oracle@localhost data]$ cd /prtest/bin/
[oracle@localhost bin]$ echo '/bin/gunzip -c $1' > uncompress.sh
[oracle@localhost bin]$ ls -l
total 4
-rw-r--r--. 1 oracle oinstall 18 Oct 13 16:05 uncompress.sh
[oracle@localhost bin]$ chmod 755 uncompress.sh
[oracle@localhost bin]$ ls -l
total 4
-rwxr-xr-x. 1 oracle oinstall 18 Oct 13 16:05 uncompress.sh
从部署结构看,/prtest/bin目录保存执行程序,data目录保存压缩版本数据。
3、外部表创建
结束了文件系统配置,后面可以进行数据库层面配置。首先,外部表External Table与文件系统接口就是Directory对象。
SQL> create directory execdir as '/prtest/bin';
Directory created
SQL> grant read, write on directory execdir to scott;
Grant succeeded
SQL> create directory data_dir as '/prtest/data';
Directory created
SQL> grant read, write on directory data_dir to scott;
Grant succeeded
SQL> grant execute on directory execdir to scott;
Grant succeeded
SQL> grant execute on directory data_dir to scott;
Grant succeeded
切换到scott用户。
SQL> show user
User is "scott"
SQL> create table xtab(obj_id number(10), obj_name varchar2(2000), obj_typ varchar2(2000))
2 organization external
3 (
4 type oracle_loader
5 default directory data_dir
6 access parameters(
7 records delimited by newline
8 preprocessor execdir:'uncompress.sh') –设置处理程序
9 -- fields (obj_id, obj_name, obj_typ)
10 location('tmp001.csv.gz')
11 )
12 REJECT LIMIT UNLIMITED
13 parallel 2;
Table created
使用select语句。
SQL> select count(*) from xtab;
COUNT(*)
----------
31592
SQL> select * from xtab where rownum