当前位置:  操作系统/服务器>linux
本页文章导读:
    ▪apache 配置文件解说         在Internet时代,外部主页的发布已经成为树立公司形象的一个重要手段,而内部主页也成为公司管理的主要方式。但是,要想实现这些功能,首先应该把我们的Linux Server配置成为一台强.........
    ▪apache 虚拟主机配置技巧       NameVirtualHost 111.22.33.44  ServerName  DocumentRoot /www/sample  ServerName  DocumentRoot /www/sample2  但是在有些 IP 地址充裕,但是机器资源紧张的环境下,我们可能要把多个域名解析到同一台机器.........
    ▪Web服务器日志统计分析完全解决方案         文章相关软件: webalizer http://www.mrunix.net/webalizer/ cronolog http://www.cronolog.org/ Apache http://www.apache.org/ 一、 前言 随着Internet上Web服务的发展,几乎各个政府部门、公司、大专院校、科研院.........

[1]apache 配置文件解说
    来源: 互联网  发布时间: 2013-12-24
 
在Internet时代,外部主页的发布已经成为树立公司形象的一个重要手段,而内部主页也成为公司管理的主要方式。但是,要想实现这些功能,首先应该把我们的Linux Server配置成为一台强大的Web Server。本章将详细介绍如何配置Apache服务器。希望各位同仁能够通过阅读本片文章达到理论实践双丰收的目的,在很短的时间里迅速成为一名出色的网络管理员。 
1.2 所需资源 
1.2.1 所需包 
RedHat6.2 服务器安装 
1.2.2 所需配置文件 
/etc/httpd/conf/httpd.conf 系统自带,管理员配置 
/etc/httpd/conf/access.conf 系统自带,不需要修改 
/etc/httpd/conf/srm.conf 系统自带,不需要修改 

1.3 配置方案 
/etc/httpd/conf/httpd.conf 
说明:apache主配置文件 
源文件: 
ServerType standalone 
   #定义WebServer的启动方式为standalone,以增强其对大量访问的及时响应性 
ServerRoot "/etc/httpd" 
   #指定包含httpd服务器文件的目录 
LockFile /var/lock/httpd.lock 
PidFile /var/run/httpd.pid 
ScoreBoardFile /var/run/httpd.scoreboard 
Timeout 300 
   #响应超时量,单位为秒 
KeepAlive On 
   #允许用户建立永久连接 
MaxKeepAliveRequests 100 
KeepAliveTimeout 15 
MinSpareServers 5 
   #要保留的空闲服务器进程的最小值 
MaxSpareServers 20 
   #要保留的空闲服务器进程的最大值 
StartServers 8 
   #系统启动时的守护进程数 
MaxClients 150 
   #所能提供服务的最大客户端编号,大于它的部分被放入请求队列 
MaxRequestsPerChild 100 
LoadModule vhost_alias_module modules/mod_vhost_alias.so 
LoadModule env_module     modules/mod_env.so 
LoadModule config_log_module modules/mod_log_config.so 
LoadModule agent_log_module  modules/mod_log_agent.so 
LoadModule referer_log_module modules/mod_log_referer.so 
LoadModule mime_module    modules/mod_mime.so 
LoadModule negotiation_module modules/mod_negotiation.so 
LoadModule status_module   modules/mod_status.so 
LoadModule info_module    modules/mod_info.so 
LoadModule includes_module  modules/mod_include.so 
LoadModule autoindex_module  modules/mod_autoindex.so 
LoadModule dir_module     modules/mod_dir.so 
LoadModule cgi_module     modules/mod_cgi.so 
LoadModule asis_module    modules/mod_asis.so 
LoadModule imap_module    modules/mod_imap.so 
LoadModule action_module   modules/mod_actions.so 
LoadModule userdir_module   modules/mod_userdir.so 
LoadModule alias_module    modules/mod_alias.so 
LoadModule rewrite_module   modules/mod_rewrite.so 
LoadModule access_module   modules/mod_access.so 
LoadModule auth_module    modules/mod_auth.so 
LoadModule anon_auth_module  modules/mod_auth_anon.so 
LoadModule db_auth_module   modules/mod_auth_db.so 
LoadModule digest_module   modules/mod_digest.so 
LoadModule proxy_module    modules/libproxy.so 
LoadModule expires_module   modules/mod_expires.so 
LoadModule headers_module   modules/mod_headers.so 
LoadModule usertrack_module  modules/mod_usertrack.so 
LoadModule setenvif_module  modules/mod_setenvif.so 
LoadModule perl_module    modules/libperl.so 
LoadModule php3_module    modules/libphp3.so 
ClearModuleList 
AddModule mod_vhost_alias.c 
AddModule mod_env.c 
AddModule mod_log_config.c 
AddModule mod_log_agent.c 
AddModule mod_log_referer.c 
AddModule mod_mime.c 
AddModule mod_negotiation.c 
AddModule mod_status.c 
AddModule mod_info.c 
AddModule mod_include.c 
AddModule mod_autoindex.c 
AddModule mod_dir.c 
AddModule mod_cgi.c 
AddModule mod_asis.c 
AddModule mod_imap.c 
AddModule mod_actions.c 
#AddModule mod_speling.c 
AddModule mod_userdir.c 
AddModule mod_alias.c 
AddModule mod_rewrite.c 
AddModule mod_access.c 
AddModule mod_auth.c 
AddModule mod_auth_anon.c 
AddModule mod_auth_db.c 
AddModule mod_digest.c 
AddModule mod_proxy.c 
AddModule mod_expires.c 
AddModule mod_headers.c 
AddModule mod_usertrack.c 
AddModule mod_so.c 
AddModule mod_setenvif.c 
AddModule mod_perl.c 
AddModule mod_php3.c 
Port 80 
   #定义服务器所使用的TCP的端口号 
User nobody 
Group nobody 
   #以上两行是分配给httpd的新用户的文件权限,出于安全的考虑把 
   它们的权限设置成为最低。 
ServerAdmin 
   #设置Web管理员的邮件地址 
ServerName WebOA 
   #定义客户端从服务器读取数据时返回给客户端的主机名,其缺省值 
   是localhost,第一次安装Linux的时候经常这里出错。 
DocumentRoot "/home/weboa/jakarta-tomcat/webapps/weboa" 
   #设置所有Apache文档的根目录,比如说,用户对 
   的访问请求,Apache对它 
   的响应是/home/weboa/jakarta-tomcat/webapps/weboa/index.html 
   Options FollowSymLinks 
   AllowOverride None 

   Options Indexes Includes FollowSymLinks 
   AllowOverride None 
   Order allow,deny 
   Allow from all      # 允许所有人访问 
UserDir public_html 
DirectoryIndex index.html index.htm index.shtml index.cgi 
   #设置多种成功访问主页的方式,为的是提高系统的容错性 
AccessFileName .htaccess 
   Order allow,deny 
   Deny from all 
UseCanonicalName On 
TypesConfig /etc/mime.types 
DefaultType text/plain 
   MIMEMagicFile share/magic 
HostnameLookups Off 
ErrorLog /usr/httpd/log/error_log 
LogLevel warn 
   #定义那些错误类型被记录到错误日志中 
LogFormat "%h %l %u %t \"%r\" %>s %b \"%{Referer}i\" \"%{User-Agent}i\"" combined 
   #所有的LogFormat都用来定义日志中的条目 
LogFormat "%h %l %u %t \"%r\" %>s %b" common 
LogFormat "%{Referer}i -> %U" referer 
LogFormat "%{User-agent}i" agent 
CustomLog /usr/httpd/log/access_log common 
ServerSignature On 
Alias /icons/ "/home/httpd/icons/" 
#定义目录与系统目录的对应关系 
   Options Indexes MultiViews 
   AllowOverride None 
   Order allow,deny 
   Allow from all 
ScriptAlias /cgi-bin/ "/home/httpd/cgi-bin/" 
#定义CGI目录 
   AllowOverride None 
   Options ExecCGI 
   Order allow,deny 
   Allow from all 
IndexOptions FancyIndexing 
AddIconByEncoding (CMP,/icons/compressed.gif) x-compress x-gzip 
AddIconByType (TXT,/icons/text.gif) text/* 
AddIconByType (IMG,/icons/image2.gif) image/* 
AddIconByType (SND,/icons/sound2.gif) audio/* 
AddIconByType (VID,/icons/movie.gif) video/* 
AddIcon /icons/binary.gif .bin .exe 
AddIcon /icons/binhex.gif .hqx 
AddIcon /icons/tar.gif .tar 
AddIcon /icons/world2.gif .wrl .wrl.gz .vrml .vrm .iv 
AddIcon /icons/compressed.gif .Z .z .tgz .gz .zip 
AddIcon /icons/a.gif .ps .ai .eps 
AddIcon /icons/layout.gif .html .shtml .htm .pdf 
AddIcon /icons/text.gif .txt 
AddIcon /icons/c.gif .c 
AddIcon /icons/p.gif .pl .py 
AddIcon /icons/f.gif .for 
AddIcon /icons/dvi.gif .dvi 
AddIcon /icons/uuencoded.gif .uu 
AddIcon /icons/script.gif .conf .sh .shar .csh .ksh .tcl 
AddIcon /icons/tex.gif .tex 
AddIcon /icons/bomb.gif core 
AddIcon /icons/back.gif .. 
AddIcon /icons/hand.right.gif README 
AddIcon /icons/folder.gif ^^DIRECTORY^^ 
AddIcon /icons/blank.gif ^^BLANKICON^^ 
DefaultIcon /icons/unknown.gif 
ReadmeName README 
HeaderName HEADER 
AddEncoding x-compress Z 
AddEncoding x-gzip gz tgz 
AddLanguage en .en 
AddLanguage fr .fr 
AddLanguage de .de 
AddLanguage da .da 
AddLanguage el .el 
AddLanguage it .it 
LanguagePriority en fr de 
   AddType application/x-httpd-php3 .php3 
   AddType application/x-httpd-php3-source .phps 

   AddType application/x-httpd-php .phtml 
AddType application/x-tar .tgz 
AddType text/html .shtml 
AddHandler server-parsed .shtml 
AddHandler imap-file map 
BrowserMatch "RealPlayer 4\.0" force-response-1.0 
BrowserMatch "Java/1\.0" force-response-1.0 
BrowserMatch "JDK/1\.0" force-response-1.0 
   Alias /perl/ /home/httpd/perl/ 
   SetHandler perl-script 
   PerlHandler Apache::Registry 
   Options +ExecCGI 

Alias /doc/ /usr/doc/ 
   order deny,allow 
   deny from all 
   allow from localhost 
   Options Indexes FollowSymLinks 
include /etc/httpd/conf/tomcat-apache.conf 
Alias /netcard "/home/weboa/jakarta-tomcat/webapps/weboa/net_card" 
   Options Indexes FollowSymLinks 
   allow from all 
CacheSize 5 
#定义缓存区大小,以KB为单位。可以根据需要和硬盘空间大小进行设置 
CacheGcInterval 4 
#每隔4小时检查缓存区,如果已经超过CacheSize就删除文件 
CacheMaxExpire 24 
#HTTP文件最多被保持24小时 
CacheLastModifiedFactor 0.1 
#定义HTTP文件失效期,缺省是0.1 ,意思是说失效期=离最近一次修改的时间X,比如离最近一次修改的时间是5小时,那么失效期就是5X0.1=0.5小时 
CacheDefaultExpire 1 
#这一指令提供一个缺省的时间(小时)来销毁缓存的文件,这些文件的最后更改时间不详。CacheMaxExpire 命令不覆盖这一设置 
## 以下是如何对一个目录进行登陆控制的方法 ## 在/etc/httpd/conf/httpd.conf中添加以下内容: 
Alias /weboa/ "/home/weboa/" 
   Options Indexes MultiViews 
   AllowOverride authconfig 
   Order allow,deny 
   Allow from all 
在/home/weboa目录下建立.htaccess文件 
   authname "shared files" 
   authtype basic 
   authuserfile /etc/httpd/conf/passwd 
require valid-user 
在/etc/httpd/conf目录下执行命令生成认证文件 
htpasswd -c thj thj #创建认证文件和第一个名和密码 
htpasswd weboa weboa #添加其他用户名和密码 

### 以下是做的实现方法 ### 
需要在/etc/httpd/conf/httpd.conf中添加下列内容: 
Alias /webadmin/ "/home/weboa/webadmin/html/" 
   Options Indexes MultiViews 
   AllowOverride None 
   Order allow,deny 
   Allow from all 
NameVirtualHost 192.168.0.1 #虚拟域名的DNS服务器 
ServerAdmin #网管邮件地址 
DocumentRoot /home/weboa/webadmin/html/ #服务器页面目录 
ServerName webadmin.weboa.com.cn #服务器名称 
需要在/var/named/name2ip.conf中添加的内容: 
webadmin   IN   A   192.168.0.1 

1.4 测试及管理办法 
1.4.1 测试方法 
每当管理员更改了Apache的设置之后,都应执行 /etc/rc.d/init.d/httpd restart使得更改生效。 
1.4.2 管理方法 
Apache提供大量的日志文件,当Apache出错的时候,管理员可以根据htppd.conf中的ErrorLog定义的路径来诊断。具体方法是: 
tail -f /var/log/httpd/apache/error_log 
(作者:汤海京)

    
[2]apache 虚拟主机配置技巧
    来源: 互联网  发布时间: 2013-12-24
NameVirtualHost 111.22.33.44 
ServerName 
DocumentRoot /www/sample 

ServerName 
DocumentRoot /www/sample2 

但是在有些 IP 地址充裕,但是机器资源紧张的环境下,我们可能要把多个域名解析到同一台机器上,其配置方法为: 

ServerName 
DocumentRoot /groups/smallco/www 

ServerName 
DocumentRoot /groups/baygroup/www 

这种方法下,要求机器配置多个 IP 地址。 
(作者:徐永久)

    
[3]Web服务器日志统计分析完全解决方案
    来源: 互联网  发布时间: 2013-12-24

 

文章相关软件:

webalizer http://www.mrunix.net/webalizer/ cronolog http://www.cronolog.org/ Apache http://www.apache.org/ 一、 前言

随着Internet上Web服务的发展,几乎各个政府部门、公司、大专院校、科研院所等都在构建或正在建设自己的网站。而与此同时,在构建网站建设中各个单位都会遇到各种各样的问题,那么对web服务器的运行和访问情况进行详细和周全的分析对于了解网站运行情况,发现网站存在的不足,促进网站的更好发展重要性是不言而喻的。

管理Web网站不只是监视Web的速度和Web的内容传送,它要求不仅仅关注服务器每天的吞吐量,还要了解对这些Web网站的外来访问,了解网站各页面的访问情况,根据各页面的点击频率来改善网页的内容和质量、提高内容的可读性,跟踪包含有商业交易的步骤以及管理Web网站“幕后”的数据等。
为了更好地提供WWW服务,监控WEB服务器的运行情况、了解网站内容的详细访问状况就越来越显得重要和迫切了。而这些要求都可以通过对web服务器的日志文件的统计和分析来做到。

二、WEB日志分析的原理

网站服务器日志记录了web服务器接收处理请求以及运行时错误等各种原始信息。通过对日志进行统计、分析、综合,就能有效地掌握服务器的运行状况,发现和排除错误原因、了解客户访问分布等,更好的加强系统的维护和管理。

在WWW服务模型是非常简单的(见图1):

1) 客户端(浏览器)和web服务器建立tcp连接,连接建立以后,向web 服务器发出访问请求(如:get),根据HTTP协议该请求中包含了客户端的IP地址、浏览器的类型、请求的URL等一系列信息。


图1 web访问机制

2) web服务器收到请求后,将客户端要求的页面内容返回到客户端。如果出现错误,那么返回错误代码。

 

3) 服务器端将访问信息和错误信息纪录到日志文件里。下面是客户端发送给web服务器请求的数据报的内容:

GET /engineer/ideal/list.htm HTTP/1.1
Accept: image/gif, image/x-xbitmap, image/jpeg, image/pjpeg, application/vnd.ms-powerpoint, application/vnd.ms-excel, application/msword, */*
Referer: http://www.linuxaid.com.cn/engineer/ideal/
Accept-Language: zh-cn
Accept-Encoding: gzip, deflate
User-Agent: Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.0)
Host: www.linuxaid.com.cn
Connection: Keep-Alive

可以看到,在客户机的请求里包含了很多有用的信息,例如:客户端类型等等。而web服务器就会将请求的web页内容发送返回给客户机。

目前最常用的web服务器有Apache、Netscape enterprise server、MS IIS等。而目前互联网上最常用的web服务器就是apache,因此我们这里的讨论都以Linux+apache环境讨论,其他的应用环境类似。对于Apache来说,支持多种日志文件格式,最常见的是common和combined两种模式,其中combined方式比common方式的日志的信息要多Referer(该请求来自于哪里,例如来自于yahoo的搜索引擎)和User-agent(用户客户端类型,如mozilla或IE)。我们这里讨论combined类型。下面是common类型的日志示例:

218.242.102.121 - - [06/Dec/2002:00:00:00 +0000] "GET /2/face/shnew/ad/via20020915logo.gif HTTP/1.1" 304 0 "http://www.mpsoft.net/" "Mozilla/4.0 (compatible; MSIE 6.0; Windows 98)"
61.139.226.47 - - [06/Dec/2002:00:00:00 +0000] "GET /cgi-bin/guanggaotmp.cgi?1 HTTP/1.1" 200 178 "http://www3.beareyes.com.cn/1/index.php" "Mozilla/4.0 (compatible; MSIE 5.0; Windows 98; DigExt)"
218.75.41.11 - - [06/Dec/2002:00:00:00 +0000] "GET /2/face/shnew/ad/via20020915logo.gif HTTP/1.1" 304 0 "http://www.mpsoft.net/" "Mozilla/4.0 (compatible; MSIE 5.0; Windows 98; DigExt)"
61.187.207.104 - - [06/Dec/2002:00:00:00 +0000] "GET /images/logolun1.gif HTTP/1.1" 304 0 "http://www2.beareyes.com.cn/bbs/b.htm" "Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.1)"
211.150.229.228 - - [06/Dec/2002:00:00:00 +0000] "GET /2/face/pub/image_top_l.gif HTTP/1.1" 200 260 "http://www.beareyes.com/2/lib/200201/12/20020112004.htm" "Mozilla/4.0 (compatible; MSIE 5.5; Windows NT 5.0)"

从上面的日志文件可以看出日志记录会记录客户端的IP地址、访问发生的时间、访问请求的页面、web服务器对于该请求返回的状态信息、返回给客户端的内容的大小(以字节为单位)、该请求的引用地址、客户浏览器类型等信息。

三、apache日志的配置和管理

本文中我们假设我们的apache运行有两个:www.secfocus.com和www.tomorrowtel.com。我们需要对这两个分别进行访问日志分析和统计。

Apache配置文件中,我们需要关心的和日志相关的配置有两个:

CustomLog /www/logs/access_log common
ErrorLog /www/logs/error_log

CustomLog用来指示apache的访问日志的存放位置(这里保存在/www/logs/access_log中)和格式(这里为common);ErrorLog用来指示apache错误信息日志的存放位置。

对于不配置的服务器来说,只需要直接在httpd.conf中查找CustomLOg的配置进行修改即可;而对于具有多个虚拟服务器的web服务器来说,需要分离各个虚拟服务器的访问日志,以便对各个虚拟服务器进行访问统计和分析。因此这就需要在虚拟服务器配置中进行独立的日志配置,示例:

NameVirtualHost 75.8.18.19


ServerName www.secfocus.com
ServerAdmin secfocus@secfocus.com
DocumentRoot /www/htdocs/secfocus/
CustomLog "/www/log/secfocus" combined
Alias /usage/ "/www/log/secfocus/usage/"



ServerName www.tomorrowtel.com
ServerAdmin tomorrowtel @ tomorrowtel.com
DocumentRoot /www/htdocs/ tomorrowtel
CustomLog "/www/log/tomorrowtel " combined
Alias /usage/ "/www/log/tomorrowtel/usage/"

这里需要注意的是每个的定义都有一个CustomLog命令,用来指定该访问日志的存放文件;而Alias命令用来让日志分析生成的报表能通过www.secfocus.com/usage/的方式来访问。通过上面的配置就完成了日志文件的保存。

但是下来遇到的一个问题就是日志文件的轮循,因为日志是一直在增大的,如果不进行处理那么日志文件会越来越大,会影响web服务器运行效率;速率,还可能过大耗尽服务器硬盘空间,导致服务器无法正常运行,另外如果单个日志文件大于操作系统单文件尺寸的的限制,从而更进一步影响web服务的运行。而且日志文件如果不进行轮循也不变于日志统计分析程序的运行,因为日志统计分析都是以天为单位进行统计分析的,跨越很长时间日志会使得日志统计分析程序运行特别慢。因此这里就需要对web服务器日志文件每天进行轮循。

四、web服务器日志轮循

web服务器日志轮循比较好的方式有三种:第一种方法是利用Linux系统自身的日志文件轮循机制:logrotate;第二种方法是利用apache自带的日志轮循程序rotatelogs;第三种是使用在apache的FAQ中推荐发展已经比较成熟的一个日志轮循工具cronolog。

对于大型的WEB服务来说,其往往使用实用负载均衡技术提高web站点服务能力,这样后台有多个服务器提供WEB服务,这大大方便了服务的分布规划和扩展性,但多个服务器的分布就需要对日志进行合并统一进行统计分析。因此为了保证统计的精确性就需要严格按照每天的时段来自动生成日志文件。

4.1 logrotate实现日志轮循

首先我们讨论采用Linux系统自身的日志文件轮循机制:logrotate的方法。Logrotate是Linux系统自身带的一个日志轮循程序,是专门对各种系统日志(syslogd,mail)进行轮循的程序。该程序是由运行程序的服务crond来每天凌晨4:02运行的,可以在/etc/cron.daily目录下可以看到logrotate文件,其内容如下:

#!/bin/sh
/usr/sbin/logrotate /etc/logrotate.conf

可以看到每天清晨crond都会启动/etc/cron.daily目录下的logrotate脚本来进行日志轮循。

而在/etc/logrorate.conf中可以看到内容如下:

# see "man logrotate" for details
# rotate log files weekly
weekly
# keep 4 weeks worth of backlogs
rotate 4
# create new (empty) log files after rotating old ones
create
# uncomment this if you want your log files compressed
#compress
# RPM packages drop log rotation information into this directory
include /etc/logrotate.d
# no packages own wtmp -- we@#ll rotate them here
/var/log/wtmp {
monthly
create 0664 root utmp
rotate 1
}

# system-specific logs may be also be configured here.

从logrotate的配置文件中可以看到除了wtmp以外,需要滚动的日志的配置都保存在/etc/logroate.d目录下。因此我们只需要在该目录下创建一个名为apache的配置文件,来指示logrotate如何轮循web服务器的日志文件即可,下面是一个示例:

/www/log/secfocus {
rotate 2
daily
missingok
sharedscripts
postrotate
/usr/bin/killall -HUP httpd 2> /dev/null || true
endscript
}
/www/log/tomorrowtel {
rotate 2
daily
missingok
sharedscripts
postrotate
/usr/bin/killall -HUP httpd 2> /dev/null || true
endscript
}

这里“rotate 2”表示轮循时只包括两个备份文件,也就是只有:access_log、access_log.1、access_log.2三个日志备份文件。就这样就实现了对两个的日志文件的轮循。后面我们会讨论如何使用日志统计分析软件对日志文件进行处理。

这种方法的优点是不需要其他第三方工具就可以实现日志轮循,但是对于重负载的服务器和使用负载均衡技术的web服务器来说这种方法就不是很实用。因为它是对相应服务进程发出一个-HUP重启命令来实现日志的截断归档的,这样会影响服务的连续性。

4.2 使用apache自带的rotatelogs实现日志轮循

apache提供了将不把日志直接写入文件,而是通过管道发送给另外一个程序的能力,这样就大大的加强了对日志进行处理的能力,这个通过管道得到的程序可以是任何程序:如日志分析,压缩日志等。要实现将日志写到管道只需要将配置中日志文件部分的内容替换为“|程序名“即可,例如:

# compressed logs
CustomLog "|/usr/bin/gzip -c >> /var/log/access_log.gz" common

这样就可以实用apache自带的轮循工具:rotatelogs来对日志文件进行轮循。rotatelogs基本是用来按时间或按大小控制日志的。

CustomLog "|/www/bin/rotatelogs /www/logs/secfocus/access_log 86400" common

上面的示例中apache访问日志被发送给程序rotatelogs,rotatelogs将日志写入/www/logs/secfocus/access_log,并每隔86400秒(一天)对日志进行一次轮循。轮循以后的文件名为/www/logs/secfocus/access_log.nnnn,这里nnn是开始记录日志的时间。因此为了将日志按天对齐就需要在凌晨00:00启动服务,使得每天轮循得到的日志刚好是完整一天的日志,以提供给访问统计分析程序进行处理。如果是00:00开始生成新的日志,那么轮循得到的日志就是access_log.0000。

4.3 使用cronolog实现日志轮循

首先需要下载和安装cronolog,可以到http://www.cronolog.org下载最新版本的cronolog。下载完毕以后,解压安装即可,方法如下所示:

[root@mail root]# tar xvfz cronolog-1.6.2.tar.gz
[root@mail root]# cd cronolog-1.6.2
[root@mail cronolog-1.6.2]# ./configure
[root@mail cronolog-1.6.2]# make
[root@mail cronolog-1.6.2]# make check
[root@mail cronolog-1.6.2]# make install

这就完成了cronolog的配置和安装,默认情况下cronolog是安装在/usr/local/sbin下。
修改apache日志配置命令如下所示:

CustomLog "|/usr/local/sbin/cronolog /www/logs/secfocus/%w/access_log" combined

这里%w表示按照日期星期几在不同的目录下保存日志,这种方式会保存一周的日志。为了进行日志分析,需要每天将该日志文件拷贝(或移动,如果不希望保存一周的日志)到一个固定的位置以方便日志分析统计文件进行处理,实用crontab –e,如下添加定时任务:

5 0 * * * /bin/mv /www/logs/secfocus/`date -v-1d +\%w`/access_log /www/logs/secfocus/access_log_yesterday

这样再使用日志统计分析程序的对文件access_log_yesterday进行处理。

对于使用负载均衡技术的大型站点,就存在多个服务器的访问日志的合并处理问题.对于这种情况,各个服务器定义或移动日志文件时就不能使用access_log_yesterday了,就应该带上服务器编号了,例如服务器IP地址等信息以区分。然后在各个服务器上运行网站镜像和备份服务rsyncd(参考文章” 用rsync实现网站镜像和备份”,ttp://www.linuxaid.com.cn/engineer/ideal/article/rsync.htm),然后将每个服务器每天的安装配置文件通过rsync下载到专门进行访问统计分析的服务器上进行合并。

合并多个服务器的日志文件,例如:log1 log2 log3并输出到log_all中的方法是:

sort -m -t " " -k 4 -o log_all log1 log2 log3

-m: 使用 merge优化算法,-k 4表示根据时间进行排序,-o表示将排序结果存放到指定的文件中。

五、日志统计分析程序webalizer的安装和配置

webalizer是一个高效的、免费的web服务器日志分析程序。其分析结果是HTML文件格式,从而可以很方便的通过web服务器进行浏览。Internet上的很多站点都使用webalizer进行web服务器日志分析。Webalizer具有以下一些特性:

  • 是用C写的程序,所以其具有很高的运行效率。在主频为200Mhz的机器上,webalizer每秒钟可以分析10000条记录,所以分析一个40M大小的日志文件只需要15秒。
  • webalizer支持标准的一般日志文件格式(Common Logfile Format);除此之外,也支持几种组合日志格式(Combined Logfile Format)的变种,从而可以统计客户情况以及客户操作系统类型。并且现在webalizer已经可以支持wu-ftpd xferlog日志格式以及squid日志文件格式了。
  •  支持命令行配置以及配置文件。
  • 可以支持多种语言,也可以自己进行本地化工作。
  • 支持多种平台,比如UNIX、linux、NT, OS/2 和 MacOS等。  
  • 上图是webalizer生成的访问统计分析报表第一页的内容,这里包含每个月的平均访问量的表格和条形图统计分析情况。点击每个月分,可以得到这个月每天的详细统计信息。

    5.1 安装

    在安装以前首先需要确保系统已经安装有gd库,可以使用:

    [root@mail root]# rpm -qa|grep gd
    gd-devel-1.8.4-4
    gdbm-devel-1.8.0-14
    gdbm-1.8.0-14
    sysklogd-1.4.1-8
    gd-1.8.4-4

    来确认系统已经安装有gd-deve和gd两个rpm包。

    安装webalizer有两种方式,一种是下载源代码来安装,一种是直接使用rpm包来安装。

    使用rpm包方式安装非常简单,从rpmfind.net找到webalizer包,下载以后:

    rpm –ivh webalizer-2.01_10-1.i386.rpm

    即可实现安装。

    对于源代码方式首先需要从http://www.mrunix.net/webalizer/下载,然后安装,首先解开源代码包:

    tar xvzf webalizer-2.01-10-src.tgz

    在生成的目录中有个lang目录,该目录中保存了各种语言文件,但是只有繁体中文版本,可以自己转换成简体,或者自己重新翻译一下。然后进入生成的目录:

    cd webalizer-2.01-10
    ./configure
    make --with-language=Chinese
    make install

    编译成功后,会在/usr/local/bin/目录下安装一个webalizer可执行文件。

    5.2 配置和运行

    对webalizer运行的控制可以通过配置文件或者在命令行指定参数的两种方式进行。而使用配置文件方式是比较简单和灵活的,适用于自动web服务器日志统计分析的应用环境。

    webalizer的默认配置文件为/etc/webalizer.conf,当启动Webalizer时没有使用“-f“选项时,Webalizer就会寻找文件/etc/webalizer.conf,也可以使用“-f”来指定配置文件(当服务器有时,就需要配置多份不同的webalizer配置文件,不同的的webalizer使用不同的配置文件。Webalizer.conf配置文件中需要修改的配置选项如下:

    LogFile /www/logs/secfocus/access_log

    用来指示配置文件的路径信息,webalizer会将该日志文件作为输入进行统计分析;

    OutputDir /www/htdocs/secfocus/usage

    用来指示生成的统计报表的保存目录,在前面我们使用alias,使得用户可以使用http://www.secfocus.com/usage/来访问统计报表。

    HostName

    用来指示主机名,统计报表中会引用该主机名。

    其他选项就无需修改,配置文件修改完毕以后,就需要在定时webalizer,每天生成当日的统计分析。

    以root身份运行:crontab –e 进入定时运行任务编辑状态,加入如下任务:

    5 0 * * * /usr/local/bin/webalizer –f /etc/secfocus.webalizer.conf
    15 0 * * * /usr/local/bin/webalizer –f /etc/tomorrowtel.webalizer.conf

    我们这里假设系统运行有两个,并分别定义了日志分析配置文件secfocus.webalizer.conf和tomorrowtel.webalizer.conf。这样我们定义在凌晨00:05对secfocus的日志进行统计分析;在凌晨00:15对tomorrowtel的日志进行统计分析。

    然后第二天分别使用http://www.secfocus.com/usage/和http://www.tomorrowtel.com/usage来察看各自的日志分析报表。

    六、保护日志统计分析报告不被未授权用户访问

    我们肯定不会希望自己网站访问统计信息随意被别人浏览,因此需要将usage目录保护起来,只允许合法用户访问。这里可以采用apache自带的基本的认证机制,配置以后再连接这个地址就会需要用户提供密码才能访问该页面:



    1、条件

    在配置文件中对目录"/"应该设置为:

    DocumentRoot /www/htdocs/secfocus/
    AccessFileName .htaccess
    AllowOverride All

    2、需求

    需求:限制对http://www.secfocus.com/usage/的访问,要求用户认证才能访问。这里设置用户为"admin",口令为"12345678"。

    3、使用htpasswd建立用户文件

    htpasswd -c /www/.htpasswd admin
    此程序会询问用户"admin"的口令,你输入"12345678",两次生效。

    4、建立.htaccess文件

    用vi在/www/logs/secfocus/usage/目录下建立一个文件.htaccess,写入以下几行:
    AuthName admin-only
    AuthType Basic
    AuthUserFile /www/.htpasswd
    require user admin

    5、测试

    这时候通过浏览器访问就会弹出框请求输入用户名和口令,这时候输入admin、12345678就可以才可以访问访问日志统计分析报表


        
    最新技术文章:
    ▪linux系统中的列出敏感用户的脚本代码
    ▪a10 config backup for aXAPI
    ▪一键备份gitolite服务器的Shell脚本
    ▪nagios 分发文件实现代码
    ▪阿里云云服务器Linux系统更新yum源Shell脚本
    ▪一个监控LINUX目录和文件变化的Shell脚本分享
    ▪Linux下实现SSH免密码登录和实现秘钥的管理、...
    ▪Shell正则表达式之grep、sed、awk实操笔记
    ▪3个备份系统文件并邮件发送的Shell脚本分享
    ▪CentOS 6.3下给PHP添加mssql扩展模块教程
    ▪监控网站是否可以正常打开的Shell脚本分享
    ▪shell脚本编程之if语句学习笔记
    ▪shell脚本编程之循环语句学习笔记
    ▪shell脚本编程之case语句学习笔记
    ▪Shell脚本实现的阳历转农历代码分享
    ▪Shell脚本实现复制文件到多台服务器的代码分...
    ▪Shell脚本实现批量下载网络图片代码分享
    ▪Shell脚本实现检测文件是否被修改过代码分享
    ▪Shell脚本数组用法小结
    ▪Shell脚本批量重命名文件后缀的3种实现
    ▪C语言实现的ls命令源码分享
    ▪Linux下查找后门程序 CentOS 查后门程序的shell脚...
    ▪Shell 函数参数
    ▪linux shell 自定义函数方法(定义、返回值、变...
    ▪Shell实现判断进程是否存在并重新启动脚本分...
    ▪Shell脚本break和continue命令简明教程
    ▪Shell脚本函数定义和函数参数
    ▪让代码整洁、过程清晰的BASH Shell编程技巧
    ▪shell常用重定向实例讲解
    ▪awk中RS、ORS、FS、OFS的区别和联系小结
     


    站内导航:


    特别声明:169IT网站部分信息来自互联网,如果侵犯您的权利,请及时告知,本站将立即删除!

    ©2012-2021,,E-mail:www_#163.com(请将#改为@)

    浙ICP备11055608号-3