Apache优化——连接保持、访问控制日志分割和日志分析系统_maxkeepaliverequests 403 forbidden

一、连接保持

1.1 为什么要有连接保持？

HTTP 是属于应用层的面向对象协议，基于 TCP 协议之上的可靠传输。每次在进行HTTP 连接之前，需要先进行 TCP 连接，在 HTTP 连接结束后要对 TCT 连接进行终止，每个 TCP 连接都需要进行三次握手与四次断开。
HTTP 协议不会对之前发生过的请求和响应进行管理，所以建立与关闭连接对于 HTTP 而言会消耗更多的内存与 CPU 资源。能不能允许通过同一个 TCP 连接发出多个请求，从而减少与多个连接相关的延迟，解决办法就是连接保持。

对于 HTTP/1.1，就是尽量地保持客户端的连接，通过一个连接传送多个 HTTP 请求响应，对于客户端可以提高 50%以上的响应时间，对于服务器可以降低资源开销。Apache通过设置配置文件httpd-default.conf中相关的连接保持参数开启与控制连接保
持功能。

1.2 可优化的相关参数：

1、KeepAlive 决定是否打开连接保持功能，后面接 OFF 表示关闭，接 ON 表示打开，可以根据网站的并发请求量决定是否打开，即在高并发时打开连接保持功能，并发量不高时关闭此功能。

2、KeepAliveTimeout 表示一次连接多次请求之间的最大间隔时间，即两次请求之间超过该时间连接就会自动断开，从而避免客户端占用连接资源。

3、MaxKeepAliveRequests 用于设置在一次长连接中可以传输的最大请求数量，超过此最大请求数量就会断开连接，最大值的设置决定于网站中网页的内容，一般设置数量会多于网站中所有的元素。

二、访问控制

2.1 客户机限制

通过 Require 配置项，可以根据客户端的主机名或 IP 地址来决定是否允许客户端访问。

在 httpd 服务的主配置文件的< Location >、< Directory >、< Files >、< Limit >配置段中均可以使用 Require 配置项来控制客户端的访问。
使用 Require 配置项时，需要设置客户端地址以构成完整的限制策略，地址形式可以是 IP 地址、网络地址、主机名或域名。当 Require 配置项之后为“all”时，表示匹配任意地址。
限制策略的格式如下所示：

Require all granted：允许所有主机访问；
Require all denied：拒绝所有主机访问；
Require local：仅允许本地主机访问；
Require [not] host <主机名或域名列表>：允许或拒绝指定主机或域名访问；
Require [not] ip <IP 地址或网段列表>：允许或拒绝指定 IP 地址网络访问。
1
2
3
4

通常情况下，网站服务器是对所有客户机开放的，网页文档目录并未做任何限制，因此使用的是“Require all granted”的策略，表示允许从任何客户机访问，策略格式如下所示：

默认目录允许所有
<Directory "/usr/local/httpd/htdocs">
 ......
Require all granted
</Directory>
1
2
3
4
5

多个策略的限制规则：
定义限制策略时，多个不带“not”的 Require 配置语句之间是“或”的关系，即任意一条Require 配置语句满足条件均可访问。
若既出现了不带“not”的 Require 配置语句，又出现了带“not”的 Require 配置语句，则配置语句之间是“与”的关系，即同时满足所有 Require 配置语句才能访问。

需要使用“仅允许”的限制策略时，应使用 Require 配置语句明确设置允许策略，只允许一部分主机访问。例如，若只希望 IP 地址为 192.168.100.2 的主机能够访问，目录区域应做
如下设置：

<Directory "/usr/local/httpd/htdocs/bbs"> 
…… //省略部分内容
Require ip 192.168.100.2
</Directory>
1
2
3
4

反之，需要使用“仅拒绝”的限制策略时，灵活使用 Require 与 Require not 配置语句设置拒绝访问策略，仅禁止一部分主机访问。在使用 not 禁止访问时要将其置于容器中，并在容器中设置相应的限制策略。例如，若只希望禁止来自两个内网网段 192.168.100.0/24 和 192.168.1.0/24 的主机访问，但允许其他任何主机访问，可以使用如下限制策略：

<Directory "/usr/local/httpd/htdocs/bbs">
 …… //省略部分内容
<RequireAll>
Require all granted
Require not ip 192.168.0.0/24 192.168.1.0/24
</RequireAll>
</Directory>
1
2
3
4
5
6

2.2 用户授权限制

httpd 的基本认证通过校验用户名、密码组合来判断是否允许用户访问。授权访问的用户账号需要事先建立，并保存在固定的数据文件中。使用专门的 htpasswd 工具程序，可以创建授权用户数据文件，并维护其中的用户账号。

创建授权用户账号：
使用 htpasswd 工具时，必须指定用户数据文件的位置，添加“-c”选项表示新建立此文件。例如，执行以下操作可以新建数据文件/usr/local/httpd/conf/.awspwd，其中包含一个名为 webadmin 的用户信息

cd /usr/local/httpd/
bin/htpasswd -c /usr/local/httpd/conf/.awspwd webadmin
New password:                                           ####根据提示设置密码
Re-type new password:                                   ####根据提示设置密码
Adding password for user webadmin
cat /usr/local/httpd/conf/.awspwd                       ####确认用户数据文件
webadmin:$apr1$L53Ws/Y2$3L4xhs4zZKDbJb.9p1fNg.
1
2
3
4
5
6
7

若省略“-c”选项，则表示指定的用户数据文件已经存在，用于添加新的用户或修改现有用户的密码。例如，需要向.awspwd 数据文件中添加一个新用户 zhangsan时，可以执行以下操作：

bin/htpasswd /usr/local/httpd/conf/.awspwd zhangsan
New password:
Re-type new password:
Adding password for user 51xit
cat /usr/local/httpd/conf/.awspwd //确认用户数据文件
webadmin:$apr1$L53Ws/Y2$3L4xhs4zZKDbJb.9p1fNg. 51xit:$apr1$OJIFi4TA$FaVYZnH2KH5Kc0sHJHAWD0
1
2
3
4
5
6

添加用户授权配置：
有了授权用户账号以后，还需要修改 httpd.conf 配置文件，在特定的目录区域中添加授权配置，以启用基本认证并设置允许哪些用户访问。例如，若只允许.awspwd 数据文件中的任一用户访问系统，可以执行以下操作：

vim /usr/local/httpd/conf/httpd.conf 
……                                                        ####省略部分内容
<Directory "/usr/local/httpd/htdocs"> 
……                                                        ####省略部分内容
AuthName "DocumentRoot" 
AuthType Basic
AuthUserFile /usr/local/httpd/conf/.awspwd
Require valid-user
</Directory>
systemctl restart httpd               ####重启服务使配置生效
1
2
3
4
5
6
7
8
9
10

AuthName：定义受保护的领域名称，该内容将在浏览器弹出的认证对话框中显示。
AuthType：设置认证的类型，Basic 表示基本认证。
AuthUserFile：设置用于保存用户账号、密码的认证文件路径。
require valid-user：要求只有认证文件中的合法用户才能访问。其中，valid-user表示所有合法用户，若只授权给单个用户，可改为指定的用户名（如 webadmin）
1
2
3
4

验证：
访问主机IP，并输入 wbadmin 密码

三、日志分割

随着网站的访问量越来越大，默认情况下 Apache 服务器产生的单个日志文件也会越来越大，如果不对日志进行分割，那么如果日志文件占用磁盘空间很大的话势必会将整个日志文件删除，这样也丢失了很多对网站比较宝贵的信息，而这些日志可以用来进行访问分析、网络安全监察、网络运行状况监控等。

另外，如果服务器遇到故障时，运维人员要打开日志文件进行分析，打开的过程会消耗很长时间，也势必会增加处理故障的时间。因此管理好这些海量的日志对网站的意义很大，我们会将 Apache 的日志进行按每天的日期自动分割。下面介绍两种方法均可实现。

3.1 Apache自带的分割工具rotatelogs

首先我们将 Apache 主配置文件 httpd.conf 打开，配置网站的日志文件转交给 rotatelogs分割处理。

mkdir /var/log/httpd/
vim /usr/local/httpd/conf/httpd.conf
ErrorLog "|/usr/local/bin/rotatelogs -l /var/log/httpd/error_%Y%m%d.log 86400" 
CustomLog "|/usr/local/bin/rotatelogs -l /var/log/httpd/access_%Y%m%d.log 86400" common 
systemctl restart httpd
1
2
3
4

其中 ErrorLog 行是错误日志，不用太多关注，一般不会记录错误的访问，-l 表示使用本地时间代替 GMT 时间作为时间基准。注意：在一个改变 GMT 偏移量(比如夏令时)的环境中使用-l 会导致不可预料的结果。
CustomLog 行是定义访问日志格式，86400 表示一天，即每天生成一个新的日志文件。
重启 Apache 服务，查看日志文件是否已经按日期分割

3.2 使用第三方工具cronolog分割

编译安装cronolog工具

tar zxvf cronolog-1.6.2.tar.gz
cd cronolog-1.6.2
./configure
make && make install
1
2
3
4

设置 cronolog 工具工具分割 apache 日志

vim /usr/local/httpd/conf/httpd.conf
ErrorLog "|/usr/local/sbin/cronolog /var/log/httpd/www.51xit.top-error_%Y%m%d.log" 
CustomLog "|/usr/local/sbin/cronolog /var/log/httpd/www.51xit.top-access_%Y%m%d.log" common
systemctl restart httpd
1
2
3

四、AWStats日志分析系统

AWStats是使用Perl语言开发的一款开源日志分析系统，它不仅可用来分析Apache 网站服务器的访问日志，也可以用来分析 Samba、Vsftpd、IIS 等服务的日志信息。结合 crond等计划任务服务，可以对不断增长的日志内容定期进行分析。

安装 AWStats 软件包

cd /opt
wget http://awstats.org/files/awstats-7.6.tar.gz
tar zxf awstats-7.7.tar.gz
mv awstats-7.7 /usr/local/awstats
1
2
3
4

为要统计的站点建立配置文件

首先切换到 awstats/tools 目录下，并执行其中的 awstats_configure.pl 脚本。

cd /usr/local/awstats/tools/
chmod +x awstats_configure.pl
./awstats_configure.pl
1
2
3

后将会进入一个交互式的配置过程，将会检查 awstats 的安装目录、httpd 服务的配置文件路径、日志记录格式等系统环境，并提示用户指定站点名称、设置配置文件路径

-----> Running OS detected: Linux, BSD or Unix
-----> Check for web server install
Enter full config file path of your Web server. Example: /etc/httpd/httpd.conf
Example: /usr/local/apache2/conf/httpd.conf
Example: c:\Program files\apache group\apache\conf\httpd.conf
Config file path ('none' to skip web server setup):
>/usr/local/httpd/conf/httpd.conf      ###输入 httpd.conf 配置文件的路径，输入错误按Ctrl + backspace
1
2
3
4
5
6

设置日志类型

-----> Check and complete web server config file '/usr/local/httpd/conf/httpd.conf' Warning: You Apache config file contains directives to write 'common' log files
This means that some features can't work (os, browsers and keywords
detection). Do you want me to setup Apache to write 'combined' log files [y/N] ? #输y     
Add 'Alias /awstatsclasses "/usr/local/awstats/wwwroot/classes/"' 
Add 'Alias /awstatscss "/usr/local/awstats/wwwroot/css/"' 
Add 'Alias /awstatsicons "/usr/local/awstats/wwwroot/icon/
Add 'ScriptAlias /awstats/ "/usr/local/awstats/wwwroot/cgi-bin/"
Add '<Directory>' directive
AWStats directives added to Apache config file.
-----> Update model config file
'/usr/local/awstats/wwwroot/cgi-bin/awstats.model.conf' File awstats.model.conf 
1
2
3
4
5
6
7
8
9
10
11

为指定 Web 站点创建配置文件
根据提示继续选择“y”以创建站点配置文件，并指定要统计的目标网站名称、站点配置文件的存放位置（默认为/etc/awstats）

-----> Need to create a new config file ?
Do you want me to build a new AWStats config/profile
file (required if first install) [y/N] ?     y     ###确认创建新的站点配置文件
-----> Define config file name to create
What is the name of your web site or profile analysis ?
Example: www.mysite.com
Example: demo
Your web site, virtual server or profile name:
> www.test1.top                                     ####指定要统计的目标网站名称
-----> Define config file path
In which directory do you plan to store your config file(s) ?
Default: /etc/awstats
Directory path to store config file(s) (Enter for default): ####直接按 Enter 键接受默认设置
-----> Create config file '/etc/awstats/awstats.www.test1.top.conf'
Config file /etc/awstats/awstats.www.abc.com.conf created. 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15

http://192.168.100.41/awstats/awstats.pl?config=www.test1.top

后续配置

vim /usr/local/httpd/conf/httpd.conf
ErrorLog "logs/error_log" 
CustomLog "logs/access_log" combined
<IfModule !mpm_prefork_module>
LoadModule cgid_module modules/mod_cgid.so        ###这边修改下
</IfModule>
<IfModule mpm_prefork_module>
LoadModule cgi_module modules/mod_cgi.so            ###这边修改下
</IfModule>
<Directory "/usr/local/awstats/wwwroot">
Options None
AllowOverride None
#Order allow,deny                                    ####注释掉
#Allow from all                                      ####注释掉
Require all granted                                  ####添加
</Directory>

<Directory "/usr/local/awstats/wwwroot">
Options None
AllowOverride None
#Order allow,deny
#Allow from all
Require all granted
</Directory>

systemctl restart httpd
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25

修改站点统计配置文件
为站点 www.test1.top 建立好配置文件以后，还需要对其做进一步的修改。修改的内容主要包括指定要分析的 Web 日志文件和指定用来存放统计数据的目录

vim /etc/awstats/awstats.www.test1.top.conf
LogFile="/usr/local/httpd/logs/access_log"  ##必须要和http指定日志文件存放的路径一致
DirData="/var/lib/awstats" 
1
2
3

其中，LogFile 用来指定日志路径，应设置 Web 日志文件的实际位置；DirData 用来指定数据目录，可以采用默认值，但需要创建指定的目录（/var/lib/awstats）

执行日志分析，并设置 cron 计划任务

使用 AWStats 提供的 awstats_updateall.pl 脚本，可以更新所有站点（根据站点配置文件）的日志统计数据。执行该脚本时，系统将会自动分析新增的日志内容，并将分析结果更新到统计数据库中。

cd /usr/local/awstats/tools/
chmod +x awstats_updateall.pl
./awstats_updateall.pl now  ###执行命令不要忘了加now
Running '"/usr/local/awstats/wwwroot/cgi-bin/awstats.pl" -update
-config=www.abc.com -configdir="/etc/awstats"' to update config www.test1.top
Create/Update database for config "/etc/awstats/awstats.www.test1.top.conf" by
AWStats version 7.7 (build 20180105)
From data in log file "/usr/local/httpd/logs/access_log"... Phase 1 : First bypass old records, searching new record... Searching new records from beginning of log file... Jumped lines in file: 0
Parsed lines in file: 0
Found 0 dropped records, Found 0 comments, Found 0 blank records, Found 0 corrupted records, Found 0 old records, Found 0 new qualified records.
1
2
3
4
5
6
7
8
9
10

由于 Web 日志文件的内容是在不断更新的，为了及时反馈网站访问情况，日志分析工 作也需要定期、自动地执行。通过crond 服务可设置计划任务，一般建议每五分钟执行一次日志分析任务

crontab -e
*/5 * * * * /usr/local/awstats/tools/awstats_updateall.pl now
systemctl start crond
systemctl enable crond
1
2
3
4

访问 AWStats 分析系统
访问站点 http://192.168.100.41/awstats/awstats.pl?config=www.test1.top 后，即可看到AWStats 日志分析系统的统计页面，该页面分别按访问时间、用户来源、所用浏览器等类别列出各种详细的网站访问情况。若此处访问出现 403 Forbidden 错误，关闭 selinux 即可正常访问。

http://www.test1.top/awstats/awstats.pl?config=www.test1.top

在该页面中，拖动窗口右侧的滚动条即可查看整个分析报告内容；或者单击左侧导航栏中的链接，可以选择查看其中的部分内容。
在“按参观时间”类别下，可以查看每小时、每天、每周、每月的网站访问次数、网页数、文件数等信息。
在“浏览器统计”类别下，可以查看用户的参观时间、所用的操作系统、浏览器版本、搜索本网站的关键词等相关信息。
在访问 AWStats 系统时，需要指定 awstats 目录、脚本位置、统计目标等信息，这样既不便于记忆，输入时也比较麻烦。为了简化操作，可以在 Web 根目录下建立一个自动跳转的 HTML 网页。例如，执行以下操作后，用户只要访问http://www.test1.top/awb.html，即可自动跳转到 www.test1.top 站点的 AWStats 日志分析页面。

vim /usr/local/httpd/htdocs/awb.html  ###这个采集数据的页面放在站点目录中
<html>
<head>
<meta http-equiv=refresh content="0;
url=http://192.168.100.41/awstats/awstats.pl?config=www.test1.top">
</head>
<body></body>
</html>
1
2
3
4
5
6
7
8