Linux文件系统与日志分析_多节点服务日志汇总

一、inode和block

（一）概述

1、文件数据包括元信息与实际数据
2、文件存储在硬盘上，硬盘最小存储单位是“扇区”，每个扇区存储512字节
3、block (块)
连续的八个扇区组成一个block(4K)
是文件存取的最小单位
4、inode (索引节点)
中文译名为"索引节点"，也叫 i节点

（二）详解

1、文件是存储在硬盘上的，硬盘的最小存储单位叫做“扇区" (sector) ，每个扇区存储512字节。
一般连续八个扇区组成一个"块" (block) ，一个块是4K大小，是文件存取的最小单位。操作系统读取硬盘的时候，是一次性连续读取多个扇区，即一个块一个块的读取的。

文件数据包括实际数据与元信息(类似文件属性)。文件数据存储在“块"中，存储文件元信息(比如文件的创建者、创建日期、文件大小、文件权限等)的区域就叫做 inode ，因此，一个文件必须占用一个inode，并且至少占用一个block。inode不包含文件名。文件名是存放在目录当中的。Linux系统中一切皆文件，因此目录也是一种文件。

每个inode都有一个号码，操作系统用inode号码来识别不同的文件。Linux系统内部不使用文件名，而使用inode号码来识别文件。对于系统来说，文件名只是inode号码便于识别的别称，文件名和inode号码是一 一 对应关系，每个inode号码对应一个文件名。

所以，当用户在Linux系统中试图访问一个文件时，系统会先根据文件名去查找它对应的inode号码；通过inode号码，获取inode信息；根据inode信息，看该用户是否具有访问这个文件的权限；如果有，就指向相对应的数据block，并读取数据。

2.查看文件名对应的inode号码有两种方式：

ls -l  文件名
stat   文件名
1
2

Linux系统文件三个主要的时间属性
ctime(change time) #最后一次改变文件或目录(属性)的时间
atime(access time) #最后一次访问文件或目录的时间
mtime(modify time) #最后一次修改文件或目录(内容)的时间

3、inode也会消耗硬盘空间，所以格式化的时候，操作系统自动将硬盘分成两个区域。一个是数据区，存放文件数据；另一个是inode区，存放inode所包含的信息。每个inode的大小，一般是128字节或256字节。

通常情况下不需要关注单个inode的大小，而是需要重点关注inode总数。inode的总数在格式化时就给定了，执行 “df -i” 命令即可查看每个硬盘分区对应的的inode总数和已经使用的inode数量。

4、由于inode号码与文件名分离，导致Linux系统具备以下几种特有的现象:
1）、文件名包含特殊字符，可能无法正常删除。这时直接删除inode，能够起到删除文件的作用；
2）、移动文件或重命名文件，只是改变文件名，不影响inode号码；
3）、打开一个文件以后，系统就以inode号码来识别这个文件，不再考虑文件名。
4）、文件数据被修改保存后，会生成一个新的inode号码。

通过inode 删除文件命令：

find ./  -inum  52305140  -exec  rm  -i  {} \;
find ./  -inum  50464299   -delete
1
2

二、inode节点耗尽故障处理

#使用fdisk创建分区/dev/sdb1，分区大小30M即可
fdisk  /dev/sdb   n-p-+30M-w
mkfs.ext4  /dev/sdb1  #对应centos 7系统，节点耗尽故障处理的文件类型可以是ext3或ext4
mkdir  /test    #创建挂载点
mount  /dev/sdb1  /test
df   -i      #查看inode号一共有多少个

#模拟inode节点耗尽故障
for  ((i=1; i<=7680; i++)) ;do  touch  /test/file$i; done    或者  touch {1..7680}.txt     #创建超过它限额的节点号
df  -i 
df  -hT
#删除文件恢复
rm  -rf  /test/*
df  -i
df  -hT
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15

删除占用节点号的文件后就又恢复原有节点号数量，可以重新使用。

三、EXT类型文件恢复

EXT类型文件恢复
extundelete  是一个开源的Linux数据恢复工具，支持 ext3,ext4 文件系统。（ext4只能在centos6版本恢复；ext3可在centos7版本中恢复）
#使用 fdisk 创建分区 /dev/sdb1，
#格式化ext3文件系统
fdisk  /dev/sdb
mkfs.ext3  /dev/sdb1
mkdir  /test
mount  /dev/sdb1   /test
df  -hT
1
2
3
4
5
6
7
8
9

#安装依赖包
mount /dev/cdrom /mnt   #安装依赖包需要系统镜像被挂载起来
yum -y install  e2fsprogs-devel  e2fsprogs-libs
#编译安装 extundelete
cd /test
wget  http://nchc.dl.sourceforge.net/project/extundelete/extundelete/0.2.4/extundelete-0.2.4.tar.bz2
tar jxvf extundelete-0.2.4.tar.bz2    #解压依赖包
cd extundelete-0.2.4/
./configure  --prefix=/usr/local/extundelete && make && make install    #./configure --prefix=/usr/local/extundelete是用来指定configure命令安装到/usr/local/extundelete 目录的
ln -s /usr/local/extundelete/bin/*  /usr/bin/   #将/usr/local/extundelete/bin/ 下的文件软链接到/usr/bin/目录下，这样可以让系统识别extundelete这个工具的所有命令

#模拟删除并执行恢复操作
cd /test
echo a>a #相当于使用echo 命令将内容a 定义到文件a,b,c,d中,创建4个文件
echo a>b
echo a>c
echo a>d
（或者使用vim 也可以创建）
ls
extundelete /dev/sdb1  --inode 2   #查看/dev/sdb1磁盘分区下存在哪些文件, i节点是从2开始的, 2代表该文件系统最开始的目录。
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20

rm -rf a b
extundelete  /dev/sdb1  --inode2
cd ~
umount /test
extundelete /dev/sdb1  --restore-all  #恢复/dev/sdb1文件系统下的所有内容
#在当前目录下会出现一个RECOVERED_FILES/目录，里面保存了已经恢复的文件
ls RECOVERED_FILES/
1
2
3
4
5
6
7

这边我们继续使用之前inode节点耗尽故障处理的分区sdb1,所以需要先解挂载后格式化成ext3文件类型的分区后进行EXT类型文件恢复


将需要的软件包从网上下载下来，然后解压使用


将configure 命令指定安装到/usr/local/extundelete中

最后进行安装该configure 命令

将/usr/local/extundelete/bin/ 下的文件软链接到/usr/bin/目录下，这样可以让系统识别extundelete这个工具的所有命令（这边可以理解/usr/bin 是个环境变量，只有将需要的命令放入环境变量中才可以使用）


删除a、b 文件之后，再次使用extundelete /dev/sdb1 --inode 2 命令查看文件的状态为已删除


使用 extundelete /dev/sdb1 --restore-all 命令恢复/dev/sdb1文件系统下的所有内容

四、xfs类型文件备份和恢复

Centos 7 系统默认采用xfs类型的文件， xfs类型的文件可使用 xfsdump（备份工具） 与 xfsrestore（恢复工具） 工具进行备份恢复。
xfsdump 的备份级别有两种：0表示完全备份；1-9表示增量备份。xfsdump的备份级别默认为0。

xfsdump 的命令格式为：

xfsdump  -f  备份存放位置  要备份的路径或设备文件
1

xfsdump命令常用的选项：
-f：指定备份文件目录
-L：指定会话标签 session label
-M：指定设备标签 media label
-S：备份单个文件， -s后面不能直接跟路径

xfsdump 使用限制:
1、只能备份已挂载的文件系统
2、必须使用root的权限才能操作
3、只能备份XFS文件系统
4、备份后的数据只能让 xfsrestore 恢复
5、不能备份两个具有相同UUID的文件系统（可用 blkid 命令查看）

使用fdisk创建分区/dev/sdb1
格式化xfs文件系统
fdisk  /dev/sdb
[partprobe  /dev/sdb ] #刷新一下磁盘分区，该命令可用，可不用
mkfs.xfs  [ -f ]  /dev/sdb1   #加-f是强制进行格式化
mkdir  /data
mount  /dev/sdb1  /date
cd   /data
cp   /etc/passwd  ./   #该处是将passwd 的信息进行备份，后面会将该文件信息删除，然后进行恢复
mkdir  test
touch  test/a
1
2
3
4
5
6
7
8
9
10
11

使用 xfsdump 命令备份整个分区
rpm  -qa | grep  xfsdump
yum  install  -y  xfsdump
xfsdump  -f  /opt/dump_sdb1  /dev/sdb1  [ -L dump_sdb1  -M  sdb1 ]
1
2
3
4

模拟数据丢失并使用xfsrestore  命令恢复文件
cd  /data/
rm -rf  ./*
ls

xfsrestore  -f  /opt/dump_sdb1  /data/
1
2
3
4
5
6

五、日志文件

（一）日志的功能

1、用于记录系统、程序运行中发生的各种事件
2、通过阅读日志，有助于诊断和解决系统故障

（二）日志文件的分类

1、内核及系统日志
1）、由系统服务 rsyslog 统一进行管理，日志格式基本相似
　　　软件包：rsyslog-7.4.7-16.el7.x86_64
　　　主要程序：/sbin/rsyslogd
　　　配置文件：/etc/rsyslog.conf
2）、主配置文件 /etc/rsyslog.conf
Linux操作系统本身和大部分服务器程序的日志文件都默认放在目录 /var/log/ 下。

也可以指定查询某个特定日期或者时间点的系统日志

3）、 查询系统内核日志配置文件：/etc/rsyslog.conf

vim  /etc/rsyslog.conf  #查看rsyslog.conf 配置文件
*.info;mail.none;authpriv.none;cron.none   /var/log/messages

*.info  #表示info等级及以上的所有等级的信息都写到对应的日志文件里
mail.none  #表示某事件的信息不写到日志文件里（这里比如是邮件）
1
2
3
4
5

4）、Linux系统内核日志消息的优先级别（数字等级越小，优先级越高，消息越重要）

2、用户日志
　1）、记录系统用户登录及退出系统的相关信息 vim /var/log/secure

3、
1）、由各种应用程序独立管理的日志文件，记录格式不统一
　2）、程序日志分析
由相应的应用程序独立进行管理
Web服务：Nar/log/httpd/
access_log //记录客户访问事件
error_log //记录错误事件
代理服务：/var/log/squid/
access.log、cache.log
分析工具
文本查看、grep过滤检索、Webmin管理套件中查看
awk、sed等文本过滤、格式化编辑工具
Webalizer、Awstats等专用日志分析工具

4、主要日志文件介绍

5、日志记录的一般格式：

（三）常见的一些日志文件

—内核及公共消息日志：
/var/log/messages：记录Linux内核消息及各种应用程序的公共日志信息，包括启动、IO错误、网络错误、程序故障等。对于未使用独立日志文件的应用程序或服务，一般都可以从该日志文件中获得相关的事件记录信息。

----计划任务日志：
/var/log/cron：记录 crond 计划任务产生的事件信息

----系统引导日志：
/var/log/dmesg：记录Linux系统在引导过程中的各种事件信息

----邮件系统日志：
/var/log/maillog：记录进入或发出系统的电子邮件活动。

----用户登录日志：
/var/log/secure：记录用户认证相关的安全事件信息。
/var/log/lastlog：记录每个用户最近的登录事件。二进制格式
/var/log/wtmp：记录每个用户登录、注销及系统启动和停机事件。二进制格式
/var/run/btmp：记录失败的、错误的登录尝试及验证事件。二进制格式

------分析工具
users、 who、w 、last、lastb
last命令用于查询成功登录到系统的用户记录
lastb命令用于查询登录失败的用户记录

六、日志管理策略

1、及时作好备份和归档
2、延长日志保存期限
3、控制日志访问权限
日志中可能会包含各类敏感信息，如账户、口令等
4、集中管理日志
将服务器的日志文件发到统一的日志文件服务器
便于日志信息的统一收集、整理和分析
杜绝日志信息的意外丢失、恶意篡改或删除