凡人多烦事01

这个屌丝很懒，什么也没留下！

热门标签

【数据挖掘】实验4：数据探索

作者：凡人多烦事01 | 2024-03-25 07:44:41

踩

【数据挖掘】实验4：数据探索

实验4：数据探索

一：实验目的与要求

1：熟悉和掌握数据探索，学习数据质量分类、数据特征分析和R语言的主要数据探索函数。

二：实验内容

1：数据质量分析

2：统计量分析

3：贡献度分析

4：相关性分析

5：统计特征函数

三：课堂练习

【练习1】PPT-06第12页——检测餐饮销售数据缺失值和异常值

第一步：用setwd设置工作空间

setwd('C:\\Users\\86158\\Desktop')

getwd()

第二步：读入数据

saledata <- read.csv(file="catering_sale.csv", header=TRUE, fileEncoding="GB2312")

saledata

完整运行结果：

日期销量

1 2015/3/1 51.00

2 2015/2/28 2618.20

3 2015/2/27 2608.40

4 2015/2/26 2651.90

5 2015/2/25 3442.10

6 2015/2/24 3393.10

7 2015/2/23 3136.60

8 2015/2/22 3744.10

9 2015/2/21 6607.40

10 2015/2/20 4060.30

11 2015/2/19 3614.70

12 2015/2/18 3295.50

13 2015/2/16 2332.10

14 2015/2/15 2699.30

15 2015/2/14 NA

16 2015/2/13 3036.80

17 2015/2/12 865.00

18 2015/2/11 3014.30

19 2015/2/10 2742.80

20 2015/2/9 2173.50

21 2015/2/8 3161.80

22 2015/2/7 3023.80

23 2015/2/6 2998.10

24 2015/2/5 2805.90

25 2015/2/4 2383.40

26 2015/2/3 2620.20

27 2015/2/2 2600.00

28 2015/2/1 2358.60

29 2015/1/31 2682.20

30 2015/1/30 2766.80

31 2015/1/29 2618.80

32 2015/1/28 2714.30

33 2015/1/27 2280.80

34 2015/1/26 2414.00

35 2015/1/25 3130.60

36 2015/1/24 2716.90

37 2015/1/23 2930.80

38 2015/1/22 2504.90

39 2015/1/21 2559.50

40 2015/1/20 2168.60

41 2015/1/19 2436.40

42 2015/1/18 3234.30

43 2015/1/17 3061.00

44 2015/1/16 2900.10

45 2015/1/15 2646.80

46 2015/1/14 2615.20

47 2015/1/13 2124.40

48 2015/1/12 1958.00

49 2015/1/8 2259.10

50 2015/1/7 2419.80

51 2015/1/6 2775.00

52 2015/1/5 2594.90

53 2015/1/4 2468.30

54 2015/1/3 3004.30

55 2015/1/2 3313.30

56 2015/1/1 3613.60

57 2014/12/31 2655.90

58 2014/12/30 2644.30

59 2014/12/29 2565.30

60 2014/12/27 2525.90

61 2014/12/26 2778.00

62 2014/12/25 2542.10

63 2014/12/24 2473.30

64 2014/12/23 2240.10

65 2014/12/22 2575.00

66 2014/12/21 3802.80

67 2014/12/18 2274.70

68 2014/12/17 2687.20

69 2014/12/16 2577.80

70 2014/12/15 2583.00

71 2014/12/14 3282.60

72 2014/12/13 3113.70

73 2014/12/12 2661.40

74 2014/12/11 2553.20

75 2014/12/10 2511.30

76 2014/12/9 2710.30

77 2014/12/8 2468.10

78 2014/12/7 3041.50

79 2014/12/6 3178.90

80 2014/12/5 2594.40

81 2014/12/4 2381.10

82 2014/12/3 2415.00

83 2014/12/2 2236.40

84 2014/11/30 3207.20

85 2014/11/29 3059.50

86 2014/11/28 3039.10

87 2014/11/26 2817.50

88 2014/11/25 2891.80

89 2014/11/24 2470.10

90 2014/11/23 3556.60

91 2014/11/22 3397.70

92 2014/11/20 2761.60

93 2014/11/19 2618.20

94 2014/11/18 2758.30

95 2014/11/17 2614.30

96 2014/11/16 3437.10

97 2014/11/15 3250.00

98 2014/11/14 3063.70

99 2014/11/13 2839.20

100 2014/11/12 2360.90

101 2014/11/11 2158.50

102 2014/11/10 2005.50

103 2014/11/9 3236.40

104 2014/11/8 22.00

105 2014/11/7 2452.60

106 2014/11/6 2265.00

107 2014/11/5 2566.10

108 2014/11/4 2527.20

109 2014/11/3 2326.50

110 2014/11/2 2941.90

111 2014/11/1 60.00

112 2014/10/31 2520.90

113 2014/10/30 2446.20

114 2014/10/29 2549.40

115 2014/10/28 2449.30

116 2014/10/27 2162.50

117 2014/10/26 2781.30

118 2014/10/25 3060.60

119 2014/10/24 2064.00

120 2014/10/22 2439.70

121 2014/10/21 2476.20

122 2014/10/20 2478.30

123 2014/10/19 2826.20

124 2014/10/18 2924.80

125 2014/10/17 2417.50

126 2014/10/16 2450.10

127 2014/10/15 2533.00

128 2014/10/14 2238.70

129 2014/10/13 2388.80

130 2014/10/12 3291.30

131 2014/10/11 2738.80

132 2014/10/10 2344.10

133 2014/10/9 2068.80

134 2014/10/8 3185.30

135 2014/10/7 2778.60

136 2014/10/6 2921.10

137 2014/10/5 2524.30

138 2014/10/4 3057.10

139 2014/10/3 3039.60

140 2014/10/2 3193.40

141 2014/10/1 3075.40

142 2014/9/30 2847.60

143 2014/9/29 2311.40

144 2014/9/28 2327.30

145 2014/9/27 9106.44

146 2014/9/26 2616.60

147 2014/9/25 2620.20

148 2014/9/24 2616.40

149 2014/9/23 2655.80

150 2014/9/22 2310.70

151 2014/9/21 2935.80

152 2014/9/20 3017.90

153 2014/9/19 2625.50

154 2014/9/18 2752.70

155 2014/9/17 2181.50

156 2014/9/16 2440.50

157 2014/9/15 2422.80

158 2014/9/14 2583.60

159 2014/9/13 2728.90

160 2014/9/12 2525.30

161 2014/9/11 2531.70

162 2014/9/10 2300.50

163 2014/9/9 2097.50

164 2014/9/8 4065.20

165 2014/9/7 3555.20

166 2014/9/6 3462.50

167 2014/9/5 3033.10

168 2014/9/4 2926.10

169 2014/9/3 2431.40

170 2014/9/2 2706.00

171 2014/9/1 3049.90

172 2014/8/31 3494.70

173 2014/8/30 3691.90

174 2014/8/29 2929.50

175 2014/8/28 2760.60

176 2014/8/27 2593.70

177 2014/8/26 2884.40

178 2014/8/25 2591.30

179 2014/8/24 3022.60

180 2014/8/23 3052.10

181 2014/8/22 2789.20

182 2014/8/21 2909.80

183 2014/8/20 2326.80

184 2014/8/19 2453.10

185 2014/8/18 2351.20

186 2014/8/17 3279.10

187 2014/8/16 3381.90

188 2014/8/15 2988.10

189 2014/8/14 2577.70

190 2014/8/13 2332.30

191 2014/8/12 2518.60

192 2014/8/11 2697.50

193 2014/8/10 3244.70

194 2014/8/9 3346.70

195 2014/8/8 2900.60

196 2014/8/7 2759.10

197 2014/8/6 2915.80

198 2014/8/5 2618.10

199 2014/8/4 2993.00

200 2014/8/3 3436.40

201 2014/8/2 2261.70

第三步：缺失值检测并打印结果

sum(complete.cases(saledata))

sum(!complete.cases(saledata))

mean(!complete.cases(saledata))

saledata[!complete.cases(saledata),]

第四步：异常值检测箱线图（扩展）

boxplot(saledata$销量, main="销售数据异常值检测", ylab="销售额", na.rm = TRUE)

第五步：带有数值的异常值检测箱线图

# 异常值检测箱线图

sp <- boxplot(saledata$"销量", boxwex = 0.7)

title("销量异常值检测箱线图")

xi <- 1.1

sd.s <- sd(saledata[complete.cases(saledata), ]$"销量")

mn.s <- mean(saledata[complete.cases(saledata), ]$"销量")

points(xi, mn.s, col = "red", pch = 18)

arrows(xi, mn.s - sd.s, xi, mn.s + sd.s, code = 3, col = "pink", angle = 75, length = .1)

text(rep(c(1.05, 1.05, 0.95, 0.95), length = length(sp$out)),

labels = sp$out[order(sp$out)], sp$out[order(sp$out)] +

rep(c(150, -150, 150, -150), length = length(sp$out)), col = "red")

【练习2】PPT-06第32页——餐饮销售数据统计量分析

第一步：读入数据

sales <- saledata[, 2]

sales

第二步：计算均值

mean_ <- mean(sales, na.rm = T)

mean_

第三步：计算中位数

median_ <- median(sales, na.rm = T)

median_

第四步：计算极差

range_ <- max(sales, na.rm = T) - min(sales, na.rm = T)

range_

第五步：计算标准差

std_ <- sqrt(var(sales, na.rm = T))

std_

第六步：计算变异系数

variation_ <- std_ / mean_

variation_

第七步：计算四分位数间距

q1 <- quantile(sales, 0.25, na.rm = T)

q3 <- quantile(sales, 0.75, na.rm = T)

distance <- q3 - q1

a <- matrix(c(mean_, median_, range_, std_, variation_, q1, q3, distance),

1, byrow = T)

colnames(a) <- c("均值", "中位数", "极差", "标准差", "变异系数",

"1/4分位数", "3/4分位数", "四分位间距")

print(a)

【练习3】PPT-06第37页——菜品盈利贡献度统计量分析

第一步：读取菜品数据

dishdata <- read.csv(file = "catering_dish_profit.csv",fileEncoding="GB2312")

dishdata

第二步：绘制帕累托图

barplot(dishdata[, 3], col = "blue1", names.arg = dishdata[, 2], width = 1,

space = 0, ylim = c(0, 10000), xlab = "菜品", ylab = "盈利：元")

accratio <- dishdata[, 3]

for ( i in 1:length(accratio)) {

accratio[i] <- sum(dishdata[1:i, 3]) / sum(dishdata[, 3])

}

par(new = T, mar = c(4, 4, 4, 4))

points(accratio * 10000 ~ c((1:length(accratio) - 0.5)), new = FALSE,

type = "b", new = T)

axis(4, col = "red", col.axis = "red", at = 0:10000, label = c(0:10000 / 10000))

mtext("累积百分比", 4, 2)

points(6.5, accratio[7] * 10000, col="red")

text(7, accratio[7] * 10000,paste(round(accratio[7] + 0.00001, 4) * 100, "%"))

【练习4】PPT-06第45页——餐饮销售数据相关性分析

第一步：读取数据

cordata <- read.csv(file = "catering_sale_all.csv", header = TRUE,fileEncoding="GB2312")

cordata

完整运行结果：

日期百合酱蒸凤爪翡翠蒸香茜饺金银蒜汁蒸排骨乐膳真味鸡蜜汁焗餐包

1 2015/1/1 17 6 8 24 13

2 2015/1/2 11 15 14 13 9

3 2015/1/3 10 8 12 13 8

4 2015/1/4 9 6 6 3 10

5 2015/1/5 4 10 13 8 12

6 2015/1/6 13 10 13 16 8

7 2015/1/7 9 7 13 8 5

8 2015/1/8 9 12 13 6 7

9 2015/1/12 6 8 8 3 NA

10 2015/1/13 9 11 13 6 8

11 2015/1/14 6 7 8 9 4

12 2015/1/15 5 9 4 7 8

13 2015/1/16 9 7 11 9 11

14 2015/1/17 10 8 10 6 14

15 2015/1/18 13 12 12 10 9

16 2015/1/19 4 8 12 11 9

17 2015/1/20 6 12 10 9 11

18 2015/1/21 9 15 4 12 7

19 2015/1/22 3 10 13 13 13

20 2015/1/23 8 7 9 20 5

21 2015/1/24 11 6 11 8 7

22 2015/1/25 11 6 5 15 7

23 2015/1/26 4 7 10 7 6

24 2015/1/27 7 5 6 7 12

25 2015/1/28 8 8 12 14 8

26 2015/1/29 4 10 12 9 7

27 2015/1/30 6 7 7 11 7

28 2015/1/31 8 5 11 10 8

29 2015/2/1 8 6 7 9 6

生炒菜心铁板酸菜豆腐香煎韭菜饺香煎罗卜糕原汁原味菜心

1 13 18 10 10 27

2 10 19 13 14 13

3 3 7 11 10 9

4 9 9 13 14 13

5 10 17 11 13 14

6 9 12 11 5 9

7 7 10 8 10 7

8 8 6 12 11 5

9 4 5 5 7 10

10 7 6 9 8 9

11 7 8 5 3 10

12 9 15 9 13 9

13 8 14 9 9 15

14 13 16 9 4 14

15 11 8 12 9 15

16 7 10 6 11 11

17 4 8 14 6 13

18 9 1 5 12 8

19 8 13 5 11 11

20 12 8 7 8 11

21 8 9 7 10 9

22 14 14 7 6 8

23 10 9 12 7 5

24 15 6 12 9 4

25 11 7 12 10 6

26 8 8 10 10 11

27 7 9 16 10 11

28 11 8 10 10 9

29 4 6 11 6 9

第二步：求出相关系数矩阵

cor(cordata[, 2:11])

【练习5】PPT-06第51页

Eg1：计算两个列向量的相关系数，采用Spearman方法

x = c(1:8)

y = c(2:9)

R = cor(x,y,method="spearman")

Eg2：计算20×5随机矩阵的协方差矩阵

X = matrix(rnorm(100),20,5)

R = cor(X)

四：实验知识点总结

1：数据质量分析是数据预处理的前提，其主要任务是检查原始数据中是否存在脏数据。脏数据主要包括：缺失值、异常值、不一致的值、重复数据和含有特殊符号的数据。

2：缺失值分析包括：（1）统计缺失值的变量个数；（2）统计每个变量的未缺失数；（3）统计变量的缺失数和缺失率；

3：异常值分析方法包括：（1）简单统计量分析；（2）3σ原则；（3）箱型图分析；

4：数据的不一致性是数据的矛盾性和不相容性，不一致数据的产生主要发生在数据集成的过程中。

5：数据特征分析的方法包括：（1）分布分析；（2）对比分析；（3）统计量分析；（4）周期性分析；（5）贡献度分析；（6）相关性分析；

6：常用的统计特征函数。

五：遇到的问题和解决方法

问题1：在读入csv数据时，出现以下报错。这个报错信息表明在尝试读取CSV文件时遇到了编码问题，即文件中可能包含了非标准ASCII字符。

解决1：直接指定读取文件的确切编码，此处使用GB2312。

声明：本文内容由网友自发贡献，不代表【wpsshop博客】立场，版权归原作者所有，本站不承担相应法律责任。如您发现有侵权的内容，请联系我们。转载请注明出处：https://www.wpsshop.cn/w/凡人多烦事01/article/detail/308027