赞
踩
# 算法原理
本质是通过距离(欧式距离)判断两个样本是否相似,如果距离够近就认为他们足够相似属于同一类别
###算法优缺点:主要参数k(标记数据周围几个数作为参考对象,需要根据数据来决定)
k值越大,模型偏差大,对噪声数据不敏感。可能造成欠拟合
k值越小,模型方差就会越大,容易过拟合。
算法变种一:针对不同距离的邻居指定不同的距离权重,通常距离越近权重越高,通过weights参数来实现。
算法变种二:使用一定半径内的点取代距离最近的k个点
在scikit_learn中,RadiusNeighborsClassifiter 实现了这种算法,当数据采样不均匀时,这种算法性能更好。
#案例实现
##导入相关包
###全部行都能输出
from IPython.core.interactiveshell import InteractiveShell
InteractiveShell.ast_node_interactivity="all"
import numpy as np
import pandas as pd
import matplotlib.pyplot as plt
#解决坐标轴刻度负号乱码
plt.rcParams['axes.unicode_minus']=False
#解决中文乱码
plt.rcParams['font.sans-serif']=['simhei']
#设置背景样式
plt.style.use('ggplot')
#构建分类好的原始数据集
#先随机设置10个样本点表示10杯酒,为方便验证使用dict构建数据集,
#然后转化为DataFrame格式
rowdata = {'颜色深度':[14.23,13.2,13.16,14.37,13.24,12.07,12.43,11.79,12.37,12.04],
'酒精浓度':[5.64,4.38,5.68,4.80,4.32,2.76,3.94,3.1,2.12,2.6],
'品种':[0,0,0,0,0,1,1,1,1,1]}
#0 代表黑皮诺品种,1代表赤霞珠
wine_data = pd.DataFrame(rowdata)
wine_data
#特征作为x,y作为标签(类别)
x = np.array(wine_data.iloc[:,0:2])#这为什么要把dataframe转为一维数组,因为只需要里面的数值,不需要索引
y = np.array(wine_data.iloc[:,-1])
#探索,假如给出新的数据,判断红酒的类别
new_data = np.array([12.03,4.1])
#画出标签y=1的赤霞珠的散点图
plt.scatter(x[y==1,0], x[y==1,1],color='red',label='赤霞珠')
#方括号内为列表表达式,x是一维数组,取x数组的横坐标和纵坐标。
plt.scatter(x[y==0,0],x[y==0,1],color='purple',label='黑皮诺')
plt.scatter(new_data[0],new_data[1],color='yellow')
new_data
plt.xlabel('酒精浓度')
pl
Copyright © 2003-2013 www.wpsshop.cn 版权所有,并保留所有权利。