除了在Matlab中使用PRTols工具箱中的SVM算法外，支持向量机也可以用于Python中的分类。由于Python中的Sklearn库也集成了SVM算法，本文的运行环境是Pycharm。

一、导入sklearn算法包

Scikit-Learn库已经实现了所有基本机器学习算法，详见官方文件说明:http://scikit-learn.org/stable/auto_examples/index.html#support-vector-machines。

许多算法集成在skleran中，其导入包的方式如下：

·逻辑回归：from sklearn.linear_model import LogisticRegression

·简单贝叶斯：简单贝叶斯：from sklearn.naive_bayes import GaussianNB

·K-近邻：from sklearn.neighbors import KNeighborsClassifier

·决策树：from sklearn.tree import DecisionTreeClassifier

·支持向量机：from sklearn import svm

svc在sklearn中的使用

(1)在numpy中使用loadtxt阅读数据文件

loadtxt()使用方法:

·fname:文件路径。eg：C:/Dataset/iris.txt。

·dtype：数据类型。eg：float、str等。

·delimiter：分隔符。eg，’。

·converters：映射数据列和转换函数的字典。

·eg：{1:fun}，意思是转换第二列对应的转换函数。

·usecols：选择数据列。

以Iris兰花数据集为例：

由于从UCI数据库下载的Iris原始数据集是这样的，前四列为特征列，第五列为类别列，分别有三类Iris-setosa， Iris-versicolor， Iris-virginica。　　

当将numpy中的loadtxt函数导入数据集时，假设数据类型dtype为浮点类型，但显然第五列的数据类型不是浮点类型。

因此，我们需要做一个额外的工作，即第五列通过转换函数映射到浮点类型的数据，通过loadtxt()函数中的converters参数。

首先，我们应该写一个转换函数：

defiris_type(s):
it={'Iris-setosa':0,'Iris-versicolor':1,'Iris-virginica':2}
returnit[s]

接下来读入数据，converters={4: iris_type}中等“4”指的是第五列：

path=u'D:/f盘/python/学习/iris.data'#数据文件路径
data=np.loadtxt(path,dtype=float,delimiter=',',converters={4:iris_type})

读入结果：

(2)将Iris分为训练集和测试集

x,y=np.split(data,(4,),axis=1)
x=x[:,:2]
x_train,x_test,y_train,y_test=train_test_split(x,y,random_state=1,train_size=0.6)

1.split(数据，分割位置，轴=1(水平分割) or 0(垂直分割)。

2.x = x[:, :2]为方便后期画画更直观，只采用前两列特征值向量训练。

3.sklearn.model_selection.train_test_split随机划分训练集和测试集。train_test_split(train_data,train_target,test_size=数字, random_state=0)

参数解释：

·train_data：所划分的样本特征集

·train_target：样本结果需要划分

·test_size：样本的比例，如果是整数，就是样本的数量

·random_state：它是随机数的种子。

随机数种子：实际上是该组随机数的编号。当需要重复测试时，确保获得相同的随机数。例如，如果您每次填写1，您获得的随机数组与其他参数相同。但是如果你填写0或不填写0，每次都会有所不同。随机数的产生取决于种子。随机数与种子之间的关系遵循以下两个规则：不同的种子产生不同的随机数；相同的种子产生相同的随机数，即使实例不同。

(3)训练svm分类器

#clf=svm.SVC(C=0.1,kernel='linear',decision_function_shape='ovr')
clf=svm.SVC(C=0.8,kernel='rbf',gamma=20,decision_function_shape='ovr')
clf.fit(x_train,y_train.ravel())

kernel='linear'对于线性核，C分类越大，效果越好，但可能会过拟合（defaul C=1）。

kernel='rbf'时（default），为高斯核，gamma值越小，分类界面越连续；gamma值越大，分类界面越“分散”，分类效果越好，但可能过于拟合。

decision_function_shape='ovr'时间，是one v rest，也就是说，将一个类别与其他类别划分，

decision_function_shape='ovo'时，为one v one，将两个类别划分为两个类别，并通过两个分类模拟多个分类的结果。

(4)计算SVC分类器的准确性

printclf.score(x_train,y_train)#精度
y_hat=clf.predict(x_train)
show_accuracy(y_hat,y_train,'训练集')
printclf.score(x_test,y_test)
y_hat=clf.predict(x_test)
show_accuracy(y_hat,y_test,'测试集')

结果为：

如果要查看决策函数，可以通过decision_function()实现

print'decision_function:\n',clf.decision_function(x_train)
print'\npredict:\n',clf.predict(x_train)

结果为：

decision_function中每列值代表各类距离的距离。

(5)绘制图像

1.确定坐标轴的范围，x，y轴分别表示两个特征

x1_min,x1_max=x[:,0].min(),x[:,0].max()#第0列范围
x2_min,x2_max=x[:,1].min(),x[:,1].max()#第一列范围
x1,x2=np.mgrid[x1_min:x1_max:200j,x2_min:x2_max:生成网格采样点
grid_test=np.stack((x1.flat,x2.flat),axis=1)#测试点
#print'grid_test=\n',
grid_testgrid_hat=clf.predict(grid_test)#预测分类值
grid_hat=grid_hat.reshape(x1.shape)#使其与输入形状相同

这里使用mgrid()函数，这里简单介绍一下这个函数的作用:

假设目标函数F（x，y）=x+y。x轴范围13，y轴范围46，绘制图像时主要分为四个步骤：

【step1：x扩展】(朝右扩展)：

[111]
[222]
[333]

【step2：y扩展】(向下扩展)：

[456]
[456]
[456]

【step3：定位（xi，yi）】：

(1，4)(1，5)(1，6)
(2，4)(2，5)(2，6)
(3,4)(3,5)(3,6)

【step4：将（xi，yi）代入F(x,y)=x+y】

所以这里x1， x2 = np.mgrid[x1_min:x1_max:200j, x2_min:x2_max:200j后的结果如下：

通过stack()函数，axis=1.生成测试点

2.指定默认字体

mpl.rcParams['font.sans-serif']=[u'SimHei']
mpl.rcParams['axes.unicode_minus']=False

3.绘制

cm_light=mpl.colors.ListedColormap(['#A0FA0','#FFA0A0','#A0A0FF'])
cm_dark=mpl.colors.ListedColormap(['g','r','b'])
plt.pcolormesh(x1,x2,grid_hat,cmap=cm_light)
plt.scatter(x[:,0],x[:,1],c=y,edgecolors='k',s=50,cmap=cm_dark)#样本
plt.scatter(x_test[:,0],x_test[:,1],s=120,facecolors='none',zorder=10)#圈内测试样本
plt.xlabel(u'花萼长度',fontsize=13)
plt.ylabel(u'花萼宽度',fontsize=13)
plt.xlim(x1_min,x1_max)
plt.ylim(x2_min,x2_max)
plt.title(u'鸢尾SVM二特征分类#39;,fontsize=15)
#plt.grid()
plt.show()

pcolormesh(x,y,z,cmap)这里的参数代入x1、x2，grid_hat，cmap=cm_light绘制背景。

edgecolors在scatter中指的是描述点的边缘颜色，s指的是描述点的大小，cmap指的颜色。

xlim指图的边界。

最终结果如下：

python学习网，大量免费python视频教程，欢迎在线学习！

本文转自：https://www.jianshu.com/p/7367245ea990