位置: IT常识 - 正文

【数据挖掘】-支持向量机(SVM)+代码实现(数据挖掘论文选题)

编辑:rootadmin
【数据挖掘】-支持向量机(SVM)+代码实现

目录

从例子出发

算法原理

超平面

支持向量

如何处理不清晰的边界

​非线性可分的情况

常见的核函数​

算法的优点

代码的实现

总结


从例子出发

推荐整理分享【数据挖掘】-支持向量机(SVM)+代码实现(数据挖掘论文选题),希望有所帮助,仅作参考,欢迎阅读内容。

文章相关热门搜索词:数据挖掘需要学哪些,数据挖掘需要学哪些,数据挖掘工程师,数据挖掘工具,数据挖掘的基本流程,数据挖掘工具,数据挖掘工具,数据挖掘需要学哪些,内容如对您有帮助,希望把文章链接给更多的朋友!

 算法原理

支持向量机(SVM)是一类按监督学习方式对数据进行二元分类的广义线性分类器,其决策边界是对学习样本求解的最大边距超平面,可以将问题化为一个求解凸二次规划的问题。与逻辑回归和神经网络相比,支持向量机,在学习复杂的非线性方程时提供了一种更为清晰,更加强大的方式。

具体来说就是在线性可分时,在原空间寻找两类样本的最优分类超平面。在线性不可分时,加入松弛变量并通过使用非线性映射将低维度输入空间的样本映射到高维度空间使其变为线性可分,这样就可以在该特征空间中寻找最优分类超平面。

 超平面

支持向量【数据挖掘】-支持向量机(SVM)+代码实现(数据挖掘论文选题)

假设找到一条线可以分割红豆和绿豆 红豆和绿豆中距离这条线最近的几个样本点被称为支持向量(Support Vector) 这些点到这条线的距离称为间隔 在决定最佳超平面时只有支持向量起作用,而其他数据点并不起作用

如何处理不清晰的边界

非线性可分的情况

SVM中采取的办法是: 把不可划分的样本映射到高维空间中

在SVM中借助“核函数”,来实现映射到高维的操作

 常见的核函数

算法的优点

 支持向量机算法可以解决小样本情况下的机器学习问题,简化了通常的分类和回归等问题。 由于采用核函数方法克服了维数灾难和非线性可分的问题,所以向高维空间映射时没有增加计算的复杂性。换句话说,由于支持向量计算法的最终决策函数只由少数的支持向量所确定,所以计算的复杂性取决于支持向量的数目,而不是样本空间的维数。 支持向量机算法利用松弛变量可以允许一些点到分类平面的距离不满足原先要求,从而避免这些点对模型学习的影响。

 算法的缺点 

支持向量机算法对大规模训练样本难以实施。这是因为支持向量机算法借助二次规划求解支持向量,这其中会涉及m阶矩阵的计算,所以矩阵阶数很大时将耗费大量的机器内存和运算时间。 经典的支持向量机算法只给出了二分类的算法,而在数据挖掘的实际应用中,一般要解决多分类问题,但支持向量机对于多分类问题解决效果并不理想。 SVM算法效果与核函数的选择关系很大,往往需要尝试多种核函数,即使选择了效果比较好的高斯核函数,也要调参选择恰当的参数。另一方面就是现在常用的SVM理论都是使用固定惩罚系数C,但正负样本的两种错误造成的损失是不一样的。

 代码的实现from sklearn import datasetsfrom sklearn import svm#引入svm包import numpy as npnp.random.seed(0)iris=datasets.load_iris()iris_x=iris.datairis_y=iris.targetindices= np.random.permutation(len(iris_x))iris_x_train = iris_x[indices[:-10]]iris_y_train= iris_y[indices[:-10]]iris_x_test = iris_x[indices[-10:]]iris_y_test = iris_y[indices[-10:]]#使用线性核SVC是分类支持向量机的意思,另外还有SVR是回归支持向量机clf = svm.SVC(kernel = 'linear')clf.fit(iris_x_train,iris_y_train)#拟合#调用该对象的测试方法,主要接收一个参数:测试数据集

iris_x__test = iris_x[indices[-10:]]iris_y_test = iris_y[indices[-10:]]#使用线性核SVC是分类支持向量机的意思,另外还有SVR是回归支持向量机clf = svm.SVC(kernel= 'linear')clf.fit(iris_x_train,iris_y_train) #拟合#调用该对象的测试方法,主要接收一个参数:测试数据集iris_y_predict= clf.predict(iris_x_test)#调用该对象的打分方法,计算出准确率score=clf.score(iris_x_test,iris_y_test,sample_weight=None)print('iris_y_predict=')print(iris_y_predict)print('iris_y_test= ')print(iris_y_test)print('Accuracy:"',score)

 

总结

支持向量机算法分类和回归方法的中都支持线性性和非线性类型的数据类型。非线性类型通常是二维平面不可分,为了使数据可分,需要通过一个函数将原始数据映射到高维空间,从而使得数据在高维空间很容易可分,需要通过一个函数将原始数据映射到高维空间,从而使得数据在高维空间很容易区分,这样就达到数据分类或回归的目的,而实现这一目标的函数称为核函数。

工作原理:当低维空间内线性不可分时,可以通过高位空间实现线性可分。但如果在高维空间内直接进行分类或回归时,则存在确定非线性映射函数的形式和参数问题,而最大的障碍就是高维空间的运算困难且结果不理想。通过核函数的方法,可以将高维空间内的点积运算,巧妙转化为低维输入空间内核函数的运算,从而有效解决这一问题。

本文链接地址:https://www.jiuchutong.com/zhishi/300749.html 转载请保留说明!

上一篇:Vue.js介绍(vue.js简介)

下一篇:Vue.js 状态管理:Pinia 与 Vuex(vuex状态机)

  • 加工企业税收优惠政策
  • 差额征税的会计处理方法
  • 税务uk开票人显示是管理员怎么改
  • 政府转让土地使用权
  • 借转股意思
  • 企业银行流水可以同步到T+软件中,自动生成凭证了
  • 个税代扣代缴手续费返还 申请
  • 未收回的货款是企业资产吗
  • 跨月能更正个税吗
  • 季度利息分录
  • 蔬菜开税票纳税吗
  • 施工单位的产值报告模板
  • 清算报告与清算方案区别
  • 特定业务预缴所得税不能填写
  • 应纳税所得额就是企业所得税吗
  • 季度流动比率怎么算
  • 应付借款利息分录
  • 非居民企业所得税
  • 现金日记账的登记依据有
  • 冲暂估成本的会计分录
  • 跨省非独立核算分公司如何报税
  • 金税盘用户管理是灰色不能点击
  • 以货抵债会计处理
  • 股东与公司之间是什么关系
  • 保险代理公司做什么
  • 租车费增值税专用发票
  • 应征增值税不含税销售额和免税销售额
  • 实物捐赠的企业有哪些
  • 企业向个人借款是否交印花税
  • 1697510614
  • 装载u盘
  • 如何编辑受保护的word文档
  • 增值税进项税已勾选没确认能自动生成吗
  • 中秋佳节发放职工福利的话语
  • tracert命令的作用及用法
  • mac如何关闭开机启动
  • 增值税发票选择确认平台注意事项
  • 收入汇缴账户可以冻结吗
  • 国产设备投资抵免企业所得税
  • 城镇土地使用税纳税义务发生时间
  • 国家规定免税饲料具体哪些产品
  • 罚款属于应付账款吗
  • 挖机出租给公司
  • vue点击按钮显示对应的内容
  • php 文件目录
  • 固定资产清理如何申报增值税
  • 修改Dede默认投票代码 防止Request Error错误
  • rust 前端开发
  • 已经认证抵扣的发票怎么红冲
  • 公司优秀党员奖章
  • 2013年11号公告企业政策性搬迁
  • 房屋预售收入
  • 土地承包费和土地租赁费收入记账
  • 企业所得税审计调整分录
  • 专项补助资金的账务处理
  • 出口货物索赔如何确认收入
  • 员工工资费用
  • 什么是固定资产?其特征有哪些
  • 个体工商户如何给员工交五险一金
  • sql server 2000安装好打开不显示名称和服务原因
  • sql批量修改数据语句
  • winpe如何使用
  • 怎么进入bios设置界面win10
  • 将windows的文件上传到ubuntu
  • win10如何恢复已删除的密钥
  • win8笔记本电脑投屏方法
  • windows8 应用商店
  • 四个版本的雪国开头翻译
  • 奇门遁甲实例详解
  • android源码分析实录
  • 安卓机虚拟键盘
  • css选择器教程
  • python截取数据
  • jquery遍历元素并赋值
  • 如何使用定向流量
  • javascript面向对象 第三方类库
  • javascript如何学
  • 没有税务备案,不用申报增值税
  • 中通快递深圳同城多少钱
  • 四川投诉电话查询
  • 免责声明:网站部分图片文字素材来源于网络,如有侵权,请及时告知,我们会第一时间删除,谢谢! 邮箱:opceo@qq.com

    鄂ICP备2023003026号

    网站地图: 企业信息 工商信息 财税知识 网络常识 编程技术

    友情链接: 武汉网站建设