Steven Wang's Blog
C'est la vie
rss
email
twitter
新浪微博
  • Home
  • About
  • Google Profile
  • 新浪微博

利用LMS(最小均方误差)算法进行数字识别

0 Comments
Posted on 十一月 29 2009

两周前,我在“利用Autoassociative Memory(联想记忆)进行数字识别”这篇文章中介绍了一种用Hopfield网识别数字的算法,但该算法在识别10个数字时不稳定,其只适用于样本较少的识别过程。在本文中,将介绍使用LMS(Least mean square,最小均方误差)算法来识别点阵数字,其可以很好的满足识别10个数字的情况,并具备一定的抗噪声能力。

LMS算法是一种以期望输出和实际输出之间误差的均方值最小为准的,依据输入样本在迭代过程中估计梯度矢量,并更新权系数以达到最优的自适应迭代算法。LMS算法是一种梯度最速下降方法,显著特点是其简单性。LMS算法不需要进行相应的统计计算,也不需要进行矩阵的求逆运算。

关于LMS算法的具体原理以及推理证明过程,可以参考本文最后列出的两篇论文。

本文利用LMS算法在MFC中实现了对数字0到9的识别,程序运行结果如下图所示:(文章的末尾提供了源代码下载)

NumeralIdentification-程序运行结果

使用方法与文章“利用Autoassociative Memory(联想记忆)进行数字识别”中演示的过程相同。由于计算矩阵特征值的求解极为复杂,算法中对该值的求解是在matlab中完成的,然后作为变量输入到程序中。

采用LMS算法,可以精确的识别10个点阵数字,但是算法对噪声很敏感,如果输入的数字不完整,就有可能被识别成其他的数字。作者尝试了增加样本的采样点,减低样本的数量,提高样本的相异度等方法,都不能提高缺损数字的识别准确度,可能是LMS算法这种单层处理神经元造成的,看到有很多使用BP算法来识别数字的程序,因此作者关于数字识别的研究还不会停止。

Resources & Reference:
1、Adaline神经网络随机逼近LMS算法的仿真研究.pdf
2、基于LMS算法的自适应滤波器仿真实现.pdf
3、LMS算法进行数字识别MFC源代码

--End--
作者:Steven Wang | 可以转载, 转载时务必以超链接形式标明文章原始出处和作者信息及版权声明
网址:http://blog.stevenwang.name/LMS-NumberRecognize-19005.html

Relate Posts:

  • 最近项目的一点总结
  • 利用BP网络算法进行数字识别的困惑
  • 产生式规则识别动物在MFC中的实现
  • 利用Autoassociative Memory(联想记忆)进行数字识别
  • 简单的四连通种子填充法在MFC中的实现

Tags: LMS  最小均方误差  数字识别  MFC 
Categories: 人工神经网络 

Leave a Reply



About Me

    Steven Wang
    Student in Computer Software and Theory
    Life@Wuxi, Jiangsu
    Study@Jiangnan University
    more...

Feeds

  • Entries (RSS)
  • Comments (RSS)
  • 订阅到 Google Reader
  • 订阅到 抓虾
  • 订阅到 鲜果
  • 订阅到 QQ

Popular Posts

  • 围着脖子推GTalk机器人V1.0发布(27299)
  • 通过SSH + Chrome + Proxy Switchy!代理上网(19678)
  • 在GAE上部署Micolog博客系统(11307)
  • 围着脖子推V2.0 Beta1版发布 支持Twitter,新浪微博,人人网,嘀咕,做啥 同步更新(11060)
  • 围着脖子推GTalk机器人V1.0更新-增加接收Twitter更新等功能(10663)
  • 围着脖子推更新-增加同步更新网易微博、腾讯微博和搜狐微博(10483)
  • 在Matlab中实现Hough变换检测直线(8448)
  • Micolog主题(theme) —— translucence(7842)

Recent Posts

  • Steven Wang's 2011
  • 工作
  • T400升级Intel SSD
  • Java中的时区转换小结
  • 二值图像连通区标记之区域生长法
  • Steven Wang's 2010
  • 微博提醒应用上线
  • 双喜临门

Recent Comments

  • Queen:加油。...
  • Queen:hi,我来打个招呼,深圳的朋友。...
  • yu :@Steven Wang, p<...
  • ixwebhosting:文章总结的好潇洒,即将对末来学生生活说声...
  • john:希望新的一年更加美好...

Categories

  • Google App Engine(10)
  • 数字图像处理(11)
  • Micolog(7)
  • VPS(6)
  • 围着脖子推(15)
  • 人工神经网络(5)
  • 算法(11)
  • MyLife(16)
  • 媒体检索(4)
  • Others(8)
  • Python(2)

Archives

  • January 2012(1)
  • December 2011(2)
  • May 2011(1)
  • February 2011(1)
  • December 2010(3)
  • November 2010(1)
  • October 2010(1)
  • September 2010(4)
  • August 2010(2)
  • July 2010(5)
  • June 2010(4)
  • May 2010(7)

Blog roll

  • ~Issue
  • Fenng
  • 刘未鹏 | Mind Hacks
  • 林海听松
  • Yu Zheng
  • Johnny Han
  • 静静的安静
  • Dbger
  • land of promise
  • 星星
  • ISHENS|TECH
  • 天天软件园
  • leezhenchong's blog
  • 苏洋博客

  • Home
  • About
  • Google Profile
  • Twitter
  • 新浪微博
  • Login
Powered by Google App Engine  |   Designed by WebTreats  |   由 xuming 提供 Micolog程序