机器学习算法中经常碰到非线性优化问题，如 Sparse Filtering 算法，其主要工作在于求解一个非线性极小化问题。在具体实现中，大多调用的是成熟的软件包做支撑，其中最常用的一个算法是 L-BFGS。为了解这个算法的数学机理，这几天做了一些调研，现把学习过程中理解的一些东西整理出来。






目录链接


(1) 牛顿法


(2) 拟牛顿条件


(3) DFP 算法


(4) BFGS 算法


(5) L-BFGS 算法











作者: peghoty


出处: http://blog.csdn.net/itplus/article/details/21897443


欢迎转载/分享, 但请务必声明文章出处.




												


																

最新文章
	

    
						
  1. CSS3与页面布局学习笔记（八）——浏览器兼容性问题与前端性能优化方案
		
    2. 
						
  2. input标签file的value属性IE兼容性问题
		
    3. 
						
  3. web.config连接字符串的一些总结
		
    4. 
						
  4. 【转】ETL数据增量抽取——通过触发器方式实现
		
    5. 
						
  5. SAP屠夫---折旧在13-16调整期间的烦恼(转)
		
    6. 
						
  6. 使用ArcGIS API for Silverlight + Visifire绘制地图统计图
		
    7. 
						
  7. jsp学习第一弹
		
    8. 
						
  8. 移动端手势双击（MouseDown也可以在移动端响应，但是帧率太低）
		
    9. 
						
  9. 协议系列之IP协议
		
    10. 
						
  10. vue开发中regeneratorRuntime is not defined
		
    11. 
						
  11. bitbucket迁移
		
    12. 
						
  12. win10 下安装 neo4j（转）
		
    13. 
						
  13. R语言开发环境搭建
		
    14. 
						
  14. RocketMQ 事务消息
		
    15. 
						
  15. struts系列：校验（二）自定义校验器
		
    16. 
						
  16. JVM  jstat 详解
		
    17. 
						
  17. MySQL5.7.10配置和使用
		
    18. 
						
  18. win上gulp配置
		
    19. 
						
  19. （转 ）C++  static、const和static const 以及它们的初始化
		
    20. 
						
  20. Python之如何删除pandas DataFrame的某一/几列
		
    21. 
		

	


热门文章
	

    
									
  1. android 编译代码注意事项
			
    2. 
						
  2. 微小企业中Sqlserver2000服务器的日常备份与恢复
			
    3. 
						
  3. phoenix 开发API系列（三）phoenix api 结合数据库
			
    4. 
						
  4. SQL Server 常用分页SQL
			
    5. 
						
  5. windows 配置 apache + php
			
    6. 
						
  6. Javascript事件模型系列（三）jQuery中的事件监听方式及异同点
			
    7. 
						
  7. zendframework 2 链接数据库
			
    8. 
						
  8. 测试博文中添加可执行JS代码
			
    9. 
						
  9. jmap
			
    10. 
						
  10. underscore源码阅读记录
			
    11.