ID3&C4.5的区别_id3和c4.5算法的区别

   (1)信息增益的计算依赖于特征数目较多的特征，而属性取值最多的属性并不一定最优。

   (2)ID3是非递增算法。

   (3)ID3是单变量决策树(在分枝节点上只考虑单个属性)，许多复杂概念的表达困难，属性相互关系强调不够，容易导致决策树中子树的重复或有些属性在决策树的某一路径上被检验多次。

   (4)抗噪性差，训练例子中正例和反例的比例较难控制。

   于是Quilan改进了ID3，提出了C4.5算法。C4.5算法现在已经成为最经典的决策树构造算法，排名数据挖掘十大经典算法之首，下一篇文章将重点讨论。

决策树的经典构造算法——C4.5（WEKA中称J48）

由于ID3算法在实际应用中存在一些问题，于是Quilan提出了C4.5算法，严格上说C4.5只能是ID3的一个改进算法。

   C4.5算法继承了ID3算法的优点，并在以下几方面对ID3算法进行了改进：

    1)用信息增益率来选择属性，克服了用信息增益选择属性时偏向选择取值多的属性的不足；

    2)在树构造过程中进行剪枝；

    3)能够完成对连续属性的离散化处理；

    4)能够对不完整数据进行处理。

   C4.5算法有如下优点：产生的分类规则易于理解，准确率较高。其缺点是：在构造树的过程中，需要对数据集进行多次的顺序扫描和排序，因而导致算法的低效。此外，C4.5只适合于能够驻留于内存的数据集，当训练集大得无法在内存容纳时程序无法运行。

另外，无论是ID3还是C4.5最好在小数据集上使用，决策树分类一般只试用于小数据。当属性取值很多时最好选择C4.5算法，ID3得出的效果会非常差。

from http://blog.sina.com.cn/s/blog_8f6ca7d101010agj.html