SlideServe
Télécharger Obtenir Pro
Menu
Accueil Pro
Préférences
ApparenceLight Aide et commentaires
© SlideServe · v2026

CART: Classification and Regression Trees

burt avatar
burt
11 diapositives · 476 Views · Dec 14, 2012

CART: Classification and Regression Trees. By Alyssa Dalton. Outline. Purpose of CART Background Why use CART? Splitting Rules Developing a Classification or Regression Tree Missing values. Purpose of CART.

CART: Classification and Regression Trees - slide 1
01 / 11CART: Classification and Regression Trees
1 / 17

Télécharger la présentation

CART: Classification and Regression Trees
Une image / un lien ci-dessous est fourni (tel quel) pour télécharger la présentation

Politique de téléchargement : le contenu du site vous est fourni TEL QUEL pour votre information et votre usage personnel ; il ne peut être vendu, concédé sous licence ni partagé sur d’autres sites sans l’accord de son auteur.Le contenu vous est fourni TEL QUEL, pour votre information et votre usage personnel uniquement. Téléchargez la présentation en cliquant sur ce lien. Lors du téléchargement, si vous ne parvenez pas à télécharger une présentation, l’éditeur a peut-être supprimé le fichier de son serveur.Pendant le téléchargement, si vous ne parvenez pas à obtenir une présentation, le fichier a peut-être été supprimé par l’éditeur.

F I N

Plus de contenu associé

Transcription de la présentation

  1. CART:Classification and Regression Trees By Alyssa Dalton

  2. Outline • Purpose of CART • Background • Why use CART? • Splitting Rules • Developing a Classification or Regression Tree • Missing values

  3. Purpose of CART • “The CART decision tree is a binary recursive partitioning procedure capable of processing continuous [regression] and nominal [classification] attributes as targets and predictors.” (Top ten algorithms) • Recursive: using a rule or procedure that can be applied repeatedly

  4. Background • Classification and Regression Trees • Leo Breimen • Richard A. Olshen • Charles J. Stone • Jerome H. Friedman • UCSD Heart Disease Study

  5. F Not high risk G High risk

  6. Why use CART? • Originally designed to mimic thought process of a doctor when diagnosing a patient • Easy to create tree (software creates tree using given data) • Easy to understand result

  7. Splitting Rules • The Gini coefficient determines which variable to split node on. • G(t)= 1- p(t)2 – (1- p(t)) 2 • p(t) is the possibility of having 1 “class” in a node t. • The Gini coefficient ranges between 0 and 1. •  Reaches a value of zero when only one class is present at a node • An instance goes left if CONDITION, and goes right otherwise.

  8. Developing a Classification or Regression Tree • Divide data into test and training sets • Root Node • Binary split using Gini- value closest to zero. • Entropy is an alternative • Continue to split until no other data is available. • Gives maximal tree. • Prune- using cross validation (test data) • gets rid of nodes that do not contribute to lowering error • Avoids overfitting • Gives optimal tree

  9. Missing values • Surrogate split- if optimal splitting value is missing, the value with the “highest measure of predictive association” with the optimal value is used

  10. Re-cap • Purpose of CART • Background • Why use CART? • Splitting Rules • Developing a Classification or Regression Tree • Missing values

  11. sources • http://people.hofstra.edu/geotrans/eng/ch4en/meth4en/ch4m1en.html • http://www.statsoft.com/textbook/classification-and-regression-trees/#details • http://filipspagnoli.wordpress.com/2008/05/05/human-rights-facts-4/ • Dictionary.reference.com