Pierre-Louis Gonzalez 1

1 MODELISATION DE DONN ES. QUALITATIVES. PREMI RE PARTIE. Pierre-Louis Gonzalez 1. I INTRODUCTION. 1 variable qualitative . Tri plat . Repr sentations graphiques . Mod lisation : loi binomiale loi multinomiale 2. 2 variables qualitatives . Tri crois .. Ind pendance ? . Khi-deux .. Description du tableau de contingence par analyse des correspondances simples. x x x x x x x x x x x x x x 3. Plus de deux variables qualitatives . Tris crois s pour tous les couples de variables (tableau de Burt).. Analyse des correspondances multiples But de l' tude ? . Mod lisation .. Expliquer une variable l'aide d'autres variables .. 4. Effets de structure Le recours l'utilisation de mod les ( lin aires, logistiques ). est n cessaire pour isoler les effets propres. S paration des effets Effet d'une variable toutes choses gales par ailleurs Effet d'une variable conditionnellement aux variables introduites dans le mod le 5.

2 Exemple Vocations sp cifiques de deux approches : description mod lisation Correspondances multiples Mod le log lin aire (EXPLORATION DE. (DESCRIPTION) L'UNIVERS DES MOD LES). Description des liaisons entre les Description des interactions entre variables prises deux deux sous plus de deux variables dans un forme essentiellement graphique. cadre inf rentiel. N'impose aucune hypoth se sur Des hypoth ses sur les liaisons les liaisons, mais impose une doivent tre formul es au certaine homog n it de pr alable. l'ensemble des variables actives. N'est pas limit e dans le nombre Est limit peu de variables (en de variables. pratique moins de 5). 6. Correspondances multiples Mod le log lin aire (EXPLORATION DE. (DESCRIPTION) L'UNIVERS DES MODELES). Met seulement en jeu les faces de Met en jeu toutes les cases d'un l'hypercube repr sent es par le hypercube de contingence. tableau de Burt.

3 I j l l i kij kil j kjl kil j kjl kijl i kij l Les individus peuvent jouer un r le central. L'analyse sert . Les individus n'apparaissent pas. produire des typologies d'individus. 7. II LES M THODES EXPLICATIVES. VARIABLE . EXPLIQUER. VARIABLES EXPLICATIVES X1, .. , XK. Y Num riques Nominales Mixte Num rique R gression Analyse de Analyse de multiple la variance la covariance REG GLM GLM. GLM ANOVA. Qualitative Analyse DISQUAL. discriminante Analyse CANDISC discriminante STEPDISC sur variables DISCRIM qualitatives 8. VARIABLE . EXPLIQUER. VARIABLES EXPLICATIVES X1, .. , XK. Y Num riques Nominales Mixte Nominale R GRESSION LOGISTIQUE. deux modalit s LOGISTIC GENMOD. MOD LE LIN AIRE G N RALIS . Nominale LOGISTIC CATMOD GENMOD. Ordinale R GRESSION LOGISTIQUE. ou MOD LE LIN AIRE G N RALIS . LOGISTIC. CATMOD. 9. III VARIABLE QUALITATIVE EXPLIQUER. 1 Variable dichotomique : Y {0,1}.

4 Exemple 1 Soit P la population des m nages : 1 si le m nage i P , poss de un bien durable Yi = . 0 sinon X i = ( AGE, CSP, SALAIRE, HABITAT, ..) r gresseurs 10. Exemple 2 Soit P la population des clients potentiels d'une banque : CREDIT SCORING . 1 si un cr dit est accord au client i Yi = . 0 sinon X i = ( AGE, REVENU, PRODUIT BANCAIRE, LIEU DE NAISSANCE, ..). 11. Exemple 3 Soit P la population des sujets test s une dose DOSAGE LEVEL . 1 si le sujet i P r agit au stimulus Yi = . 0 sinon X i = ( NIVEAU DE LA DOSE, POIDS, AGE, ..). La variable r ponse expliquer Y est une variable de Bernoulli de param tre pi. p i = Pr ( Yi = 1 X i ) = E( Yi X i ). Yi Xi B (1 , pi ). OBJECTIF. Exprimer pi en fonction de Xi 12. 2 Variable polytomique Polytomique ordonn e Exemple 1 Soit P la population d' tudiants : 1 si l' tudiant i P pratique du sport tous les jours . Yi = 2 si l' tudiant i P pratique du sport une ou plusieurs fois par semaine.

5 3 si l' tudiant i P pratique du sport plus rarement La variable r ponse Y : pratique du sport est cod e X i = ( AGE, SEXE, TYPE D' ETUDES, ..). 13. Exemple 2 Soit P la population de ch meurs la date t : 1 si l'individu i P est toujours au ch mage la date t + .. 2 si l'individu i P est en formation (stage). Yi = . 3 si l'individu i P a un contrat CDD. 4 si l'individu i P a un contrat CDI. X i = ( AGE, SEXE, DIPLOME, QUALIFICATION ..). 14. Polytomique non ordonn e Yi distraction du samedi soir . 1 = t l vision . 2 = th atre Yi = . 3 = cin ma 4 = visite amis X i = ( AGE, SEXE, CSP, HABITAT, ..). OBJECTIF. (. Exprimer p ij = P Yi = j X i ). en fonction de X i pour j = 1, 2, 3 .. 15. IV POURQUOI DES MOD LES PARTICULIERS ? 1 Cas de la r gression lin aire classique Yi = x i + i 1. variable pr dicteur variable al atoire lin aire al atoire quantitative ( l ment d termin ). 16. E( i X i = x i ) = 0.

6 Par la suite, on notera les esp rances sans conditionnement X i = x i ce qui revient consid rer Xi est non al atoire. On notera indiff remment Xi ou xi. V( i ) = 2. Si de plus i est suppos e gaussienne, l'estimateur des moindres carr s ordinaire : = ( X X) X y 1. est l'estimateur du maximum de vraisemblance. 17. 2 Cas de la r gression d'une variable dichotomique Si on mod lise par 1 , on obtient un r sidu qui est une discr te prenant deux valeurs : i = 1 x i avec la probalilit p i = P( Yi = 1). 1 . i = x i avec la probalilit 1 pi Si on mod lise par 1 l'estimateur n'est plus efficace. 1 E( Yi ) = x i .. p i = x i . Or Y i B(1,pi ) E( Yi ) = pi . une valeur qui n'est pas forc ment entre 0 et 1. Le mod le 1 est donc inappropri ! 18. V NIVEAU D'UTILIT , VARIABLE LATENTE. 1 Cas de variable latente Zi intensit du d sir de poss der le bien . pour le m nage i caract ris par xi Zi non observable Yi = 0 Z i < s ( seuil th rorique).

7 Yi = 1 Z i s c'est- -dire Yi = 1I ( Z i s). 19. 2 Fonction d'utilit . Soit u(1, x i ) le niveau d'utilit procur par la possession du bien u ( 0, x i ) le niveau d'utilit procur par la non possession du bien Yi = 0 u( 0, x i ) > u(1, x i ).. Yi = 1 u(1, x i ) u( 0, x i ). c'est- -dire : Z i = u(1, x i ) u( 0 , x i ). Yi = 1I( Z 0 ). i 20. Dans ces deux cas, on peut exprimer la probabilit . p i = P( Yi = 1 x i ) comme : p i = P ( Z i s). 21. VI MOD LE TH ORIQUE. 1 Donn es statistiques (Y , i x 1i , , x pi ) i=1 n variable taille de l' chantillon dichotomique p variables explicatives {0,1} quantitatives ou qualitatives Xi vecteur de Rp (On supposera ( x =1 i ). 1. i de fa on d finir un mod le avec constante). 22. En introduisant Z variable latente non observable telle que : Z i = X i + i . p i = P( Yi = 1) = P( i < X i ). Yi = 1I Z > 0 . i = F( X i ). fonction de r partition de i 23.

8 2 Mod le stochastique g n ral ( Yi , X i ) i = 1 n tel que : H1 : Yi | X i B(1, pi ). H 2 : p i = P( Yi = 1 X i ) = F( X i ). o F : R [ 0,1] fonction de r partition Le param tre , vecteur de Rp form des coefficients de r gression est inconnu. 24. 3 Mod les PROBIT, LOGIT, .. L'hypoth se H2 d pend du choix de la fonction F. Les mod les param triques usuels sont : Le mod le probit 1 t2 . F ( ) = ( ) = exp dt R. 2 2 . Fonction de r partition de la loi normale centr e r duite N(0;1). F 1 = 1 probit 25. Le mod le logit e 1. F ( ) = . = . 1+ e 1 + e . Fonction de r partition de la loi logistique 2. de moyenne 0 et de variance 3. t F ( t ) = ln 1. logit 1 t 26. Le mod le compl mentaire log-log (ou mod le Gompit). F ( ) = 1 exp ( e ) . Fonction de r partition de la loi de Gompertz de moyenne 0,577 (constante d'Euler) et de variance 2. 6. F 1 ( t ) = ln ( l n (1 t )). Remarque Cette loi est dissym trique.

9 27. 4 Comparaison des mod les LOGIT et PROBIT. 1. DENSIT S f = F -------- 0,4. 2 . 0,3 f0 ( ). 0,2 f ( ). 0,1. f1 ( ). -3 -2 -1 0 1 2 3 . 1. Mod le PROBIT ( ) =. 1. e t dt f 0 ( ) = e . 2 2. /2 /2. 2 2 . 1 e . Mod le LOGIT F( ) = f ( ) =. ( ).. 1+ e 1 + e . 2. 1 e / 3. Mod le LOGIT r duit F1 = ( ) f 1 ( ) =. 1 + e / (1 + e ). 3 2. 3 / 3. 28. Sur les extr mes la loi logistique s'approche un peu plus lentement de 0 ou de 1. 29. Comparaison des fonctions de r partition 30. DIFF RENCE. (F1 ) ( ). 0 1. 1,8. 2 . CONCLUSION.. Les lois F1 et sont proches mod les quivalents.. La pr c dure de SAS, LOGISTIC utilise F ou . Les estimateurs obtenus avec F (logit) seront / 3 fois plus grands qu'avec (probit).. Le mod le LOGIT est pr f rable car les calculs sont plus simples. 31. Dans la plupart des cas pratiques, on peut donc choisir indiff remment l'un ou l'autre mod le. Le mod le LOGIT a l'avantage d'une plus grande simplicit num rique.

10 Le mod le PROBIT est en revanche plus proche du mod le habituel de r gression par les moindres carr s. Avantages du mod le LOGIT. Les coefficients du mod le LOGIT sont interpr tables en termes d'odds-ratio. Un chantillonnage ne respectant pas les proportions r elles dans la population des deux modalit s de la variable expliquer Y ne change que la constante dans le mod le. 32. VII PRINCIPES G N RAUX : ESTIMATION DU VECTEUR . 1 La m thode du maximum de vraisemblance chantillon x1 .. xn Loi de probabilit de xi f ( x i , ) o = ( 1 , , k ) . Vraisemblance n L( ) = f ( x i , ) d pend des x i et des . i=1. Estimation du maximum de vraisemblance (). L = MAX L ( ).. On obtient en g n ral en annulant les d riv es premi res Log L ( ). i 33. Scores Log L ( ). u i ( ) =. i u ( ) = ( u 1 ( ), , u k ( )) = vecteur score On a : (). u =0. Matrice d'information de Fisher 2 Log L ( ) . I ( ) = E.