zoukankan      html  css  js  c++  java
  • R语言方差分析(ANOVA)学生参加辅导课考试成绩差异

    原文链接:http://tecdat.cn/?p=18087

    方差分析是一种常见的统计模型,顾名思义,方差分析的目的是比较平均值。

    为了说明该方法,让我们考虑以下样例,该样例为学生在硕士学位课程中的最终统计考试成绩(分数介于0到20之间)。这是我们的因变量 https://latex.codecogs.com/gif.latex?X。“分组”变量将是学生参加辅导课的方式,采用“自愿参与”,“非自愿参与”的方式。最后是“不参与”(不参加或拒绝参加的学生)。为了形成组,我们有两个变量。第一个是学生的性别(“ F”和“ M”),第二个是学生的身份(取决于他们是否获得许可)。

    1.  
       
    2.  
      > tail(base)
    3.  
      PART GEN ORIG  NOTE
    4.  
      112 vol     F      R1 16.50
    5.  
      113   non_vol.     M      R1 11.50
    6.  
      114   non_vol.     F      R1 10.25
    7.  
      115   non_vol.     F      R1 10.75
    8.  
      116   non_vol.     F   a 10.50
    9.  
      117 vol M      R1 15.75

    在开始多因素分析之前,让我们从单因素分析开始。我们可以查看分数的变化,具体取决于分组变量 

    1.  
      > boxplot(base$NOTE~base$PAR
    2.  
      > abline(h=mean(base$NOTE),lty=2,col="re

    我们还可以根据性别来查看 

    > boxplot(NOTE~GEN,ylim=c(6,20))
    

    在方差分析中,假设 https://latex.codecogs.com/gif.latex?X_{i,j}=mu_j+varepsilon_{i,j}

    https://latex.codecogs.com/gif.latex?X_{i,j}=mu+alpha_j+varepsilon_{i,j}

     https://latex.codecogs.com/gif.latex?j 指定可能的处理方式(这里有3种)。

    我们将考虑对 https://latex.codecogs.com/gif.latex?H_0:forall%20j,alpha_j=0作为补充假设 https://latex.codecogs.com/gif.latex?H_1:exists%20j,alpha_j
eq0。然后,我们将估计两个模型。

    第一个是约束模型。

    1.  
      > sum(residuals(lm(NOTE~1,data=base))^2)
    2.  
      [1] 947.4979

    对应于

    1.  
      > (SCR0=sum((base$NOTE-mean(base$NOTE))^2))
    2.  
      [1] 947.4979

    第二,我们进行回归,

    1.  
      > sum(residuals(lm(NOTE~PART,data=base))^2)
    2.  
      [1] 112.5032

    当我们与子组的平均值进行比较时,就等于查看了误差,

    1.  
      >
    2.  
      > (SCR1=sum((base$NOTE-base$moyNOTE)^2))
    3.  
      [1] 112.5032

    费舍尔的统计数据

    1.  
      > (F=(SCR0-SCR1)*(nrow(base)-3)/SCR1/(3-1))
    2.  
      [1] 423.0518

    判断我们是否处于接受或拒绝假设的范围内 https://latex.codecogs.com/gif.latex?H_0,可以看一下临界值,它对应于费舍尔定律的95%分位数,

    1.  
      > qf(.95,3-1,nrow(base)-3)
    2.  
      [1] 3.075853

    由于远远超过了这个临界值,我们拒绝 https://latex.codecogs.com/gif.latex?H_0。我们还可以计算p值

    1.  
      > 1-pf(F,3-1,nrow(base)-3)
    2.  
      [1] 0

    在这里(通常)为零。它对应于我们通过函数得到的

    1.  
      Analysis of Variance Table
    2.  
       
    3.  
      Response: NOTE
    4.  
      Df Sum Sq Mean Sq F value    Pr(>F)
    5.  
      PART        2 834.99  417.50  423.05 < 2.2e-16 ***
    6.  
      Residuals 114 112.50    0.99
    7.  
      ---

    或者

    1.  
       
    2.  
       
    3.  
      Terms:
    4.  
      PART Residuals
    5.  
      Sum of Squares  834.9946  112.5032
    6.  
      Deg. of Freedom        2       114
    7.  
       
    8.  
      Residual standard error: 0.9934135
    9.  
      Estimated effects may be unbalanced

    可以总结为

    1.  
      Analysis of Variance Table
    2.  
       
    3.  
      Response: NOTE
    4.  
      Df    Sum Sq Mean Sq F value Pr(>F)
    5.  
      PART        2 834.99  417.50  423.05 < 2.2e-16 ***
    6.  
      Residuals 114 112.50    0.99
    7.  
      ---

    我们在这里可以看到分数并非独立于分组变量。

    我们可以进一步挖掘。Tukey检验提供“多重检验”,它将成对地查看均值的差异,

    1.  
       
    2.  
      Tukey multiple comparisons of means
    3.  
      95% family-wise confidence level
    4.  
       
    5.  
       
    6.  
      $PART
    7.  
      diff       lwr      upr    p adj
    8.  
      non_vol.-non_part.   0.60416 -0.04784 1.2561 0.07539
    9.  
      volontaire-non_part. 6.66379  5.92912 7.3984 0.00000
    10.  
      volontaire-non_vol.  6.05962  5.54078 6.5784 0.00000

    我们在这里看到,“非自愿”和“非参与”之间的差异不显着为非零。或更简单地说,假设我们将接受零为零的假设。另一方面,“自愿”参加的得分明显高于“非自愿”参加或不参加的得分。我们还可以成对查看学生的检验,

    1.  
       
    2.  
      Pairwise comparisons using t tests with pooled SD
    3.  
       
    4.  
      data:  NOTE and PART
    5.  
       
    6.  
      non_part. non_vol.
    7.  
      non_vol.   0.03      -
    8.  
      volontaire <2e-16    <2e-16

    如果我们将“非自愿”和“非参与”这两种方式结合起来,并将这种方式与“自愿”方式进行比较,我们最终将对平均值进行检验,

    1.  
       
    2.  
      Welch Two Sample t-test
    3.  
       
    4.  
      data:  NOTE[PART == "volontaire"] and NOTE[PART != "volontaire"]
    5.  
      t = 29.511, df = 50.73, p-value < 2.2e-16
    6.  
      alternative hypothesis: true difference in means is not equal to 0
    7.  
      95 percent confidence interval:
    8.  
      5.749719 6.589231
    9.  
      sample estimates:
    10.  
      mean of x mean of y
    11.  
      16.66379  10.49432

    我们看到,我们在这里接受了“志愿者”学生的成绩与其他学生不同的假设。

    在继续之前,请记住在模型中

    https://latex.codecogs.com/gif.latex?Y_i%20=%20mu+alpha_j+varepsilon_{i,j}在某种意义上说,与对应于同调模型 https://latex.codecogs.com/gif.latex?sigma^2 不依赖分组 https://latex.codecogs.com/gif.latex?j

    我们可以使用Bartlett检验(该检验将检验方差的同质性)来检验该假设,请记住,如果p值超过5%,则假设“方差齐整性”得到了验证

    1.  
       
    2.  
      Bartlett test of homogeneity of variances
    3.  
       
    4.  
      data:  base$NOTE and base$PART
    5.  
      Bartlett's K-squared = 0.5524, df = 2, p-value = 0.7587

    更进一步,我们可以尝试对性别进行方差分析的两因素分析,通常要根据我们的分组情况,也可以根据性别对变量进行分析。当均值的形式为零时,我们将讲一个没有相互作用的模型 https://latex.codecogs.com/gif.latex?A+B,我们可以包括我们考虑的交互

    总的来说,我们的模型

    其中,按实验处理方式表示与观察到的平均值平均值的偏差,而按组表示与所观察到的平均值平均值的偏差。这样可以通过添加一些约束来识别模型。最大似然估计:

    https://latex.codecogs.com/gif.latex?%20widehat{mu}=overline{x}

    对应于总体平均值

    https://latex.codecogs.com/gif.latex?%20widehat{alpha}_j=overline{x}_j-overline{x}

    对应于每次实验的平均值(或更确切地说,它与总体平均值的偏差),

    https://latex.codecogs.com/gif.latex?widehat{eta}_k=overline{x}_k-overline{x}

    最后

    https://latex.codecogs.com/gif.latex?widehat{gamma}_{j,k}=overline{x}_{j,k}-widehat{mu}-widehat{alpha}_j-widehat{eta}_k

    https://latex.codecogs.com/gif.latex?widehat{gamma}_{j,k}=overline{x}_{j,k}-overline{x}_j-overline{x}_k+overline{x}

    我们对一组进行方差分析

    https://latex.codecogs.com/gif.latex?SCR_0=sum_{i,j,k}[x_{i,j,k}-overline{x}]^2

    对于约束模型,

    https://latex.codecogs.com/gif.latex?SCR_{alpha}=[m%20J]sum_{j}[overline{x}_{j}-overline{x}]^2https://latex.codecogs.com/gif.latex?SCR_{eta}=[m%20K]sum_{k}[overline{x}_{k}-overline{x}]^2https://latex.codecogs.com/gif.latex?SCR_{gamma}=msum_{j,k}[overline{x}_{j,k}-overline{x}_j-overline{x}_k+overline{x}]^2

     https://latex.codecogs.com/gif.latex?J 和 https://latex.codecogs.com/gif.latex?K 表示实验次数和组数

    https://latex.codecogs.com/gif.latex?SCR_{varepsilon}=sum_{i,j,k}widehat{varepsilon}_{i,j,k}^2

    方差分解公式在这里给出

    https://latex.codecogs.com/gif.latex?SCR_0=SCR_{alpha}+SCR_{eta}+SCR_{gamma}+SCR_{varepsilon}

    我们将进行手动计算,

    1.  
       
    2.  
      Terms:
    3.  
      PART    GENRE PART:GENRE Residuals
    4.  
      Sum of Squares  834.9946  20.9618     3.4398   88.1017
    5.  
      Deg. of Freedom        2        1          2       111
    6.  
       
    7.  
      Residual standard error: 0.8909034
    8.  
      Estimated effects may be unbalanced

    总结结果

    1.  
      Analysis of Variance Table
    2.  
       
    3.  
      Response: NOTE
    4.  
      Df Sum Sq Mean Sq  F value    Pr(>F)
    5.  
      PART         2 834.99  417.50 526.0081 < 2.2e-16 ***
    6.  
      GENRE        1  20.96   20.96  26.4099 1.194e-06 ***
    7.  
      PART:GENRE   2   3.44    1.72   2.1669    0.1194
    8.  
      Residuals  111  88.10    0.79
    9.  
      ---

    由于实验组与对照组之间似乎没有任何交互作用,因此可以将其从方差分析中删除。

    1.  
      Analysis of Variance Table
    2.  
       
    3.  
      Response: NOTE
    4.  
      Df Sum Sq Mean Sq F value    Pr(>F)
    5.  
      PART        2 834.99  417.50 515.364 < 2.2e-16 ***
    6.  
      GENRE       1  20.96   20.96  25.875 1.461e-06 ***
    7.  
      Residuals 113  91.54    0.81
    8.  
      ---

    从结果可以看到(自愿)参加课程会有所帮助。


    最受欢迎的见解

    1.R语言多元Logistic逻辑回归 应用案例

    2.面板平滑转移回归(PSTR)分析案例实现

    3.matlab中的偏最小二乘回归(PLSR)和主成分回归(PCR)

    4.R语言泊松Poisson回归模型分析案例

    5.R语言回归中的Hosmer-Lemeshow拟合优度检验

    6.r语言中对LASSO回归,Ridge岭回归和Elastic Net模型实现

    7.在R语言中实现Logistic逻辑回归

    8.python用线性回归预测股票价格

    9.R语言如何在生存分析与Cox回归中计算IDI,NRI指标

  • 相关阅读:
    程序员装逼指南(网上看到的,笑喷了……)
    【转】Flex4 中skinclass使用Path绘制多边形
    批处理根据星期自动备份到服务器的相应文件夹
    精妙Sql语句备忘
    The project file ' ' has been renamed or is no longer in the solution. 解决方案
    HttpPostedFileBase always null when upload file by asp.net mvc4 mobile
    解决.net绘制的 WinForm 在 windows7下变形的方法
    select语句中,直接为选出的数据添加uniqueidentifier字段
    向各位请教一个关于Decorator模式的问题
    子查询基础知识
  • 原文地址:https://www.cnblogs.com/tecdat/p/14078212.html
Copyright © 2011-2022 走看看