Factorial Anova, Two-Factor Analysis of Variance



1. Factorial Design

t-test와 ANOVA의 섹션까지 다룬것은 모두 하나의 독립변인(IndependentVariable)과 하나의 종속변인(DependentVariable) 간의 관계에 대한 규명을 하는 것이었다.

실제 연구를 하는 경우 이와 같이 하나씩의 독립변인과 종속변인으로 이루어진 검증을 하기보다는 여러가지 다른 원인을 종합적으로 살펴보는 때가 많다. 즉, 연구자는 실험참가자의 행동이나 반응으로 나타나는 종속변인의 원인을 하나의 독립변인이 아닌 여러가지 (대개는 2가지) 독립변인을 놓고 살펴본다는 것이다.

이와 같은 연구를 Factorial Design이라고 한다.

2개의 독립변인과 하나의 종속변인으로 이루어진 디자인이라면 Two-factor design이라고 부를 수 있다.

1.1. 예

여름에는 작업 능률이 떨어진다고 한다. 왜냐 하면, 덥기 때문이다. 그러나, 종종 사람들은 더운 것은 참을 수 있으나 습도가 높은 것은 참을 수 없다고 한다. 즉, 작업능률을 저하하는데 작용하는 (영향을 미치는) 요소로 2가지가 포함될 수 있다. 하나는 온도이고 하나는 습도이다. 아래 표는 이를 위한 실험에 대한 결과를 표로 요약한 것이다. 표가 의미하는 것은 이 연구가 6개의 특별한 상황 (2가지의 독립변인으로 인해서 일어나는)에 따른 작업능률의 (한가지의 종속변인) 변화에 대한 파악이다.
Factor B: Temperature
Factor A: Humidity 24 29 34
30% n=15
24도
30%		n=15
29도
30%		n=15
34도
30%
70% n=15
24도
70%		n=15
29도
70%		n=15
34도
70%

위의 상황에서 독립변인의 분석을 한다고 하면, 연구자가 관심을 갖고 살펴보게 되는 부분으로

1. 습도의 변화 (2가지, 30%와 70%)에 따른 차이
2. 온도의 변화 (3가지, 24, 29, 34도)에 따른 차이
3. 위의 두 가지 변화로 설명되지 않는다고 나타나는 차이 (만약에 존재한다면) = 즉, 두 가지 독립변인의 동시존재에 의해서만 나타나는 차이

를 보는 것이 된다. 따라서, 가설테스트의 입장에서 보면, 연구자는 한가지 문제에 대한 3가지 가설을 테스트하는 것이 된다. 이를 풀어서 이야기 하자면, 1) 습도의 영향력 2) 온도의 영향력 3) 두가지가 동시존재함으로써 나타나는 영향력 에 대한 테스트이다.

얼뜻 보면, 복잡한듯 하지만, 위의 테스트 또한 F-test (ANOVA)를 이용하여 해결할 수 있으며, 이는 아래와 같이 나타낼 수 있다.

$F = \frac{\text{variance (differences) between sample means}}{\text{variance (difference) expected by chance}} \cdots [1]$

위의 식 1이 F값이 크다는 것은 샘플 간의 차이가 랜덤하게 나타나는 차이에 비해 상대적으로 크다는 것을 의미한다. 이 차이가 통계학적으로 유의미한 정도로 크다고 판단하기 위해서는 ANOVA에서 본 것과 같이 F-ratio테이블을 이용하게 된다.

1.2. 주효과 (Main effects)


Factor B: Temperature
Factor A: Humidity 24 29 34
30% $ \overline{X}=85 $ $ \overline{X}=80 $ $ \overline{X}=75 $ $ \overline{X}=80 $
70% $ \overline{X}=75 $ $ \overline{X}=70 $ $ \overline{X}=65 $ $ \overline{X}=70 $
$ \overline{X}=80 $ $ \overline{X}=75 $ $ \overline{X}=70 $
Factor A: Humidity에 관한 가설은 아래와 같이 정리된다:
$\text{H1: } \mu_{A_1} \neq \mu_{A_2}$
이에 대한 영가설은:
$\text{H1: } \mu_{A_1} = \mu_{A_2}$
이에 대한 F-test는
$F = \frac{\text{variance (difference) between the means for the factor A}}{\text{variance (difference) expected by chance}}$
$F = \frac{\text{variance (difference) between row means}}{\text{variance (difference) expected by chance}}$
와 같이 정리할 수 있다.

반면에, Factor B: Temperature에 관한 가설은:
$\text{H1: } \mu_{B_1} \neq \mu_{B_2} $ 혹은
$\text{H1: } \mu_{B_2} \neq \mu_{B_3} $ 혹은
$\text{H1: } \mu_{B_1} \neq \mu_{B_3} $ 혹은
$\text{H1: } \mu_{B_1} \neq \mu_{B_2} \neq \mu_{B_3} $
와 같이 정리될 수 있는데, 한가지 현상에 대한 가설을 여러번에 나누어서 설명하는 것은 복잡하므로 아래와 같이 요약해 볼 수 있다.
H1: 적어도 한 평균값이 다른 평균값과 다를 것이다.
이에 대한 영가설은 비교적 쉽게 표현된다:
$\text{H1: } \mu_{B_1} = \mu_{B_2} = \mu_{B_3}$
다시, 이에 대한 F-test는
$F = \frac{\text{variance (difference) between the means for the factor B}}{\text{variance (difference) expected by chance}}$
$F = \frac{\text{variance (difference) between column means}}{\text{variance (difference) expected by chance}}$
와 같이 정리할 수 있다.

즉, 연구자는 각 독립변인의 특성에 대한 그룹의 분산 간 차이를 비교하여 봄으로써, 각각의 팩터(독립변인)의 효과를 살펴볼 수 있다. 이를 각각 Factor A에 대한 주효과 (Main effect)와 Factor B에 대한 주효과 (Main effect)라고 이야기 할 수 있다.

1.3. 상호효과 (Interaction effects)


아래의 테이블은 위의 실험결과를 약간 변형한 것인데, 각각의 독립변인 (팩터)에 대한 평균값은 이전의 테이블과 동일하다.

Factorial ANOVA
Factor B: Temperature
Factor A: Humidity 24 29 34
30% $ \overline{X}=80 $ $ \overline{X}=80 $ $ \overline{X}=80 $ $ \overline{X}=80 $
70% $ \overline{X}=80 $ $ \overline{X}=70 $ $ \overline{X}=60 $ $ \overline{X}=70 $
$ \overline{X}=80 $ $ \overline{X}=75 $ $ \overline{X}=70 $
여기서 주의해서 보아야 할 점은 첫번째 열에서의 평균인 80점은 각 셀의 점수인 80점의 평균으로 온도의 차이에 의한 영향력이 없다는 것을 의미한다. 그러나, 두번째 열을 채우는 셀의 값들은 10점씩의 차이를 보이고 있다. 이 차이가 온도에 의한 것이라고 이야기 하자면, 30%의 습도 상태에서는 이 차이가 보이질 않았다는 것이 문제가 된다. 다른 말로 표현하자면, 온도에 의한 차이를 보기 위해서는 습도가 관건이 된다는 것이다. 또 다르게 표현하자면, 온도에 의한 차이가 나타난 것은 습도의 상태와 서로 엮여서만 나타나는 것처럼 보이는 것이다. 이와 같이 차이에 대한 해석에 있어서 오직 한 상태(독립변인)의 영향력으로만 설명할 수 없는 상황을 해석할 때, 상호효과(interaction effect)가 있다고 이야기 한다. 이를 다시 이야기 하자면, B의 효과는 A와 상호의존적인 상태라고 할 수 있다.

이를 다시 F-test의 공식에 적용시켜서 정리해보면:
$F = \frac{\text{variance (mean difference) not explained by main effects}}{\text{variance (difference) expected by chance}}$
와 같다.

이를 가설로 정리를 해보자면

H1: A팩터와 B팩터 간의 상호작용이 존재한다. 즉, 각각의 상태에 따라서 나타나는 평균의 차이가 두 팩터가 갖는 주효과에 의해서만 설명되지 않고 부가적으로 더 있다.
H0: A팩터와 B팩터 간의 상호작용은 존재하지 않는다. 즉, 각각의 상태에 따라서 나타나는 평균의 차이는 두 팩터가 갖는 주효과에 의해서만 설명된다.

와 같이 정리할 수 있다.

그러나, 사실 위의 표의 해석이 그리 직관적이지는 않다. 상호의존적이라는 단어가 의미하는 것이 그리 직관적이지 않기 때문이다. 이럴 경우, 흔히 연구자는 위의 표를 아래와 같은 도표로 바꾸어 살펴보게 되는데, 이렇게 하는 이유는 상호효과(InteractionEffect)의 존재여부가 완연히 들어나기 때문이다.

Examining Interaction Effect
FactorialAnova1.jpg
Figure 1. Case 1 [JPG image (32.27 KB)]
FactorialAnova2.jpg
Figure 2. Case 2 [JPG image (29.96 KB)]

그림1과 2의 붉은색선과 푸른색선은 각각 습도의 차이(30%와 70%)를 나타내며 x축은 온도의 차이를 나타낸다. 1의 경우, 두 선은 서로 평행하여 겹치지 않는데 이것이 의미하는 것은 두 요인의 영향력이 서로 독립적으로 나타난다는 뜻이다. 반면에 오른쪽의 그림2는 두선이 평행하지 않는데, 이는 두 요인이 상호의존적으로 작용하기 때문이다. 이 경우에는 온도의 영향은 오직 습도가 높을때에만 나타난다.

1.4. e.g.,


Main effect for factor A but no main effect for factor B
B1 B2
A1 20 20 MA1 = 20 10-point difference
A2 10 10 MA2 = 10
MB1 = 15 MB2 = 15
No difference

Main effect for both factor A and factor B
B1 B2
A1 10 30 MA1 = 20 10-point difference
A2 20 40 MA2 = 30
MB1 = 15 MB2 = 35
20-point difference

No main effect for either factor A and factor B
B1 B2
A1 10 20 MA1 = 15 no difference
A2 20 10 MA2 = 15
MB1 = 15 MB2 = 15
- - - - no difference - - - -

1.5. 2 Factor ANOVA test

StructureOf2FactorAnova.jpg
Figure 1. Case 1 [JPG image (127.03 KB)]
Factorial ANOVA계산은 다음과 같이 쪼개어 볼 수 있다. 우선 첫 단계는 이전의 ANOVA와 같은 단계이다. 즉, Between-variability와 Within-variability를 구해서 그 비율을 보는 것을 말한다. 두번째 단계에서는 각각의 요인(factor)에 대한 variability의 정도와 상호효과(interaction)의 정도를 알아보는 단계이다. 이 단계에서 3가지의 F-비율(F-ratio)을 구한다. 각 요인의 분산정도(variability)를 알기 위해서는 각 요인의 between-treatment 분산정도를 알아야 하고, 또한 within-treatment의 분산정도를 알아야 한다. 언제나 그랬듯이 분산은 다음과 같이 구한다.

$\text{mean square} = \text{MS} = \frac{SS}{df}$

실제로 2 Factor F-ratio를 구하는 방법은 단일(single) Factor F-ratio를 구하는 것과 동일하다.

Factor B
Factor A $B_1$ $B_2$ $B_3$ $N=30$
$G=120$
$\Sigma{X^2}=840$
$A_1$ 3 2 9 $T_{A_1} = 90$
1 5 9
1 9 13
6 7 6
4 7 8
T=15 T=30 T=45
SS=18 SS=28 SS=26
$A_2$ 0 3 0 $T_{A_2} = 30$
2 8 0
0 3 0
0 3 5
3 3 0
T=5 T=20 T=5
SS=8 SS=20 SS=20
$T_{B_1}=20$ $T_{B_2}=50$ $T_{B_3}=50$

1.5.1. Stage 1


Total variability


$SS_{total}=\Sigma{X^2}-\frac{G^2}{N}$
\begin{eqnarray} SS_{total} & = & 840-\frac{120^2}{30} \nonumber \\ & = & 840-480 \nonumber \\ & = & 360 \nonumber \end{eqnarray}

$df_{total}= N - 1$
$df_{total}= 29$

Between variability

$SS_{\text{between}}=\Sigma{\frac{T^2}{n}}-\frac{G^2}{N}$
\begin{eqnarray} SS_{\text{between}} & = & { \frac{15^2}{5} + \frac{30^2}{5} + \frac{45^2}{5} + \frac{5^5}{5} + \frac{20^5}{5} + \frac{5^5}{5} - \frac{120^2}{30} } \nonumber \\ & = & 45 + 180 + 405 + 5 + 80 + 5 - 480 \nonumber \\ & = & 720 - 480 \nonumber \\ & = & 240 \nonumber \end{eqnarray}
\begin{eqnarray} df_{between} & = & k - 1 \nonumber \\ & = & \text{number of cells} - 1 \nonumber \\ & = & 5 \nonumber \end{eqnarray}
Within variability


\begin{eqnarray} SS_{within} & = & \Sigma{SS_{each \; treatment}} \nonumber \\ & = & 18 + 28 + 26 + 8 + 20 + 20 \nonumber \\ & = & 120 \nonumber \end{eqnarray}
\begin{eqnarray} df_{within} & = & \Sigma{df_{each \; treatment}} \nonumber \\ & = & 4 + 4 + 4 + 4 + 4 + 4 \nonumber \\ & = & 24 \nonumber \end{eqnarray}

Check

$SS_{total} = SS_{between} + SS_{within}$
$df_{total} = df_{between} + df_{within}$

1.5.2. Stage 2


  1. For factor A.

    $SS_{between \; As} = SS_A = \Sigma{\frac{{T_A}^2}{n_A}} - \frac{G^2}{N}$

    \begin{eqnarray} SS_{A} & = & \frac{90^2}{15} + \frac{30^2}{15} - \frac{120^2}{30} \nonumber \\ & = & 540 + 60 - 480 \nonumber \\ & = & 120 \nonumber \end{eqnarray}

    위의 표에서,

    $df=df_{A}=\text{number of levels of A} -1 $
    \begin{eqnarray} df_{\text{between As}} = df_A = \text{(number of levels of As)} - 1 = 1 \nonumber \end{eqnarray}


  2. For factor B.

    $SS_{between \; Bs} = SS_B = \Sigma{\frac{{T_B}^2}{n_B}} - \frac{G^2}{N}$

    \begin{eqnarray} SS_{B} & = & \frac{20^2}{10} + \frac{50^2}{10} + \frac{50^2}{10} - \frac{120^2}{30} \nonumber \\ & = & 40 + 250 + 250 - 480 \nonumber \\ & = & 60 \nonumber \end{eqnarray}

    $df=df_{B}=\text{number of levels of B} -1 $

    \begin{eqnarray} df_{\text{between Bs}} = df_B = \text{(number of levels of Bs)} - 1 = 2 \nonumber \end{eqnarray}


  3. For interaction (A X B).

    $SS_{A X B} = SS_{between} - SS_A - SS_B $

    \begin{eqnarray} SS_{A X B} & = & 240 - 120 - 60 \nonumber \\ & = & 60 \nonumber \end{eqnarray}

    $df_{A X B} = df_{between} - df_A - df_B $
    $df_{A X B} = 5 - 1 - 2 = 2 $

    And,

    $MS_{within} = \frac{SS_{within}}{df_{within}}$
    $MS_{within} = \frac{120}{24} = 5 $


    $MS_A = \frac{SS_A}{df_A} = \frac{120}{1} $
    $MS_B = \frac{SS_B}{df_B} = \frac{60}{2} $
    $MS_{AXB} = \frac{SS_{AXB}}{df_{AXB}} = \frac{60}{2} $

    Finally,

    $ F_A (1, 24) = \frac{MS_A}{MS_within} = \frac{120}{5} = 24 $
    $ F_B (2, 24) = \frac{MS_B}{MS_within} = \frac{30}{5} = 6 $
    $ F_{AXB} (2, 24) = \frac{MS_{AXB}}{MS_within} = \frac{30}{5} = 6 $

    Check [http]F distribution table(http://commres.net/wiki/_media/ftable.pdf)
    $ F_{crit} (1, 24) = 4.26 $
    $ F_{crit} (2, 24) = 3.40 $
    $ F_{crit} (2, 24) = 3.40 $

1.6. Check


Factor B: Temperature
Factor A B1 B2 B3
A1 n=10
T=0
SS=30 		n=10
T=10
SS=40 		n=10
T=20
SS=50
A2 n=10
T=40
SS=60 		n=10
T=30
SS=50 		n=10
T=20
SS=40

  1. Calculate the totals for each level of factor A, and compute SS for factor A.
  2. Calculate the totals for factor B, and compute SS for the factor
  3. Given that the between-treatments SS is equal to 100, what is the SS for the interaction?
  4. Calculate the within-treatments SS, df, and MS for these data.

1.7. e.g.,

Weight Fullness nCookies
1 1 15
1 1 17
1 1 32
1 1 12
1 1 34
1 1 27
1 1 13
1 1 24
1 1 41
1 1 20
1 1 23
1 1 25
1 1 9
1 1 21
1 1 22
1 1 26
1 1 26
1 1 28
1 1 22
1 1 3
1 2 22
1 2 7
1 2 15
1 2 6
1 2 8
1 2 18
1 2 24
1 2 19
1 2 11
1 2 9
1 2 24
1 2 19
1 2 9
1 2 19
1 2 29
1 2 9
1 2 18
1 2 17
1 2 3
1 2 14
2 1 7
2 1 19
2 1 8
2 1 23
2 1 6
2 1 11
2 1 18
2 1 23
2 1 22
2 1 16
2 1 28
2 1 19
2 1 2
2 1 27
2 1 20
2 1 25
2 1 23
2 1 10
2 1 19
2 1 14
2 2 14
2 2 21
2 2 16
2 2 14
2 2 17
2 2 20
2 2 20
2 2 21
2 2 32
2 2 26
2 2 9
2 2 14
2 2 16
2 2 15
2 2 6
2 2 5
2 2 12
2 2 23
2 2 27
2 2 32




Factor B: Fullness
Factor A:
Weight 		Empty Full
Normal n=20
$\overline{X}=22$
T=440
SS=1502 		n=20
$\overline{X}$ =15
T=300
SS=940 		$T_\text{obese}=740$
Obese n=20
$\overline{X}$ = 17
T=340
SS=1062 		n=20
$\overline{X}$ = 18
T=360
SS=1084 		$T_\text{normal} = 700$
$T_\text{empty} =780$ $T_\text{full} = 660$ G=1440
N=80
$\Sigma{X^2}=31028$

  1. step 1. Build hypotheses
  2. step 2. Locate the critical range for F-ratio. calculate the $dfs$
    1. $df_{total}$
    2. $df_{within}$
    3. $df_{between}$
    4. $df_A$
    5. $df_B$
    6. $df_{AxB}$
  3. Comput F-ratio
    SS
    1. $SS_{total}$
    2. $SS_{within}$
    3. $SS_{between}$
    4. $SS_A$
    5. $SS_B$
    6. $SS_{AxB}$
    4. MS
    1. $MS_{A}$
    2. $MS_{B}$
    3. $MS_{AxB}$
    4. $MS_{Within}$
    F-ratio
    1. $F_{A}$
    2. $F_{B}$
    3. $F_{AxB}$

  4. Make decision

Result
Source SS df MS F
Between treatment
Factor A (weight)
Factor B (fullness)
A x B interaction
Within treatment
Total
weigth x fullness factorial design

  1. In the literature (APA style)


The means and standard deviations are presented in Table 1. The two-factor analysis of variance showed no significant main effect for the weight factor, F(x,xx)=xxx, p>.05; and no significant main effect for the fullness factor, F(x,xx)=xxx, p>.05; but the interaction between weight and fullness was significant, F(x,xx)=xxx, p<.05.

Table 1
Mean number of crackers eaten in each treatment condition
Fullness
Weight Empty stomach Full stomach
Normal M=22
SD=9.00 		M=15
SD=8.18
Obese M=17
SD=8.34 		M=18
SD=8.16

1.8. Interpreting interaction


FactorialAnova3.jpg
Figure 3. A graph showing the interaction between the two factor [JPG image (32.07 KB)]



1.9. e.g.,


Influence of urine chemicals to other male & female rats
Factor B: Amount of chemical
Factor A: gender None Small Large
Male n=5
T=10
SS=15 		n=5
T=20
SS=19 		n=5
T=30
SS=31
Female n=5
T=10
SS=15 		n=5
T=20
SS=19 		n=5
T=30
SS=31
$\Sigma{X^2} = 460 $

Build hypotheses. Use ANOVA with critical level = .05 to test the researcher's hypotheses.

2. Materials and links

Retrieved from http://wiki.commres.org//FactorialAnova
last modified 2015-10-12 14:17:29