(2) 조작적 조건형성
새로운 행동이 학습되는 또 다른 중요한 원리는 조작적 조건형성입니다. 조작적 조건형성의 효시는 1911년에 손다이크가 발표한 고양이 실험입니다. 그는 누름 판을 누르면 문일 열리는 장치가 되어 있는 실험 상자 안에 배고픈 고양이를 집어넣고 실험 상자 밖에 음식을 놓아두었습니다. 고양이는 이러한 문제상황에서 음식을 먹기 위해 상자 밖으로 나가려고 여러 가지 행동을 하다가 우연히 누름 판을 누르자 문이 열리고 음식을 먹을 수 있었습니다. 이 고양이를 다시 실험 상자 안에 집어넣자 곧 누름 판을 눌러 상사 밖으로 나와 음식을 먹었습니다. 고양이는 누름 판을 누르면 상자의 문이 열린다는 사실을 학습한 것입니다. 이러한 관찰에 근거하여, 손다이크는 보상이 주어지는 행동은 학습되고 처벌이 주어지는 행동은 회피된다는 효과의 법칙을 주장하였습니다. 그러나 그는 보상획득을 위해 문제해결을 하는 동물의 지적 능력이라는 관점에서 이러한 결과를 해석하였습니다.
손다이크의 발견을 더욱 발전시켜 조작적 조건형성의 원리를 체계화한 사람이 스키너입니다. 스키너는 지렛대를 누르면 고체 먹이가 한 조각씩 나오도록 만들어진 실험 상자 안에 배고픈 쥐를 집어넣고 쥐의 행동을 관찰하였습니다. 쥐는 상자 안을 배회하다가 우연히 지렛대를 누르자 먹이 한 조각이 나왔고 이를 먹었습니다. 그러나 여전히 배고픈 쥐는 또다시 한동안 배회하다가 지렛대를 누르게 되었고 먹이를 먹을 수 있었습니다. 이런 일이 반복되면서 쥐는 지렛대를 누르면 먹이가 나온다는 것을 학습하게 되었고, 배가 고프면 지렛대를 누르는 행동을 나타냈습니다.
이처럼 행동은 그 결과에 따라 증가 또는 감소하는데, 보상이 뒤따르는 행동은 증가하고 처벌이 주어지는 행동은 감소한다는 것이 조작적 조건형성의 원리입니다. 어떤 행동을 습득하게 하고 그 빈도를 증가시키는 과정을 강화라고 하는데, 강화에는 정적 강화와 부적 강화가 있습니다. 정적 강화는 학습자가 좋아하는 보상을 제공하는 방법으로서 지렛대 누르는 행동의 결과로 쥐가 좋아하는 먹이를 주는 것이 이에 해당합니다. 이와 달리 부적 강화는 어떤 행동을 하면 고통을 회피할 수 있도록 강화해 주는 방식입니다. 예컨대, 시끄러운 소름이 들리는 상자 안의 쥐가 고통스러워하다가 우연히 지렛대를 누르자 소음이 멈추었습니다. 이런 장치가 되어 있는 상자에서 쥐는 소음이 들리면 지렛대를 누르는 행동을 학습하게 됩니다. 이 경우에 소음을 부적 강화물이라고 하는데, 이는 소음이 없어지는 것이 강화의 역할을 하기 때문입니다. 강화와는 반대로, 어떤 행동을 제거하거나 빈도를 감소시킬 경우에는 처벌이 사용됩니다. 특히 바람직하지 않은 행동을 하지 못하게 할 때는 벌이나 고통을 줌으로써 그러한 행동을 억제할 수 있습니다.
이 밖에도 스키너는 다양한 동물실험을 통해서 학습 과정에 관여되는 여러 가지 원리를 제시하였습니다. 예컨대, 지렛대를 눌러도 먹이가 나오지 않게 하면, 쥐가 처음에는 지렛대 누르는 행동을 반복하지만 곧 그러한 행동이 사라지게 되는데 이를 소거라고 합니다. 또 실험 상자 안의 전구에 빨간 불이 들어올 때만 먹이가 나오게 하면, 쥐는 불이 들어온 상태에서 지렛대 누르는 행동을 하고 불이 꺼지면 지렛대를 누르지 않았습니다. 즉, 쥐는 전구의 불빛이라는 변별 자극을 학습하여 지렛대 누르는 행동을 해야 할 때와 그렇지 않을 때를 구분하게 됩니다. 일련의 복잡한 행동을 학습시키기 위해, 목표 행동에 근접하는 행동을 보일 때마다 강화를 하여 점진적으로 목표 행동을 학습시키는 방법을 행동 조성법이라고 합니다. 동물조련사들이 동물에게 복잡한 묘기 행동을 학습시킬 때 이러한 행동 조성법이 사용됩니다. 인간이 나타내는 행동 중에는 이러한 조작적 조건형성을 통해서 학습된 것이 많습니다. 아동이 나타내는 많은 행동은 부모, 교사, 친구의 관심, 애정, 칭찬, 성적, 음식, 용돈 등이 강화물로 작용하여 학습된 것입니다. 또한 부모나 교사의 처벌을 통해 문제행동이 제거되기도 하고 이러한 처벌을 피하기 위해 새로운 행동을 나타내기도 합니다. 이처럼 이상행동도 조작적 조건형성에 의해서 생겨난 경우가 많습니다. 예컨대, 아동이 우연히 나타낸 공격적 행동에 대해서 친구들이 관심을 나타내고 더 이상 귀찮게 굴지 않으며 오히려 친구들로부터 인기를 얻게 되는 보상이 주어지면, 이러한 공격적 행동은 더욱 강화되어 폭력적인 문제행동으로 발전될 수 있습니다.
조작적 조건형성은 고전적 조건형성과 결합하여 특정한 행동의 유지 과정에 영향을 미치는 경우도 있습니다. 모러는 회피학습의 2요인 이론을 제안하면서, 공포반응의 형성은 고전적 조건형성에 의해서 일어나는 반면, 공포반응의 유지는 조작적 조건형성에 의한 것이라고 주장했습니다. 이러한 2요인 이론을 앞에서 소개한 앨버트 사례에 적용하여 설명하면, 앨버트는 고전적 조건형성에 의해 공포반응이 형성된 후에는 계속 하얀 쥐 인형을 무서워하며 피하게 됩니다. 이렇게 하얀 쥐 인형에 대한 공포반응이 지속되는 이유는 앨버트가 계속 쥐를 피함으로써 공포를 느끼지 않게 되는 것이 공포반응에 대한 부적 강화로 작용하기 때문입니다. 즉, 하얀 쥐 인형을 계속 회피함으로써 쥐가 더 이상 두려운 대상이 아니라는 사실을 학습할 기회를 갖지 못하기 때문입니다. 공포반응이 형성되는 과정은 고전적 조건형성에 의해 설명될 수 있는 반면, 공포반응이 소거되지 않고 지속되는 과정은 조작적 조건형성에 의해서 설명될 수 있습니다.
(3) 사회적 학습이론
인간이 새로운 행동을 습득하게 되는 세 번째 방법은 모방 및 관찰 학습입니다. 주로 동물실험을 통해 밝혀지게 된 고전적 조건형성과 조작적 조건형성은 인간의 행동을 설명하는 데에 많은 기여를 하였지만, 사회적 상황에서 나타나는 다양하고 복잡한 행동의 습득 과정을 설명하는 데에는 한계가 있습니다. 인간은 고전적 조건형성과 조작적 조건형성의 방법 외에도 다른 사람의 행동을 관찰하고 모방함으로써 새로운 행동을 학습하는 경우가 흔합니다. 다른 사람이 행동하는 것을 관찰하는 것이 이타행동, 공격행동, 공포반응과 같은 다양한 행동을 학습하게 할 수 있다는 것은 실험적으로 입증되었습니다. 이렇게 사회적 상황에서 다른 사람의 행동에 대한 관찰과 모방을 통해 새로운 행동을 학습하는 것을 사회적 학습이라고 합니다.
사회적 학습 과정을 이론적으로 체계화한 대표적인 학자는 밴두라입니다. 그에 따르면, 사회적 학습은 크게 세 가지 유형으로 나누어질 수 있습니다. 그 첫째는 다른 사람의 행동을 그대로 따라 하는 모방학습입니다. 흔히 아이들은 어른이 하는 행동을 흉내 내어 따라 함으로써 어른의 행동을 배우게 됩니다. 이러한 모방학습은 가장 단순한 형태의 사회적 학습으로서 인지적 요인의 개입 없이 자동으로 이루어지는 경향이 있습니다. 난폭한 말과 폭력적 행동을 하는 또래 친구를 모방하여 같은 행동을 하는 아동이나 수술을 앞두고 불안해하던 환자가 똑같은 수술을 태연하게 받는 다른 환자의 비디오 장면을 본 후 편안하게 수술을 받는 경우가 이에 해당합니다.
두 번째 유형은 대리학습으로서 다른 사람들이 새로운 행동을 시도할 때 어떤 결과가 나타나는지를 관찰함으로써 자신이 그러한 행동을 했을 경우에 초래될 결과를 예상하는 학습방법입니다. 어떤 행동이 보상적 결과를 초래하는 것을 보게 되면 그 행동의 빈도가 증가하는 반면, 처벌되는 것을 관찰하게 되면 행동의 빈도가 감소합니다. 이타적 행동을 한 또래 친구가 교사에게 칭찬받는 것을 보고 나서, 자신도 그와 같은 이타적 행동을 하는 아동의 경우가 이에 해당합니다.
마지막 유형은 관찰학습으로서 사회적 상황에서 다른 사람의 행동을 관찰해 두었다가 유사한 행동을 나타내는 학습 과정을 의미합니다. 밴두라는 이러한 관찰학습에는 네 가지 인지적 과정이 개입된다고 주장하고 있습니다. 즉, 관찰 대상인 모델의 행동에 관심을 갖고 주의를 기울이는 주의 과정, 모델이 하는 행동을 유심히 관찰하여 그 관찰 내용을 기억하는 저장 과정, 관찰한 행동을 동작으로 재생하는 운동 재생과정, 그리고 특정한 상황에서 행동하기로 결정하는 동기화 과정이 그것입니다. 범죄영화에서 주인공이 나타내는 행동을 유심히 관찰해 두었다가 증오하는 사람에게 유사한 방법으로 범죄행동을 저지르는 경우가 이에 해당할 수 있습니다.
이러한 세 가지 유형의 사회적 학습은 서로 밀접하게 관련되어 있습니다. 밴두라는 이러한 사회적 학습이 인간의 복잡한 행동을 설명하는 데에 더 적절한 방식이라고 주장합니다.