딥러닝의 시작
딥러닝의 시작은 우리의 뇌를 연구함으로써 시작되었는데, 이 뉴런이란 것이 어떻게 동작이 되는지를 생각해보았다고 한다. (모두의 딥러닝 김성훈 교수님 강의를 참조하였습니다.)
이렇게 복잡하게 생긴 뇌이지만 동작방식은 매우 간단하다. 당시 연구자들이 너무 간단해서 고민에 빠질정도였으니 우리도 쉽게 공부할 수 있을 것이다.
어떠한 인풋이 존재하고 그 길이에 따라서 신호가 전달되는 정도가 각각 다르기 때문에 x*W(가중치) 로 표현될 수 있다.
그 후에 최종적으로 다 합쳐지고 어떠한 bias값이 더해져 어떠한 값 이상이되면 활성화가되고, 이하가 되면 활성화가 되지 않는다고 한다.
조금 더 살펴보면 어떠한 신호가 들어오고 (x) 이것이 W(가중치)와 곱해지고 bias를 더해주고 어떠한 값을 넘어서면 값을 배출하고 그렇지 않으면 배출하지 않는 것이다.
XOR 문제
그렇게 발전되면서 기존에는 AND/OR 라는 Losic을 풀어낸다면 실생활에 적용할 수 있을 것이라 연구자들은 생각했다고 한다. 따라서 다음과 같은 방식으로 기계를 학습시킬 수 있었다. 하지만 XOR은 우리가 Linear한 선을 아무리 그어봐도 정확하게 분류할 수 없다는 문제를 겪었다.
XOR라고 하면 두 값이 같으면 0을, 다르면 1을 배출하는 것이다. 따라서 이러한 문제를 풀기위해 MLP라는 개념이 나왔고 다음시간에 다룰 예정이다.
댓글