[인공 신경망]이야기로 쉽게 풀어 쓴 뉴런, 퍼셉트론 그리고 활성화 함수 01, 딥러닝(DeepLearning)

인공신경망을 공부하면 초반에 만나는 어려운 용어들이 많다.

뉴런, 퍼셉트론, 활성화 함수, 계단 함수, 시그모이드 함수,  ReLU 함수, 소프트맥스 함수...

하나씩 쉽게 알아보자.

 

인공신경망

 

우리 몸의 신경세포 뉴런

뉴런은 신경세포다.

뉴런

우리 몸의 신경계를 구성하는 가장 기본적인 세포다.

이 세포가 어떤 일을 하는 걸까?

우리는 이미 중학교 2학년 때 뉴런의 기초를 배웠다.

바로 함수다.

 

함수

 

함수는 어떤 값을 입력받고 내부에서 정해진 연산을 한다.

그리고 그 결과를 내보낸다.

예를 들어 위 함수처럼 내부에 +3이 있다고 하자.

2를 입력값으로 넣으면 2+3이 되어 5가 된다.

뉴런도 함수와 기능이 같다.

입력값이 들어오면 가중치를 곱해서 결과를 내보낸다.

가끔 입력값과 가중치의 합이 기준치를 넘지 못하기도 한다.

그땐 0 또는 신호 없음을 출력하기도 한다.

 

인공신경망의 뉴런, 퍼셉트론

퍼셉트론이라는 용어를 처음 봤을 때 엄청 어려운 전문용어로 보였다.

하지만 그 의미를 이해하면 그냥 중2 때 배운 수학 시간의 함수와 같다는 것을 알게 된다.

 

퍼셉트론

우리 몸의 신경망의 가장 기본적은 세포는 뉴런,

인공신경망을 구성하는 가장 기본적인  세포 같은 단위는 퍼셉트론.

이렇게 이해하면 된다.

퍼셉트론이 신경망처럼 복잡하게 연결되어 결과를 만들어 낸다.

바로 딥러닝이다.

복잡하게 연결하는 이유는 결과의 정확도를 높이기 위해서다.

 

활성화 함수의 필요성

퍼셉트론은 입력값을 받아 연산 후 결괏값을 내보낸다고 했다.

사실 뉴런이나 퍼셉트론은 입력값의 확률을 내보낸다.

1차로 입력값을 받아서 가중치(w)를 곱하고 임계값(θ)을 더한다.

이건 또 뭔 소릴까?

도형을 보고 원, 삼각형, 사각형인지 구분하는 과정을 보자.

카메라로 이미지를 인식해서 기초 값을 정해야 한다.

픽셀값으로 선과 바탕을 구분한다.

꺾이는 부분(각도)과 면적 등을 프로그램을 통해 값을 추출한다.

당장 카메라를 작동하고 분석하는 프로그램이 없으니 가정해서 값을 정하자.

입력값은 총 3가지로 정하자.

삼각형, 사각형 등 각의 개소는 x1로 한다.

곡선에 대한 곡률은 x2로 정하자.

가로세로비는 x3으로 정하자.

이렇게 세 가지 입력값을 정했다.

도형별 가중치도 정하자.

 

가중치와 임계값

이 구조를 딥러닝 구조로 처리해 보겠다.

이 데이터들을 활용해서 원을 분별해 보자.

카메라에서 분석된 원 데이터를 정하자.

원은 둥글어서 각이 없다. x1 = 0.0

완벽하게 둥글어서 곡률 100이다. x2 = 1.0

동그라니깐 가로세로비는 같다. x3 = 1.0

이제 이 입력값을 히든층으로 보내서 가중치를 곱하고 편향을 더하자.

원뉴런: (x1 * w1) + (x2 * w2) + (x3 * w3) + θ

삼각형뉴런: (x1 * w1) + (x2 * w2) + (x3 * w3) + θ

사각형뉴런: (x1 * w1) + (x2 * w2) + (x3 * w3) + θ

 

실제 값을 넣고 계산하면 다음과 같다.

원뉴런 : 4.0, 삼각형뉴런 : -4.5, 사각형뉴런 : -9.5

원뉴런 값이 가장 크다.

그래서 도형은 원으로 판정한다.

하지만 값이 너무 자유분방하다.

정해진 틀 안에 값을 넣고 백분율로 판단하면 더 좋겠다.

우선 이런 경우 값의 범위를 0과 1 사이의 값으로 출력하는 함수가 필요하다.

바로 활성화 함수가 그 기능을 한다.

그중 시그모이드 함수를 사용해 본다면 다음과 같다.

원은 시그모이드(4.0)로 0.98201...이 나온다.

삼각형은 시그모이드(-4.5)로 0.01099...가 나온다.

사각형은 시그모이드(-9.5)로 0.00007...이 나온다.

이 값을 보면 원의 값이 1에 근접한다.

도형이 원임을 확인했다.

이번 포스팅은 입력값이 무엇인지 살펴봤다.

그리고 가중치로 해당 뉴런에서 분류가 가능하게 한다.

편향을 이용해 미세한 값 조정을 통해 분류의 정확도를 높인다.

실제 값으로 테스트해 봤다.

다음 포스팅은 활성화 함수를 더 꼼꼼히 살펴보겠다.

잘못된 내용이 있으면 댓글로 부탁.