신기한 연구소

다차원 배열(행렬)은 딥러닝에서 신경망 구현시 필수로 알아야 하는 부분이다.

배열(Array)이나 행렬은 프로그래밍 언어나 수학을 배울 때 들어봤을 것이다.

딥러닝에서 신경망에도 다차원 배열이 꼭 필요하다고 한다.

어렵지 않으니 기본 개념부터 하나씩 같이 살펴보자.

다차원 배열과 행렬

C나 자바 같은 프로그래밍 공부를 했다면 배열(Array)을 배웠을 것이다.

파이썬 딥러닝은 넘파이(Numpy)에서 배열(Array)을 지원한다.

숫자 1부터 5까지 같은 데이터타입(숫자)을 만든다.

2차원 배열은 어떻게 만들까?

1차원 배열과 달리 2차원 배열은 [1,2,3]과 [4,5,6]을 []로 한 번 더 구분했다.

딥러닝 신경망을 구현하려면 배열로 된 행렬의 연산이 필요하다.

위 1차원 2차원 배열을 행렬로 표시하면 아래와 같다.

2차원 배열부터 다차원 배열(행렬)이라 한다.

행렬은 뭘까? 행과 열을 의미한다.

가로로 보는 행이 2줄이다. 1 2와 3 4.

세로도 열이 2줄이다. 1 3과 2 4.

가로는 행 세로는 열이라고 한다.

그래서 행렬이다.

위 행렬은 행이 2개 열이 2개라 2 × 2 행렬이라고 부른다.

행렬 곱셈 하는 방법

딥러닝 신경망에서 다차원 배열(행렬)이 필요하다.

그러기 위해서 행렬의 곱셈을 알아야 한다.

그 이유는 뒤에 나온다.

우선 학교 다닐 때 배운 행렬의 곱에 대해 살펴보자.

2 × 2 행렬 두 개를 곱하는 식이다.

곱하는 방법은 아래와 같다.

1. 첫 번째 행렬의 1행과 두 번째 행렬의 1열을 곱한다.

2. 1 × 5 + 2 × 7 = 19로 1행 1열의 값이 된다.

3. 첫 번째 행렬의 1행과 두 번째 행렬의 2열을 곱한다.

4. 1 × 6 + 2 × 8 = 22로 1행 2열의 값이 된다.

5. 첫 번째 행렬의 2행과 두 번째 행렬의 1열을 곱한다.

6. 3 × 5 + 4 × 7 = 43으로 2행 1열의 값이 된다.

7. 첫 번째 행렬의 2행과 두 번째 행렬의 2열을 곱한다.

8. 3 × 6 + 4 × 8 = 50으로 2행 2열의 값이 된다.

행렬의 곱은 새로운 행렬을 만든다.

직접 계산을 해보자.

눈으로만 보면 실수할 확률이 높다.

행렬의 곱셈, 파이썬 넘파이 (Python, Numpy) 

이제 직접 행렬 곱셈을 코딩해 보자.

numpy를 import 해서 array를 사용해야 된다.

6번 라인을 보면 numpy 함수 dot을 사용하고 있다. (np.dot())

행렬곱을 계산해 주는 기능은 dot 함수로 할 수 있다.

행렬곱을 할 경우 주의할 점이 있다.

모든 행렬을 곱할 수 없다. 조건이 있다.

첫 번째 행렬의 열과 두 번째 행렬의 행은 같은 숫자여야 한다.

2 × 2 행렬 곱하기 2 × 2 행렬인 경우 앞의 열 2와 뒤의 행 2가 같다.

만약 2 × 3 행렬 곱하기 3 × 4 행렬인 경우도 앞의 열 3과 뒤의 행 3이 같다.

2 × 2 행렬 곱하기 3 × 2 행렬인 경우 앞의 열 2와 뒤의 행 3이 다르다. 계산할 수 없다.

하나가 1차원 배열인 경우,

2 × 2 행렬 곱하기 2 배열은 첫 번째 2열과 두 번째 2가 같기에 가능하다.

2 배열 곱하기 3 × 2 행렬은 첫번째가 2이고 두 번째 행렬의 행은 3이라 다르다. 계산할 수 없다.

파이썬 코드로 확인해 보자.

결과는 다음과 같다.

6번 라인은 A1의 행렬로  (4, 3)

7번 라인은 A2의 행렬로 (3, 2)

A1의 열과 A2의 행이 3으로 같다. 그래서 오류 없이 결과가 나온다.

4번 라인을 보면 2 × 2 행렬이다.

6번과 7번 라인을 보면 (4, 3) (2, 2)가 되고 첫번째 열은 3 두 번째 행은 2 다르다.

위 코드를 실행하면 오류가 난다.

2 × 2 행렬 곱하기 2 배열도 코딩해 보자.

첫 번째 열 2와 두 번째 1차원 2 배열과 일치한다. 

잘 실행된다.

이 예제는 1차원 배열과 2차원 행렬의 곱이다. 

첫 번째 1차원 2와 두 번째 2차원 행인 2와 일치해서 잘 된다.

다차원 배열, 행렬과 신경망과의 관계

이전 포스팅에서 신경망의 구조와 퍼셉트론에 대해 알아봤다.

2025.03.21 - [인공지능(AI)/딥러닝(DeepLearning)] - [딥러닝]신경망과 활성화 함수(계단 함수, 시그모이드 함수, ReLU 함수) 계산 방법. 초보용 핵심 정리.

신경망은 입력층, 은닉층 그리고 출력층으로 구성되어 있다.

퍼셉트론을 보면 가중치(w)와 편향( 𝞱)을 활용해 계산 후 출력값을 만든다.

여기서, 다차원 배열(행렬)이 신경망에서 어떻게 활용되는지 궁금해진다.

먼저 신경망과 퍼셉트론의 예를 보자.

입력층, 은닉층, 출력층이 있는 신경망 구조의 예다.

입력값은 x₁, x₂로 1차원 배열로 보자. 

입력층이 가중치(w)와 곱하고 편향을 더하면 은닉층의 a₁, a₂ 값이 나온다.

이 식을 행렬의 곱으로 계산하면 된다.

처음 1차식 2 배열과 가중치 2차식 2 × 2 행렬을 곱한 뒤 편향 b를 더한다는 의미다.

이렇게 그림으로 그리면 입력층 x가 1, 2로 2개이고 가중치 시작 밑이 1과 2만 있어 2개라 계산이 가능하다는 의미다.

만약 가중치 밑 3이 존재한다면 구조 자체가 잘못된 것이라는 의미다.

은닉층 a 가 3개라도 가중치 시작 밑은 1과 2면 된다.

그림으로 간단하게 보자.

x₁의 선은 빨간색이다. x₁에서 출발했게이 w밑이 1로 시작하고 a1로 도착하면 w밑이 1로 끝난다. w₁₁   

x₂의 선은 파란색이다. 만약 a₂로 간다면 x₂에서 시작, a₂로 도착이기에 w₂₂가 된다.

x3가 없는데 x₃에서 출발 a₁에 도착하는 가중치 w₃₁을 초록색으로 표현했다.

?를 보면 x₃ 이 없다. 그래서 행렬 곱이 불가능하다는 의미다.

신경망, 활성화 함수 그리고 행렬곱

다차원 배열(행렬) 곱을 파이썬 넘파이(Python Numpy)로 코드를 작성해 보자.

실제와 유사하게 활성화 함수도 추가했다.

지금까지 공부한 부분을 복습하고 확인하는 과정이라 생각하자.

시작~

import numpy as np

# 활성화 함수 시그모이드
def sigmoid(x):
 return 1 / (1 + np.exp(-x))

# 입력값 x 2개 설정
x = np.array([1.0, 2.0])

# 가중치 w
w = np.array([[0.1, 0.4], [0.2, 0.5]])

# 편향 b
b = np.array([0.1, 0.2])

# 계산해보자.
# 입력값 x와 가중치 w로  dot 함수로 행렬곱 계산 더하기 편향.
a = np.dot(x, w) + b

# 활성화 함수에 a 적용
z = sigmoid(a)

# 결과 출력
print(z)

# 결과 [0.64565631 0.83201839]

직접 코딩해 보자.

위 코드를 직접 복사해서 사용해도 된다. 마지막 라인에 결과도 추가했다.

친절하게 주석도 달았으니 자세히 살펴보면 이해될 것이다.

안되면 댓글에~

지금까지 딥러닝 신경망에서 중요한 역할을 하는 다차원 배열(행렬)의 곱셈에 대해 알아봤다.

이제 우리는 딥러닝 신경망에서 다차원 배열(행렬) 곱셈을 활용할 수 있게 되었다.

열공 열코딩~

음식도 맛있고 양도 많은데 가격까지 저렴하다면 우리는 가성비가 좋다고 표현한다.

음식과 가격 둘 다 만족해야 가성비라는 표현을 쓴다.

이 중 하나라도 맘에 안들면 가성비가 좋다고 하지 않는다.

논리 회로 중 하나인 AND 게이트가 바로 이 역할을 한다.

AND 게이트는 딥러닝 퍼셉트론에서 어떻게 활용하는지 알아보자.

AND 게이트와 퍼셉트론

AND 게이트는 무엇인지 의미를 알아보자.

AND는 우리말로 "그리고", "~과/~와"로 해석된다.

가성비 이야기에서 둘 다 만족해야 한다고 했다.

AND가 이 역할을 한다.

가성비를 파이썬 프로그램으로 간단하게 구현해 보자.

food와 price 둘 다 만족해야 (true) effective가 출력된다.

파이썬 문법도 둘 다 만족하는 조건식에 "and"를 사용한다.

컴퓨터가 좋아하는 0과 1로 변경해서 다시 코드를 작성해 보자.

만약 x와 y가 1이면 출력값은 1이다.

둘 중 하나라도 1이 아니면 출력값은 0이 된다.

AND 게이트 진리표

AND 게이트 진리표를 표로 정리해 보자.

1:true, 0:false로 생각하면 된다.

x1과 x2 둘 다 1 (true)인 경우만 출력값 y가 1 (true)가 된다.

AND 게이트 논리 회로는 이렇게 구성되어 있다.

AND 게이트와 퍼셉트론의 활용

이제 퍼셉트론을 활용해서 계산을 해보자.

퍼셉트론에서 사용되는 가중치 w와 임계값 𝞱를 이용해서 AND 게이트를 계산한다.

퍼셉트론 계산식을 다시 보자.

퍼셉트론 포스팅에서 봤던 동작 원리 공식이다.

2024.11.19 - [인공지능(AI)/딥러닝(DeepLearning)] - [딥러닝]퍼셉트론(Perceptron)이란? 초보 인공지능(AI) 개발자를 위한 쉬운 설명, 퍼셉트론 뜻

위 식과 AND 게이트 진리표를 활용해서 출력값을 확인해 보자.

위 식을 보면 입력값 x에 가중치 w를 곱한 값들을 더해서 임계값( 𝞱 )보다 크면 1을 반환한다.

입력값 x는 AND 게이트의 진리표에 정의되어 있다.

가중치와 임계값을 정하자.

입력값 x는 x1, x2 두 개이므로 각 입력값에 대응할 가중치도 w1, w2 두 개로 정한다.

(w1, w2, 𝞱 ) 

w1 = 0.7, w2 = 0.3, 𝞱 = 0.9

(0.7, 0.3, 0.9)

임계값 (𝞱) 는 AND 게이트에 적합한 출력값을 만들기 위해서 가중치 중 최대값(w1=0.7)보다 크게 설정한다.

이제 AND 게이트 값을 활용해서 계산해보자.

(x1, x2) -> (0, 0)

0 * 0.7 + 0 * 0.3 = 0 <= 0.9 이므로 출력값 y = 0 이 된다.

(x1, x2) -> (1, 0)

1 * 0.7 + 0 * 0.3 = 0.7 <= 0.9 이므로 출력값 y = 0 이 된다.

(x1, x2) -> (0, 1)

0 * 0.7 + 1 * 0.3 = 0.3 <= 0.9 이므로 출력값 y = 0 이 된다.

(x1, x2) -> (1, 1)

1 * 0.7 + 1 * 0.3 = 1.0 > 0.9 이므로 출력값 y = 1 이 된다.

결과를 보면 (0.7, 0.3, 0.9)는 AND 게이트와 같은 출력값을 만드는 가중치와 임계값이 된다.

만약 다음과 같이 가중치와 임계값을 설정했다면 어떤 결과가 나올까?

(w1, w2,  𝞱 ) 

w1 = 0.7, w2 = 0.3, 𝞱 = 0.5

(0.7, 0.3, 0.5)

(x1, x2) -> (0, 0)

0 * 0.7 + 0 * 0.3 = 0 <= 0.5 이므로 출력값 y = 0 이 된다.

(x1, x2) -> (1, 0)

1 * 0.7 + 0 * 0.3 = 0.7 > 0.5 이므로 출력값 y = 1 이 된다.

(x1, x2) -> (0, 1)

0 * 0.7 + 1 * 0.3 = 0.3 <= 0.5 이므로 출력값 y = 0 이 된다.

(x1, x2) -> (1, 1)

1 * 0.7 + 1 * 0.3 = 1.0 > 0.5 이므로 출력값 y = 1 이 된다.

두 번째  (x1, x2) -> (1, 0) 입력값에 대한 출력값이 0이 아닌 1이 나왔다.

AND 게이트의 출력값과 다른 결과가 나왔다.

AND 게이트가 성립하도록 임계값( 𝞱 )을 잘 설정하자.

AND 게이트와 퍼셉트론은 어떻게 활용하지?

식당을 방문한 고객들의 리뷰 정보를 활용해서 가성비 식당 판별을 해보자.

총점을 100점으로 정하고 맛과 가격의 비율을 정한다.

맛과 가격을 6:4 비율로 정하고 100점 기준 70점 이상이 나오면 가성비 식당으로 출력한다.

리뷰에서 맛과 가격 두 가지 입력값을 받는다.

맛있으면 "O" 아니면 "X", 적정가격 이하면  "O" 비싸면 "X"를 선택한다.

A는 맛은 O, 가격도 O를 선택했다.

B는 맛은 O, 가격은 X를 선택했다.

C는 맛은 X, 가격도 X를 선택했다.

이 입력값으로 사용자들의 가성비 평가를 해보자.

(0.6, 0.4, 0.7) 가중치 6:4 비율에 임계값이 100점 기준 70점이면 1 기준 0.7이다.

A : 1 * 0.6 + 1 * 0.4 = 1.0 > 0.7 결과는 1로 가성비 맛집으로 평가됨.

B : 1 * 0.6 + 0 * 0.4 = 0.6 <= 0.7 결과는 0으로 가성비 맛집 미달됨.

C : 0 * 0.6 + 0 * 0.4 = 0.0 <= 0.7 결과는 0으로 가성비 맛집 미달됨.

이렇게 입력값에 가중치(중요도)를 정하고 결과를 정하는 임계값을 기준점 정한 뒤 비교해서 출력값을 만든다.

이제 딥러닝에서 AND 게이트와 퍼셉트론을 활용하는 방법을 이해하게 되었다.

끝.