안녕하세요, 여러분. 신박 AI입니다. 오늘 우리가 살펴볼 모델은 트랜스포머입니다.

2017년 구글 브레인 팀에서 발표한 논문에서 소개된 이 모델은 단순히 딥러닝을 넘어서 인공지능의 역사에 길이 남을 중요한 이정표로 자리 잡은 모델입니다.

2017년에 처음 등장한 이후 다양한 트랜스포머 기반 모델들이 등장했습니다.

여러분도 보시다시피 트랜스포머는 자연어 처리뿐만이 아니라 시각, 청각, 다중 모드, 강화 학습 등 딥러닝의 다양한 영역에 깊은 영향을 미치고 있습니다.

그러므로 오늘날 딥러닝을 공부하고 앞으로 새로운 것을 배우기 위해서는 이 트랜스포머 모델을 아는 것이 참으로 중요하다고 생각이 됩니다.

그래서 오늘은 이 트랜스포머 모델의 구조와 작동 방식에 대해서 차근차근 스텝 바이 스텝으로 알아보도록 하겠습니다.

트랜스포머 모델의 구조는 다음과 같이 생겼습니다.

자세한 계산 과정으로 들어가기 전에 먼저 전체적인 구조부터 살펴보도록 하겠습니다.

우선 트랜스포머 모델은 크게 두 부분으로 나누어져 있습니다.

여기 보시는 인코더 부분과 디코더 부분으로 나눌 수 있습니다.

그리고 트랜스포머 모델 전체를 자세히 보시면 뭔가 같은 블록이 계속 반복해서 나오는 것을 보실 수가 있습니다.

임베딩 레이어도 그렇고 멀티헤드 어텐션 레이어도 그렇고, 합과 정규화 레이어도 그렇고, 또 피드 포워드 레이어도 그렇습니다.

이처럼 트랜스포머의 전체 구조는 복잡해 보여도 그 안을 구성하고 있는 컴포넌트들이 계속 반복해서 나오는 구조이기 때문에 차근차근 살펴보면 금방 이해할 수 있는 모델입니다.

자, 그러면 이제부터는 간단한 데이터를 사용하여 트랜스포머의 학습 메커니즘에 대해 알아보도록 하겠습니다.

트랜스포머 모델을 학습시키기 위해선 아무래도 가장 첫 번째 단계는 바로 데이터셋을 만드는 일일 것입니다.

그다음은 데이터셋에서 모든 단어들을 추출해서 단어장을 만들고 각 단어 토큰에 고유 숫자 인덱스라고 하는데요.

고유 숫자를 배정해서 모델이 처리할 수 있는 데이터로 변환을 해 줍니다.

그래서 다음과 같이 입력과 출력을 학습시킬 경우라면 이렇게 어 589, 063 이렇게 변환이 되어서 트랜스포머 모델에 들어가게 됩니다.

실제 2017년 트랜스포머 논문에서는 영어, 독일어 번역 학습을 위해서 37,000개 정도의 단어 쌍을 사용했다고 합니다만, 여기서는 쉬운 손 계산을 위해서 11개의 단어를 사용하여 학습한다고 가정하겠습니다.

그러면 이렇게 입력 문장이 들어갈 때 가장 먼저 해야 할 일은 바로 단어 임베딩입니다.

입력 임베딩 블록이 하는 일은 입력 단어들 5, 8, 9가 이렇게 들어왔을 때 각각의 단어들의 임베딩 벡터들을 출력합니다.

임베딩 레이어는 11개의 단어들을 압축해서 이렇게 길이가 6인 밀집 벡터로 바꾸어 주는 레이어입니다.

실제 2017년 논문에서는 3, 7,000개의 단어를 512 차원의 단어 임베딩으로 줄였다고 합니다.

이렇게 함으로써 많은 수의 단어를 효율적으로 정보를 내부적으로 처리할 수 있게 됩니다.

다음은 위치 인코딩 차례입니다. 트랜스포머에서 다소 독특한 방법으로 문장 내의 단어의 위치를 인코딩하고 있습니다.

언어, 특히 영어 같은 언어는 어순이 문장의 의미에 아주 중요한 역할을 합니다.

다음과 같은 문장을 생각해 봅시다.

그 개가 를 었어요. 하지만 이렇게 이렇게 어순을 바꾸게 되면 그 남자가 를 물게 되는 의미가 되지 내용이 완전히 반대가 되어 버립니다.

이처럼 단어 순서를 어떻게 하느냐에 따라 그 의미가 완전히 달라지게 되지.

그러므로 같은 단어 임베딩이 할지라도 이와 같이 고유한 위치 정보를 같이 준다면 가 물었는지 는지 보다 더 정확하게 그 입력 문장의 의미를 전달할 수가 있고 그럴 경우 트랜스포머가 문장 전체의 의미를 더 잘 처리할 수 있게 된다는 것을 의미합니다.

트랜스포머 모델에서는 그렇게 아주 독특한 방식으로 단어의 위치를 인코딩 하는데요, 다음과 같은 공식을 바탕으로 단어의 위치를 인코딩합니다.

이 공식의 의미는 일단 이 예제에서는 D 모델의 길이가 6입니다.

단어 임베딩의 길이가 6이었던 것처럼요.

그래서 그리고 이 포지션에서는 0, 1, 2가 차례로 들어가게 되고, 그리고 짝수 번째에 해당하는 i는 이 사인 공식에 대입을 하고 홀수 번째 단어에 해당하는 i는 이 공식, 코사인 공식에 대입을 해서 다음과 같이 위치 인코딩 값을 계산할 수가 있습니다.

왜 여기에 숫자 많이 쓰여 있는지 저는 잘 모르겠지만 아마도 여러 번의 실험을 통해서 적절한 값이 선택된 듯합니다.

자, 이렇게 계산된 위치 임베딩과 입력 임베딩을 그냥 합해 줍니다.

더하기를 하죠. 서로 합해 주기만 하면 입력 플러스 위치 임베딩 벡터를 구할 수가 있습니다.

자, 이제 이 입력 플러스 위치 인코딩 행렬을 트랜스포머의 핵심이라고 할 수 있는 다중 헤드 어텐션에 넣을 차례입니다.

트랜스포머의 다중 헤드 어텐션은 기존의 시퀀스 투 시퀀스 어텐션과 조금 다른 형태의 어텐션 입니다.

시퀀스 투 시퀀스에서 살펴본 어텐션은 입력 시퀀스와 출력 시퀀스 간에 주목해야 할 단어를 찾는 어텐션이었다면, 셀프 어 텐션은 입력 문장 안에서의 단어 간의 관계성을 파악하는 것입니다.

이렇듯 입력 시퀀스 내에서 자체 단어들 간의 관계성을 주목한다 하여 트랜스포머의 어텐션 메커니즘을 셀프 어텐션이라고 부르기도 합니다.

이 셀프 어텐션을 수행하기 위한 다중 헤드 어텐션의 구조는 다음과 같이 생겼습니다.

아까 구했던 입력 플러스 위치 인코딩을 세 개로 똑같이 복사를 합니다.

그래서 이 각각의 QKV, Q 행렬, 한국말로는 쿼리라고도 하고 영어에서는 쿼리라고도 하는데, 어쨌든 이 Q 행렬을 구하기 위해서 다음 어 6/6 행렬을 생성합니다.

그리고 행렬 곱을 해서 Q 행렬을 구합니다.

또 K 행렬을 구하기 위해서 새로운 행렬을 생성을 하고 똑같은 방법으로 행렬을 곱해서 K 행렬을 구합니다.

똑같은 방법으로 또 행렬을 곱해서 V 행렬을 구합니다.

이렇게 다중 헤드 어텐션 레이어의 입력값 Q, K 그리고 V 값을 이제 넣게 됩니다.

그리고 그다음은 여기 보시는 것처럼 Q, K 행렬곱 차례입니다. Q K 공식은 다음과 같습니다.

그래서 이렇게 행렬 값을 넣어서 계산을 하면은 이렇게 값은 이렇게 구할 수가 있습니다.

그다음은 이제 스케일 크기 변화 범위의 변화라고 할 수 있는데요.

어, 스케일의 경우는 행렬의 이 루트 6을 나누어 주면 됩니다.

이 예제에서는 그 모델의 길이가 6이기 때문에 루트 6 나눠 주는 것입니다.

그러면 크기 변화 레이어까지 값은 이렇게 간단하게 구해 볼 수가 있습니다.

그리고 마스크 레이어에서 어 인코더에서 지금 사용하지 않기 때문에 여기서는 스킵하도록 하겠습니다.

그리고 그다음에 소프트맥스 레이어는 행렬의 값을 확률로 바꿔 주는 역할을 합니다.

지금 보시는 이 3바 행렬이 바로 셀프 어텐션 값을 나타내는 행렬입니다.

이 행렬은 각각의 단어들이 또 다른 각각의 단어들과 어떤 관계가 있는지를 수치로 보여주는 행렬입니다.

그래서 관련이 높은 단어 쌍은 높은 값을 갖고 관련이 낮은 단어 쌍은 낮은 값을 갖도록 학습이 앞으로 되어갈 것입니다.

잠깐 여기서 이 셀프 어텐션 에 대해서 좀 짚고 넘어가고 싶습니다.

기존의 어텐션 연구는 아까도 말씀드렸던 것처럼 입력 시퀀스와 출력 시퀀스 간의 이런 관계에 주목을 했었다면, 이 셀프 어텐션은 입력 시퀀스 안에서 단어와 단어의 상관관계에 주목을 했다는 것이 아주 획기적인 사고의 전환이라고 생각이 들고 또 단어와 단어의 상관관계를 구하기 위해서 같은 입력 행렬을 두 개의 분리된 네트워크에 넣어서 각각 Q 행렬과 K 행렬을 만든 뒤에 단순히 두 행렬을 곱하는 것만으로 단어와 단어의 상관관계를 보여줄 수 있는 점이 아주 놀라운 점이라고 할 수 있습니다.

이는 입력 문장의 단어를 하나하나 처리하지 않고 모든 단어를 한 번에 병렬적으로 처리할 수 있기 때문에 속도가 일단 빠르고 또 장이라 하더라도 각각의 모든 단어들의 단어들 간의 관계를 차별없이 주의를 계산할 수가 있기 때문에 오늘날 채 GPT나 라마와 같은 이런 대형 언어 모델이 나오는 것을 가능케 한 핵심 구조라고 할 수가 있겠습니다.

자, 그래서 이제 다시 행렬과 이 어텐션의 행렬을 통하여 셀프 어텐션이 가미가 된 즉 입력 플러스 위치 플러스 어텐션이 세 개가 다 짬뽕이 된 임베딩 행렬을 만듭니다.

지금의 경우는 이 다중 헤드 어텐션 레이어가 설명의 편의를 위해서 하나의 헤드만 있을 경우를 가정한 설명이었다.

실제로는 이렇게 멀티 헤드로 어텐션을 계산합니다.

실전 논문에서 여덟 개를 사용하는데요.

이렇게 두 개 이상의 헤드로 어텐션을 계산할 경우에는 어 처음에 그 QKV 단계에서부터 헤드의 숫자대로 이렇게 입력을 나누어서 셀프 텐션을 각각 계산해 준 다음에 이제 최종 단계에서 다시 행렬들을 연결해 준 뒤에 거기서 다시 어 완전 연결층, 마지막에 완전 연결층 이제 다시 계산을 해서 다중 헤드 어텐션의 최종 아웃풋을 이렇게 계산해냅니다.

자, 그다음에는 합과 정규화 레이어입니다. 합, 합은 다중 헤드 아웃풋의 행렬과 처음 생성한 입력 플러스 위치 임베딩, 즉 어텐션이 감이 되기 전 입력 플러스 위치 임베딩과 그 행렬과 더하는 과정입니다.

이 과정은 어 레슨에서 도입이 되었던 일종의 그 스킵 커넥션으로 학습 과정에서의 기울기 소실 문제를 시키는 효과도 있고 또 기존의 정보 아까 말씀, 아까 우리가 보았던 입력 플러스 위치 임베딩, 기존의 정보를 어느 정도 보존을 하면서 새로운 정보를 감미하다 있고 또 이렇게 함으로써 학습에 좀 더 효율적인 효과가 있다고 알려져 있습니다.

이런 스킵 커넥션 부분은 추후에 또 레스넷 통화해서 또 한번 알아보면 좋을 것 같아요.

어쨌든 여기서도 어 레스넷에서 검증된 이 스킵 커넥션을 이용을 해서서 두 개의 행렬을 합하여 이제 그다음에 이제 합한 행렬을 정교화 해 줘서 이제 계산에 사용을 하는데요.

정규 어 공식은 이처럼 평균 각각의 이 각 열별로 평균을 계산하고 표준 편차를 계산을 한 다음에 그것을 평균으로 빼주고 표준 편차로 나눠 줘서 이렇게 다음과 같이 정규 행렬을 이렇게 구할 수가 있습니다.

자, 그다음은 이제 피드 포워드 레이어인데요. 이 피드 포워드 레이어는 어 두 개의 층으로 이루어진 그리고 ReLU를 활성화 함수로 사용하는 단순한 신경 망입니다.

그래서 이렇게 입력과 가중치와 편향을 이용해서 계산을 해주고 다시 활성화 함수를 씌워 준 다음에 어 음수는 당연히 제로가 되겠죠.

ReLU 함수 그다음에 이것을 다시 또 어 가중치와 2층 치와 편향을 이용해서 계산을 해주면 다음과 같이 피드포워드 레이어의 아웃풋을 계산할 수가 있습니다.

드포 레이어를 넣는 이유는 우리가 지난 시간에 쭉 다층 신경망의 특성에서 알 수가 있듯이 비선형성을 증가시켜서 네트워크 자체가 데이터를 처리하고 분별할 수 있는 능력을 증가시키는데 있습니다.

자, 이제는 다시 아까 살펴보았던 합과 정규화 레이어를 반복해 줍니다.

그래서 피드포워드 레이어 출력 행렬과 어 이전에 들어왔던 피드포워드 전에 있었던 행렬과 합을 한 다음에 다시 평균과 표준 편차를 구하여서 어 정규화 시켜 주면 바로 이것이 인코더 전체의 아웃풋이 되겠습니다.

자, 이제 디코더로 넘어가도록 하겠습니다. 트랜스포머의 학습 과정에서 제일 먼저 하는 것은 어, 인코더와 마찬가지로 출력 단어의 인코딩과 위치 인코딩을 하는 것입니다.

단어 인코딩과 위치 인코딩은 인코더 때와 방식이 똑같습니다.

심지어 위치 인코딩은 기존에 계산한 값을 그대로 사용할 수 있습니다.

상당히 효율적이라고 할 수 있죠. 이렇게 더해 주면은 이렇게 어 위치, 위치 플러스 단어 인코딩이 어 되는 것이고요.

마스크 다중 헤드 어텐션 연산도 인코더 때와 크게 다르지 않습니다.

세 개로 이렇게 복사를 해 준 다음에 각각의 행렬을 곱하여 이렇게 Q 행렬, K 행렬, V 행렬을 구해 줍니다.

자, 그래서 Q 행렬과 K 행렬을 곱하여 어텐션 행렬을 만들고 행렬의 크기 변화도 똑같이 루트 6로 나누어 줍니다.

그러면 행렬의 범위도 이렇게 계산을 해볼 수가 있습니다. 자, 그러면 이제는 디코더 다중 어텐션에서 가장 중요한 개념인 마스크 어텐션에 대해서 알아볼 차례입니다.

이 마스크 어텐션 개념은 아주 상식적입니다.

원래 트랜스포머 디코더의 목적은 출력 단어 시퀀스를 생성해내는 것입니다.

인코더의 경우는 입력 문장 전체의 의미를 파악해야 되기 때문에 전체 단어들의 관계를 다 파악을 해야 할 필요가 있지만 디코더의 경우는 문장, 출력 문장을 한 단어씩 출력하는 것이 목적이기 때문에 아직 출력되지 않은 단어에 주의를 줄 수 없는 것이 당연한 것입니다.

그래서 트랜스포머의 디코 학습 과정에도 이러한 특성을 반영을 해서 특정 단어, 즉 미래에 나오는 단어는 가려서 계산에 영향을 주지 않도록 하는 것이 핵심입니다.

그래서 이런 마스크 알고리즘을 좀 전에 구한 어텐션 행렬에 적용을 하면 다음과 같이 바꿀 수가 있습니다.

그래서 주목하지 말아야 될, 즉 미래에 나온 단어에 해당되는 부분은 마이너스 무한대 값을 넣어 줍니다.

왜냐하면 이 마이너스 무한대 값을 넣어 주는 이유는 후에 나올 이 소프트맥스 레이어를 거치면서 이런 짙은 갈색에 위치한 이 마이너스 무한대 값은 0으로 바뀌기 때문입니다.

그대로 이 행렬을 소프트맥스 레이어에 넣으면 이렇게 바뀌게 됩니다.

그다음에 이 둘을 곱하면 다음처럼 계산을 할 수가 있고, 그 뒤에 행렬 연결이 필요하다면 하고, 그다음에 다시 6x6 행렬로 연산을 해 주면 마스크 다중 헤드 어텐션의 최종 행렬 값이 나오게 됩니다.

그다음엔 같은 방식으로 합과 정규화를 해 주고, 디코더의 두 번째 다중 헤드 어텐션은 인코더와 작동 방식이 똑같지만 입력값만큼 값을 입력으로 하고, 그래서 Q, K 행렬, V 행렬을 만들고, Q 행렬은 좀 전에 구한 디코더 행렬을 6x6 행렬로 곱한 값을 입력으로 합니다.

그렇게 하여 다중 헤드 어텐션의 아웃풋은 다음과 같습니다.

이게 같은 과정이기 때문에 자세한 설명을 생략하도록 하겠습니다.

이렇게 출력이 나온다는 거, 그 나머지 레이어들도 우리가 좀 절에 했던 것과 같은 연산 과정이 동일하므로 이렇게 합과 정규와 드롭 합과 정규화는 어 쉬운 연산이기 때문에 시간 관계상 생략을 하도록 하겠습니다.

자, 그리고 마지막으로 이제 이 디코더에서 나온 값들을 이제 선형 계층과 소프트맥스 계층에 넣어서 최종 아웃풋을 구할 차례입니다.

[Deep Learning 101] 트랜스포머, 스텝 바이 스텝

신박Ai

신박 AI 채널 소개 및 트랜스포머 모델 분석

2017년 구글 브레인 팀 발표, 인공지능 역사의 중요 이정표

2017년 이후 다양한 트랜스포머 기반 모델 등장

자연어 처리 외 시각, 청각 등 다양한 딥러닝 영역에 영향

딥러닝 학습에 트랜스포머 모델 이해의 중요성 강조

트랜스포머 모델 구조 및 작동 방식

인코더와 디코더 두 부분으로 구성된 모델 구조 설명

임베딩, 멀티헤드 어텐션, 합과 정규화, 피드 포워드 레이어 반복 구조

복잡해 보이지만 반복 구조로 이해하기 쉬운 모델임을 강조

간단한 데이터를 사용한 트랜스포머 학습 메커니즘 설명 예고

트랜스포머 학습 과정: 데이터 준비 및 임베딩

데이터셋 생성 및 단어장(vocabulary) 만들기

각 단어에 고유 숫자 인덱스 배정 및 데이터 변환

2017년 논문에서는 37,000개 단어쌍 사용, 예제는 11개 단어 사용 가정

단어 임베딩: 입력 단어들을 길이 6인 밀집 벡터로 변환

위치 인코딩: 단어 순서 정보를 인코딩하는 방법 설명

다중 헤드 어텐션 및 셀프 어텐션

입력 + 위치 임베딩 벡터를 다중 헤드 어텐션에 입력

다중 헤드 어텐션: 입력 문장 내 단어 간 관계 파악 (셀프 어텐션)

Q, K, V 행렬 생성 및 행렬 곱 연산 과정 설명

셀프 어텐션의 획기적인 점: 입력 시퀀스 내 단어 간 상관관계에 주목

셀프 어텐션의 장점: 병렬 처리로 속도 향상 및 모든 단어 간 관계 고려

합과 정규화, 피드 포워드 레이어

합: 다중 헤드 아웃풋과 입력 + 위치 임베딩 합산 (스킵 커넥션)

정규화: 열별 평균과 표준 편차를 이용한 정규화 과정

피드 포워드 레이어: ReLU 활성화 함수를 사용하는 두 개의 층으로 구성

피드 포워드 레이어의 역할: 비선형성 증가 및 데이터 처리 능력 향상

합과 정규화 레이어 반복 및 인코더 아웃풋 생성

디코더: 마스크 멀티 헤드 어텐션

출력 단어 인코딩 및 위치 인코딩 (인코더와 동일)

마스크 멀티 헤드 어텐션: 아직 출력되지 않은 단어는 가림

마스크 어텐션의 개념: 출력 단어 시퀀스 생성을 위한 미래 단어 가리기

미래 단어에 -∞ 값을 넣어 소프트맥스 레이어에서 0으로 만드는 과정

디코더의 두 번째 다중 헤드 어텐션: 인코더 아웃풋을 입력으로 사용

선형 계층 및 소프트맥스 계층을 통한 최종 아웃풋 생성

선형 계층: 단어장 길이만큼 차원 복원

최종 정답과 비교 및 크로스 엔트로피 등 손실 함수 사용

역전파를 통한 가중치 조절: 트랜스포머 학습 과정

트랜스포머 모델은 2017년 구글 브레인 팀에서 발표한 논문에서 소개되었으며, **딥러닝과 인공지능 역사에 중요한 이정표**로 자리매김했습니다. 자연어 처리뿐만 아니라 시각, 청각 등 딥러닝의 다양한 영역에 영향을 미치고 있어, 딥러닝 학습에 있어 필수적인 모델입니다.

🧱 트랜스포머 구조의 핵심 구성 요소

트랜스포머 모델은 크게 인코더와 디코더 두 부분으로 나눌 수 있으며, **같은 블록(임베딩 레이어, 멀티헤드 어텐션 레이어, 합과 정규화 레이어, 피드 포워드 레이어)이 반복되는 구조**를 가지고 있습니다. 복잡해 보이지만, 컴포넌트들의 반복 구조 덕분에 차근차근 살펴보면 이해하기 쉽습니다.

⚙️ 트랜스포머 학습 메커니즘

트랜스포머 모델 학습의 첫 단계는 데이터셋을 만드는 것입니다. 데이터셋에서 단어들을 추출하여 단어장을 만들고, 각 단어에 고유한 숫자 인덱스를 부여하여 모델이 처리할 수 있는 데이터로 변환합니다. **실제 논문에서는 영어-독일어 번역 학습을 위해 37,000개 정도의 단어 쌍을 사용**했다고 합니다.

입력 문장이 들어가면 가장 먼저 단어 임베딩을 수행합니다. **임베딩 레이어는 단어들을 압축하여 밀집 벡터로 바꾸어 줍니다**. 그 다음은 위치 인코딩 차례입니다. 트랜스포머는 문장 내 단어의 위치를 독특한 방식으로 인코딩합니다. 어순이 중요한 언어 특성을 반영하여, 단어 순서에 따라 의미가 달라지는 것을 보완합니다.

**위치 인코딩은 특정 공식을 사용하여 계산된 위치 임베딩과 입력 임베딩을 더하여** 입력 + 위치 임베딩 벡터를 생성합니다.

 attention 다중 헤드 어텐션 (셀프 어텐션)

입력 + 위치 행렬은 다중 헤드 어텐션에 입력됩니다. 트랜스포머의 다중 헤드 어텐션은 입력 문장 안에서 단어 간의 관계성을 파악하는 셀프 어텐션 메커니즘을 사용합니다. **이는 입력 시퀀스 내에서 자체 단어들 간의 관계성에 주목하는 방식**입니다.

다중 헤드 어텐션은 입력값을 복사하여 Q (쿼리), K (키), V (값) 행렬을 생성하고, 이 행렬들을 사용하여 셀프 어텐션을 수행합니다. **기존 어텐션 연구가 입력-출력 시퀀스 간 관계에 주목했다면, 셀프 어텐션은 입력 시퀀스 내 단어 간 상관관계에 주목**했다는 점에서 획기적입니다.

셀프 어텐션은 모든 단어를 병렬적으로 처리하여 속도가 빠르며, **각 단어 간 관계를 차별 없이 주의 깊게 계산**할 수 있습니다. 이는 오늘날 대형 언어 모델의 핵심 구조입니다.

➕ 합과 정규화, 피드 포워드 레이어

다중 헤드 어텐션 후에는 합과 정규화 레이어를 거칩니다. 합은 다중 헤드 아웃풋 행렬과 입력 + 위치 임베딩 행렬을 더하는 과정으로, **기울기 소실 문제를 완화하고 기존 정보를 보존하면서 새로운 정보를 감미하는 효과**가 있습니다. 정규화는 각 열별 평균과 표준 편차를 계산하여 수행됩니다.

피드 포워드 레이어는 두 개의 층으로 이루어진 신경망으로, ReLU 활성화 함수를 사용합니다. **이는 비선형성을 증가시켜 네트워크가 데이터를 처리하고 분별하는 능력을 향상**시킵니다.

디코더는 인코더와 마찬가지로 출력 단어의 인코딩과 위치 인코딩을 수행합니다. 위치 인코딩은 기존에 계산한 값을 그대로 사용할 수 있어 효율적입니다. 마스크 멀티 헤드 어텐션 연산은 인코더와 유사하지만, **마스크 어텐션 개념이 추가됩니다**.

마스크 어텐션은 디코더가 출력 단어를 생성할 때, 아직 출력되지 않은 미래 단어에 주의를 기울이지 않도록 하는 역할을 합니다. **미래 단어에 해당하는 부분은 마이너스 무한대 값을 넣어 소프트맥스 레이어에서 0으로 처리**합니다.

디코더의 두 번째 다중 헤드 어텐션은 인코더와 작동 방식이 동일하지만, 입력값으로 인코더의 아웃풋을 사용합니다. 이후 합과 정규화 과정을 거쳐 최종 아웃풋을 구합니다.

🔮 선형 계층과 소프트맥스 계층을 통한 최종 출력

디코더에서 나온 값들은 선형 계층과 소프트맥스 계층을 거쳐 최종 아웃풋을 구합니다. 선형 계층은 디코더 아웃풋을 원래 단어장 길이만큼 펼쳐주고, **소프트맥스 함수를 통해 최종 출력값을 얻습니다**. 마지막으로, 최종 정답과 비교하여 손실 함수를 사용해 가중치 값들을 조절하는 것이 트랜스포머의 학습 과정입니다.