[PyTorch Basic] 파이토치 패키지의 기본 구성

1. torch

메인 네임스페이스며 텐서 등의 다양한 수학 함수가 포함되어있고 Numpy와 유사한 구조를 가진다.

 

2. torch.autograd

자동 미분을 위한 함수들이 포함되어있고 자동 미분을 제어하는 contact 매니저나 자체 미분 가능 함수를 정의할 때 사용하는 기반 클래스 'Function' 등이 포함되어있다.

 

3. torch.nn

신경망 구축을 위한 다양한 데이터 구조나 레이어 등이 정의되어있다. 예를 들어 RNN, LSTM과 같은 Layer, ReLU와 같은 활성화 함수, MSELoss와 같은 손실 함수들이 있다.

 

4. torch.optim

확률적 경사 하강법(Stochastic Gradient Descent, SGD)를 중심으로 한 파라미터 최적화 알고리즘이 구현되어있다.

 

5. torch.utils.data

SGD의 반복 연산을 실행할 때 사용하는 미니 배치용 유틸리티 함수가 포함되어있다.

 

6. torch.onnx

ONNX(Open Neural Network Exchange)의 포맷으로 모델을 export할 때 사용. 서로 다른 딥러닝 프레임워크 간에 모델을 공유할 때 사용하는 포맷이다.