[DeepLearning] PyTorch - Tensor

Torch란

• Python 기반의 과학 연산 패키지
• GPU연산에 유리
• 딥러닝에 유리

Vector, Matrix, Tensor

• 1차원: Vector
• 2차원: Matrix, 2D-Tensor
• 3차원: 3D-Tensor

Tensor란

• 2D Tensor: |t| = (batch size, dim)
• 3D Tensor(CV): |t| = (batch size, width, height)
• 3D Tensor(NLP): |t| = (batch size, length, dim)

Numpy란

• 다차원 배열 처리 및 수학적인 계산에 유리한 자료형
• Vector

• 2D

PyTorch의 Tensor

• 1D

• 2D

Broadingcasting: 차원이 달라도, 파이토치에서 자동으로 연산 규칙을 정해줌

• scalar의 차원을 자동으로 늘려주는 경우

 

• 행렬 곱

• Mean (sum도 이 개념과 같음)
  • dimension의 개념

*  출처: www.youtube.com/watch?v=St7EhvnFi6c&list=PLQ28Nx3M4JrhkqBVIXg-i5_CVVoS1UzAv&index=2