Data is ___ ?
article thumbnail
[Pytorch] 모듈 및 함수 정리
Python/라이브러리 2023. 1. 15. 19:17

계속 업데이트 예정 ✨ 🔎 모듈 nn.Parameter >>> self.cls_token = nn.Parameter(torch.randn(1, latent_vec_dim)) >>> self.pos_embedding = nn.Parameter(torch.randn(1, num_patches+1, latent_vec_dim)) 모델을 업데이트 할 때 같이 업데이트 되는 변수 사용자로부터 직접 받는 값은 아니지만 학습이 가능해야 하는 변수가 필요하다면 위와 같이 파라미터로 정의 ViT에서 cls_token, pos_embedding은 외부 변수가 아니지만 latent_vec_dim, num_patches를 이용해서 만들어 사용해야 한다. 🔎 함수 torch.repeat( ) vs torch.expand( ) ..

profile on loading

Loading...