코딩연습하기

https://arxiv.org/abs/1301.3666데이터셋과 모델:연구팀은 CIFAR-10 이미지 데이터셋을 사용하여 모델을 훈련했습니다. CIFAR-10은 10개의 서로 다른 객체 클래스로 구성된 이미지 데이터셋입니다.이미지 특징과 워드 임베딩:모델은 이미지의 특징 벡터를 추출한 후, 이 벡터를 워드 벡터 임베딩 공간으로 매핑했습니다. 워드 벡터 임베딩은 자연어 처리에서 사용되는 기술로, 단어를 고차원 벡터로 표현하여 단어들 간의 의미적 유사성을 반영합니다.매핑 함수 학습:이미지 특징 벡터를 해당 클래스의 워드 임베딩 벡터로 변환하는 매핑 함수를 학습했습니다. 예를 들어, 'cat' 이미지의 특징 벡터를 'cat' 단어의 워드 임베딩 벡터에 매핑하는 방식입니다.제로-샷 학습:모델은 CIFAR-10..

Source:https://stats.stackexchange.com/questions/413467/different-notions-of-over-parameterization Different notions of over-parameterization While reading a paper, I came across the statement This prediction function will be parameterized by a parameter vector $\theta$ in a parameter space $\Theta$. Often, this prediction functio... stats.stackexchange.com Over-parameterization은 필요한 갯수보다 더 많은 p..

source: https://cloud.google.com/bigquery-ml/docs/reference/standard-sql/bigqueryml-syntax-inference-overview#:~:text=Machine%20learning%20inference%20is%20the,machine%20learning%20model%20into%20production.%E2%80%9D BigQuery ML model inference overview | Google Cloud Send feedback BigQuery ML model inference overview Introduction Machine learning inference is the process of running data points ..

watch -n 1 nvidia-smi

source: https://stackoverflow.com/questions/45425896/install-tensorflow-with-specific-version-on-anaconda Install TensorFlow with specific version on Anaconda TensorFlow has multiple versions, if I want to install a specific version in Anaconda, which command should I use? stackoverflow.com linux에서 conda를 사용하는 경우에만 유효합니다. conda search tensorflow-gpu 목록에서 유효한 버전으로 다운로드 받는다 conda install tensorflo..

source: https://blog.floydhub.com/long-short-term-memory-from-zero-to-hero-with-pytorch/ Long Short-Term Memory: From Zero to Hero with PyTorch Long Short-Term Memory (LSTM) Networks have been widely used to solve various sequential tasks. Let's find out how these networks work and how we can implement them. blog.floydhub.com RNN은 cell을 거치면서 이전 단계의 정보를 잊어버린다. 더 이전의 cell일 수록 더 많은 손실이 뒤따른다. LSTM은 ..

source: https://towardsdatascience.com/epoch-vs-iterations-vs-batch-size-4dfb9c7ce9c9 Epoch vs Batch Size vs Iterations Know your code… towardsdatascience.com Epoch : 전체 데이터 집합이 신경망을 forward하고 backward 한번 씩 하는 것 Batch : 데이터 셋의 부분집합. 대개의 경우에 전체 데이터 셋을 한번에 학습시킬 수 없으므로, 데이터 셋을 부분으로 나누어야 한다. 전체가 100개인 데이터를 한번에 5개씩 학습 시키면 batch size는 5이다. Iteration: 1 epoch를 끝내기 위해서 반복되는 batch의 횟수. 전체가 100개인 데이터, bat..

source: https://blog.floydhub.com/a-beginners-guide-on-recurrent-neural-networks-with-pytorch/ Beginner’s Guide on Recurrent Neural Networks with PyTorch Learn the basics of Recurrent Neural Networks and build a simple Language Model with PyTorch blog.floydhub.com Recurrent Neural Network Feed-Forward Network와 Recurrent Neural Network의 차이점 - Feed-Forward Network는 모든 input을 한 번에 입력 받지만, RNN은 inpu..

현재 가상 환경 리스트 확인하기 conda info --env 혹은 conda env list 새로운 가상 환경 추가하기 conda create --name 새로운 가상 환경을 base와 똑같은 환경으로 만들기 conda create --name --clone base 가상 환경에 진입하기 conda activate 가상 환경에서 빠져 나올 때는 이름 명시 없이 conda deactivate 해당 가상 환경이 어떤 모듈을 가지고 있는지 보려면 1. 원하는 가상 환경으로 진입한다 conda activate 2. 목록을 확인한다 conda list 다른 방법 1. conda list -n 필요한 모듈 설치하기 conda install 특정 버전을 설치하려면 conda install matplotlib=1.4..

출처: https://www.baeldung.com/cs/dl-latent-space#:~:text=Definition,other%20in%20the%20latent%20space. Latent Space는 추상적이고 다면적인 공간으로, 외부의 사건들을 내면화 한 것이다. 다양한 범위의 대상을 추상화하여 인식한다. 예를 들어, 개의 형태는 매우 다양하지만 '개'라는 추상적인 개념을 기준으로 개와 개가 아닌 동물을 구별할 수 있다. 한편 외부에서 관찰한 표본이 비슷하다면, 그 표본들은 latent space에서 가까이 위치한다.