![]()
모델을 가져오는 과정에서 다음과 같은 에러 발생 시, 해결과정에 대한 내용을 작성하였습니다. CUDA error: out of memory 원인은 다음 중 하나일 것입니다. 실행 중인 프로세스가 GPU 메모리를 차지하고 있다. ▶ 사용하지 않는 프로세스를 종료한다 코드 실행에 필요한 GPU 메모리가 부족하다 ▶ 메모리 요구량을 줄인다 (예: batch_size 축소) 해결방법 실행 중인 프로세스 확인 nvidia-smi 명령어를 사용하여 실행 중인 프로세스를 확인합니다. 저자의 경우, GPU 메모리의 대부분을 차지하는 두 개의 프로세스가 있음을 확인했습니다. 다음 명령어를 통해 실행 중인 프로세스를 종료하여 GPU 메모리를 확보합니다. kill 옵션 9: 강제 종료(kill) 15: 정상 종료(termi..
![]()
학습 중 다음과 같은 에러가 발생한 경우 해결과정에 대한 내용을 작성하였습니다. InvalidArgumentError: Conv2DCustomBackpropFilterOp only supports NHWC 에러메세지를 자세히 읽어보면, InvalidArgumentError ▶주로 Tensorflow와 같은 딥러닝 프레임워크에서 발생하는 오류 중 하나로, 잘못된 인수를 제공했을 때 발생한다. model.fit() 함수에서 문제가 나타난 것이다. Conv2DCustomBackpropFilterOp only supports NHWC NHWC ▶배치 N, 높이 H, 너비 W, 채널 C 데이터 형식이 NHWC가 아닌 것이 원인인 듯하다. Tensorflow Conv2D 모듈을 사용할 때, data_format을 ..
