"ERROR_OUTOFMEMORY"라는 메시지는 시스템이 특정 작업을 수행하기에 충분한 RAM(메모리) 또는 가상 메모리를 확보하지 못했을 때 나타납니다. 특히 대용량 파일을 열거나, 무거운 그래픽 작업, 대량의 엑셀 연산 등을 실행할 때 흔하게 발생합니다.
이 오류는 단순히 "메모리가 부족하다"는 뜻만이 아니라, 비효율적인 메모리 사용, 설정 오류, 32비트 한계, 백그라운드 프로그램 과부하 등 다양한 원인이 복합적으로 작용할 수 있습니다.
원인 1: 실제 메모리 부족
가장 직접적인 원인은 실제 RAM 용량이 부족하거나 가상 메모리가 적게 설정된 경우입니다. 실행 중인 프로그램이 많거나, 하나의 작업이 많은 메모리를 요구하는 경우 오류가 발생할 수 있습니다.
해결 방법 1: 불필요한 프로그램 종료
- Ctrl + Shift + Esc → 작업 관리자(Task Manager) 실행
- “프로세스” 탭에서 메모리 사용량이 높은 프로그램 종료
- 백그라운드 앱(예: 브라우저 탭, 메신저 등) 확인 후 종료
📌 특히 크롬, 포토샵, 엑셀 대용량 파일은 의외로 많은 메모리를 사용하므로 꼭 점검하세요.
해결 방법 2: 가상 메모리(Pagefile) 늘리기
RAM이 부족할 경우, 윈도우는 하드디스크의 일부를 가상 메모리(페이징 파일)로 사용합니다. 이 설정을 조정하면 메모리 부족 오류를 방지할 수 있어요.
설정 방법
- 제어판 → 시스템 → 고급 시스템 설정
- “성능” 항목의 설정 클릭 → 고급 탭
- 가상 메모리 > 변경
- “모든 드라이브의 페이징 파일 크기 자동 관리” 체크 해제
- 사용자 지정 크기로 설정
- 초기 크기: 현재 RAM 용량의 1.5배
- 최대 크기: RAM 용량의 3배 이상
예: RAM 8GB라면 초기 12,000MB / 최대 24,000MB 정도 권장
해결 방법 3: 32비트 프로그램의 메모리 한계 확인
32비트 프로그램은 최대 2GB ~ 4GB 메모리만 사용 가능하기 때문에, 대용량 작업에서 ERROR_OUTOFMEMORY가 자주 발생합니다.
확인 방법
- 실행 중인 프로그램의 버전을 확인: 도움말 > 정보 또는 설치 경로
- 프로그램 이름 뒤에 (x86)이 붙어 있다면 32비트
📌 가능하다면 64비트 버전으로 재설치하면 메모리 한계를 넘어설 수 있어 훨씬 안정적인 작업이 가능합니다.
해결 방법 4: 엑셀에서 오류 발생 시 설정 변경
엑셀에서 이 오류가 자주 발생한다면 자동 계산 모드, 추가 기능 등을 조정해볼 필요가 있습니다.
엑셀 최적화 팁
- 파일 > 옵션 > 수식 → 계산 옵션을 자동 → 수동으로 변경
- 복잡한 수식 줄이기, 피벗 테이블 간소화
- 불필요한 매크로, 추가 기능 비활성화
- 텍스트 형식으로 처리 중인 숫자나 공백 제거
해결 방법 5: RAM 업그레이드 또는 시스템 정비
오래된 시스템일수록 RAM이 4GB 이하인 경우가 많습니다. 이럴 땐 물리적인 RAM 증설이 가장 근본적인 해결책입니다.
확인 방법
- Win + Pause → 설치된 RAM 용량 확인
- 작업 관리자에서 사용률이 항상 80% 이상이라면 업그레이드 고려
📌 노트북이라도 대부분 RAM 업그레이드가 가능하며, 8GB → 16GB만 되어도 체감 성능이 매우 좋아집니다.
Q&A
Q1. 프로그램 하나만 실행했는데도 ERROR_OUTOFMEMORY 오류가 나요. 왜 그럴까요?
그 프로그램 자체가 매우 높은 메모리 사용량을 요구하거나, 메모리 누수(Bug)로 인해 점점 메모리를 잠식하는 경우일 수 있어요. 대표적인 예로는 포토샵, 엑셀(수십만 행), 파이썬 GUI 실행 등이 있어요.
이런 경우엔 최신 버전으로 업데이트하고, 해당 프로그램의 작업 캐시, 히스토리, 플러그인 설정을 줄이면 해결됩니다. 그래도 오류가 지속되면 64비트 버전으로 전환하거나 가상 메모리 설정을 넉넉하게 바꾸는 것이 좋습니다.
Q2. 메모리는 충분한데도 오류가 발생해요. 무슨 문제일까요?
이 경우는 메모리 파편화(fragmentation) 또는 시스템 리소스 제한 문제일 수 있어요. 윈도우가 메모리를 효율적으로 할당하지 못하면 실제로 여유가 있음에도 오류가 발생할 수 있습니다.
이럴 땐 시스템 재부팅 후 다시 시도해보고, 백신 프로그램이나 드라이버 충돌 여부도 확인해보세요. 또는 해당 앱의 임시 파일(.tmp), 캐시 폴더를 정리해보는 것도 좋습니다.
Q3. 특정 엑셀 파일을 열 때만 메모리 부족 오류가 나요. 왜 그런가요?
이건 그 엑셀 파일 자체에 수식, 조건부 서식, 이미지 삽입, 피벗 테이블 등 메모리를 많이 잡아먹는 요소가 과도하게 포함된 경우입니다.
해결 방법:
- 계산 모드를 수동으로 전환
- 조건부 서식 삭제
- 큰 이미지 압축 또는 제거
- VBA 매크로 확인 및 최적화
📌 파일을 새 엑셀 시트로 분리하거나, CSV로 저장 후 다시 가져오는 방법도 도움이 됩니다.