윈도우11로 업그레이드하기 위해 보안부팅을 활성화하는 과정에서 많은 사용자들이 예상치 못한 오류를 경험합니다. 특히 고급 옵션 메뉴에서 명령 프롬프트를 사용한 후 시스템이 정상적으로 부팅되지 않거나 이상한 화면이 나타나는 경우가 빈번합니다. 이러한 문제는 BIOS 설정 변경 과정에서 발생하는 일시적인 시스템 충돌이나 부팅 순서 오류로 인해 발생할 수 있으며, 대부분 적절한 조치를 통해 해결 가능합니다. 본 가이드에서는 윈도우 복구 환경에서 명령어를 실행한 후 발생하는 다양한 부팅 오류와 그 해결책을 상세히 다룹니다.
보안부팅 설정 과정에서 발생하는 일반적인 오류 유형
윈도우11 보안부팅 활성화 과정에서 사용자들이 겪는 오류는 크게 몇 가지 패턴으로 나뉩니다. 가장 흔한 경우는 마이크로소프트 공식 지원 페이지에서도 언급되듯이 UEFI 펌웨어 설정과 운영체제 부팅 모드 간의 불일치입니다. 명령 프롬프트에서 bcdedit 명령어를 실행한 후 시스템이 검은 화면에 멈추거나 자동 복구 루프에 빠지는 현상이 대표적입니다. 또한 TPM 설정이 제대로 인식되지 않아 보안부팅 옵션이 회색으로 비활성화되는 경우도 있습니다. 일부 사용자는 exit 명령 후 재부팅 시 부팅 장치를 찾을 수 없다는 오류 메시지를 마주하기도 합니다. 이러한 문제들은 대부분 BIOS 설정 초기화나 부팅 순서 재조정으로 해결할 수 있으며, 심각한 경우 부팅 파티션 복구가 필요할 수 있습니다. 오류 화면에 표시되는 정확한 메시지를 기록해두면 문제 해결에 큰 도움이 됩니다.
BIOS 설정 초기화를 통한 즉각적인 문제 해결
가장 먼저 시도해야 할 방법은 BIOS 설정을 기본값으로 되돌리는 것입니다. 컴퓨터를 재시작하면서 제조사별로 정해진 키를 연속으로 눌러 BIOS 화면에 진입합니다.
- 델 컴퓨터의 경우 F2 키를 부팅 시 연타하며, HP는 F10 키, 레노버는 F1 또는 F2 키를 사용합니다. ASUS 메인보드는 Delete 키가 일반적이며, MSI는 Delete 또는 F2 키를 활용합니다.
- BIOS 메뉴에 진입한 후 Load Setup Defaults 또는 Load Optimized Defaults 항목을 찾아 선택합니다. 이 옵션은 보통 Exit 메뉴나 Save 메뉴 내에 위치하며, 모든 설정을 공장 초기값으로 복원합니다.
- 설정 초기화 후 반드시 변경사항을 저장하고 나가야 합니다. Save Changes and Exit 옵션을 선택하거나 F10 키를 눌러 저장 후 재부팅하면, 시스템이 안정적인 기본 설정으로 돌아가 정상 부팅될 가능성이 높습니다.
- 초기화 후에도 문제가 지속된다면 CMOS 배터리를 제거하는 물리적 초기화 방법을 고려할 수 있습니다. 데스크톱의 경우 메인보드의 동전형 배터리를 5분간 분리했다가 재장착하면 모든 BIOS 설정이 완전히 초기화됩니다.
부팅 모드 전환으로 윈도우 시작 문제 극복하기
명령 프롬프트에서 작업 후 발생하는 부팅 오류는 종종 UEFI와 레거시 BIOS 모드 간의 불일치에서 비롯됩니다. 윈도우 하드웨어 개발자 문서에 따르면, 윈도우11은 UEFI 모드만 지원하므로 부팅 모드를 올바르게 설정하는 것이 중요합니다. BIOS 설정 화면에서 Boot 메뉴로 이동하여 현재 Boot Mode 또는 Boot List Option 설정을 확인합니다. Legacy 또는 CSM Enabled로 되어 있다면 UEFI 또는 UEFI Only로 변경해야 합니다. 일부 메인보드는 Boot Priority 설정에서 Windows Boot Manager가 최상위에 위치해야 정상 부팅됩니다. 만약 부팅 장치 목록에 윈도우 부트 매니저가 보이지 않는다면, 하드디스크의 파티션 스타일이 MBR인지 GPT인지 확인이 필요합니다. UEFI 모드는 GPT 파티션과만 호환되므로, 필요시 디스크 변환 작업을 진행해야 할 수 있습니다. 부팅 모드 변경 후에는 반드시 저장하고 재부팅하여 변경사항이 적용되도록 합니다.
윈도우 복구 환경에서 시스템 파일 복구 실행
부팅 문제가 시스템 파일 손상으로 인한 것이라면 복구 환경에서 직접 수정 작업을 수행해야 합니다. 윈도우 설치 USB나 복구 드라이브로 부팅한 후 컴퓨터 복구하기 옵션을 선택합니다.
| 명령어 | 기능 | 실행 시점 |
|---|---|---|
| sfc /scannow | 시스템 파일 무결성 검사 및 복구 | 부팅 전 필수 실행 |
| DISM /Online /Cleanup-Image /RestoreHealth | 윈도우 이미지 복원 | sfc 실행 전 권장 |
| bootrec /fixmbr | 마스터 부트 레코드 복구 | 부팅 오류 발생 시 |
| bootrec /fixboot | 부팅 섹터 재작성 | 부트 매니저 오류 시 |
| bootrec /rebuildbcd | 부트 구성 데이터 재구축 | 부팅 목록 손실 시 |
TPM 및 보안부팅 요구사항 정확히 충족하기
윈도우11 업그레이드를 위해서는 TPM 2.0과 보안부팅이 모두 활성화되어야 합니다. BIOS 설정에서 Security 탭이나 Advanced 탭을 찾아 TPM Device 또는 Security Device Support 항목을 Enabled로 설정합니다. 인텔 시스템에서는 PTT로, AMD 시스템에서는 fTPM으로 표시될 수 있습니다. TPM 활성화 후에는 Boot 탭에서 Secure Boot 옵션을 찾아 Enabled로 변경합니다. 일부 메인보드는 Secure Boot를 활성화하기 전에 먼저 모든 보안 키를 삭제하고 초기화하는 Clear Secure Boot Keys 작업을 요구할 수 있습니다. 이 경우 해당 옵션을 실행한 후 Restore Factory Keys를 선택하여 기본 보안 키를 재설치합니다. 메인보드 제조사의 지원 페이지에서 자세한 BIOS 설정 가이드를 확인할 수 있습니다. 모든 설정 변경 후에는 반드시 F10 키를 눌러 저장하고 재부팅해야 변경사항이 적용됩니다.
TPM 버전 확인은 윈도우에서 tpm.msc 명령어로 가능하지만, 부팅이 안 되는 상황에서는 BIOS에서 직접 확인해야 합니다. BIOS 화면에 표시되는 TPM 버전이 1.2인 경우 윈도우11 설치가 불가능하므로, 펌웨어 업데이트를 통해 TPM 2.0 지원 여부를 확인해야 합니다. 구형 메인보드는 하드웨어 제약으로 TPM 2.0을 지원하지 않을 수 있으며, 이 경우 별도의 TPM 모듈을 구매하여 장착하거나 메인보드 교체를 고려해야 합니다.
고급 스타트업 옵션에서 안전 모드 부팅 시도
시스템이 정상 부팅되지 않을 때 안전 모드는 최소한의 드라이버와 서비스만으로 윈도우를 시작하여 문제를 진단할 수 있게 합니다. 윈도우 로고가 나타나는 동안 전원 버튼을 10초간 눌러 강제 종료하고, 이 과정을 3회 반복하면 자동으로 복구 환경이 실행됩니다. 문제 해결 메뉴에서 고급 옵션을 선택한 후 시작 설정을 클릭하고, 재시작 버튼을 누릅니다. 재부팅 후 나타나는 옵션 화면에서 F4 키를 눌러 안전 모드로 진입하거나, F5 키로 네트워킹 안전 모드를 선택할 수 있습니다. 안전 모드 진입에 성공하면 최근 설치한 드라이버나 프로그램을 제거하고, 시스템 복원 기능으로 이전 시점으로 되돌릴 수 있습니다. 장치 관리자에서 느낌표나 물음표가 표시된 장치가 있다면 해당 드라이버를 업데이트하거나 제거합니다. 안전 모드에서도 부팅이 안 된다면 하드웨어 문제일 가능성이 높으므로, 메모리 테스트나 하드디스크 진단을 진행해야 합니다.
명령 프롬프트에서 msconfig 명령을 실행하여 부팅 탭에서 안전 부팅 옵션을 설정할 수도 있지만, 현재 부팅이 안 되는 상황에서는 복구 환경의 명령 프롬프트에서 bcdedit 명령어로 안전 모드를 강제 설정할 수 있습니다. bcdedit /set safeboot minimal 명령어를 입력하면 다음 부팅 시 자동으로 안전 모드로 시작되며, 문제 해결 후에는 bcdedit /deletevalue safeboot 명령으로 정상 부팅 모드로 복귀시켜야 합니다.
시스템 복원 지점 활용한 안정적인 상태 되돌리기
윈도우는 중요한 시스템 변경 전에 자동으로 복원 지점을 생성하므로, 이를 활용하면 문제 발생 이전 상태로 안전하게 되돌릴 수 있습니다. 복구 환경에서 문제 해결 메뉴의 고급 옵션을 선택한 후 시스템 복원 항목을 클릭합니다. 사용 가능한 복원 지점 목록이 표시되면 보안부팅 설정 작업을 시작하기 직전 날짜의 복원 지점을 선택합니다. 복원 과정은 10분에서 30분 정도 소요되며, 진행 중에는 절대 전원을 끄거나 재시작하면 안 됩니다. 시스템 복원은 개인 파일에는 영향을 주지 않지만, 복원 지점 생성 이후 설치한 프로그램과 드라이버는 제거될 수 있으므로 주의가 필요합니다. 마이크로소프트 커뮤니티 포럼에서는 복원 지점이 없는 경우 윈도우 초기화나 재설치를 권장하고 있습니다. 복원 지점을 정기적으로 생성하도록 설정하려면 시스템 속성에서 시스템 보호 탭을 활성화하고 디스크 공간을 할당해야 합니다. 복원 완료 후에는 다시 한번 BIOS 설정을 확인하여 보안부팅과 TPM이 올바르게 구성되었는지 검증하는 것이 좋습니다.
