윈도우11 메모리 무결성 활성화 방법과 호환성 오류 해결

목차

윈도우 11 메모리 무결성 활성화 경로

윈도우 11 설정 화면에서 메모리 무결성 기능을 활성화하는 토글 스위치

윈도우 11의 메모리 무결성(HVCI, Hypervisor-Protected Code Integrity)은 가상화 기반 보안(VBS)을 활용해 커널 모드에서 실행되는 코드의 무결성을 보호하는 보안 기능입니다. 악성 코드나 취약한 드라이버가 운영체제의 핵심 영역인 커널에 접근하거나 변조하는 위험을 줄이는 역할을 합니다. 가상화 기술을 이용해 중요한 보안 기능을 일반 운영체제 영역과 분리하기 때문에 저수준 공격을 방어하는 데 도움이 됩니다.

활성화 단계:

  1. 작업 표시줄 검색창에 ‘Windows 보안’ 또는 ‘윈도우 보안’을 입력하여 앱을 실행합니다.
  2. 왼쪽 메뉴에서 ‘장치 보안’을 클릭합니다.
  3. ‘코어 격리’ 항목 아래의 ‘코어 격리 세부 정보’를 선택합니다.
  4. ‘메모리 무결성’ 토글 버튼을 ‘켬’으로 전환합니다.
  5. 변경 사항을 적용하기 위해 시스템을 재부팅합니다.

레지스트리 편집기를 통한 설정도 가능합니다. Win + R을 누르고 regedit을 실행한 뒤, 아래 경로로 이동합니다.

HKEY_LOCAL_MACHINE\SYSTEM\CurrentControlSet\Control\DeviceGuard\Scenarios\HypervisorEnforcedCodeIntegrity

해당 위치의 Enabled 값을 1로 설정하면 활성화하고, 0으로 설정하면 비활성화할 수 있습니다. 주의: 레지스트리를 직접 수정하기 전에는 시스템 복원 지점이나 중요한 데이터를 백업하는 것이 좋습니다. 잘못된 값을 변경하면 Windows 기능이나 장치 동작에 문제가 발생할 수 있으므로 일반 사용자는 Windows 보안 화면에서 설정하는 방법을 우선 사용하는 것이 안전합니다.

시스템 요구사항 및 가상화 설정

메모리 무결성 기능을 지원하는 메인보드와 가상화 기술 아이콘

메모리 무결성을 정상적으로 사용하려면 CPU와 BIOS 또는 UEFI에서 가상화 기능을 지원하고 활성화할 수 있어야 합니다. Windows 11에서 함께 사용되는 TPM 2.0과 보안 부팅도 시스템 보안을 강화하는 중요한 요소지만, 메모리 무결성 자체의 동작 조건과 Windows 11의 설치 요구사항을 동일한 조건으로 단정해서는 안 됩니다.

  • 가상화 기술: BIOS 또는 UEFI에서 Intel VT-x, Intel Virtualization Technology, AMD-V, SVM Mode 등 CPU 가상화 기능이 활성화되어 있어야 VBS 기반 기능을 사용할 수 있습니다.
  • TPM 2.0: Windows 11의 대표적인 보안 요구사항으로, 지원되는 시스템에서는 활성화해 사용하는 것이 권장됩니다.
  • 보안 부팅(Secure Boot): UEFI 기반 보안 기능으로, 메모리 무결성과 함께 시스템 보안 수준을 높이는 데 도움이 됩니다.
  • 드라이버 호환성: 설치된 커널 모드 드라이버가 HVCI와 호환되어야 메모리 무결성을 정상적으로 활성화할 수 있습니다.

가상화 기반 보안은 추가적인 보안 계층을 사용하므로 시스템 환경에 따라 성능에 일부 영향을 줄 수 있습니다. 특히 오래된 CPU나 일부 게임·전문 작업 환경에서는 프레임이나 처리 성능의 차이를 체감할 가능성이 있습니다. 최신 프로세서에서는 이러한 영향을 줄이기 위한 하드웨어 지원이 강화되어 있어 상대적으로 성능 부담이 작은 편이지만, 실제 영향은 CPU 세대와 게임, 드라이버, 시스템 구성에 따라 달라질 수 있습니다.

호환성 오류 확인 및 해결법

명령 프롬프트에서 시스템 파일 검사 도구를 실행하는 모습

메모리 무결성을 활성화할 때 ‘호환되지 않는 드라이버’ 메시지가 표시된다면 설치된 장치 드라이버 중 일부가 HVCI 환경과 호환되지 않는 경우가 많습니다. 이런 상황에서는 기능을 무작정 강제로 켜기보다 문제가 되는 드라이버를 먼저 확인하고 업데이트하는 것이 좋습니다.

단계 조치 내용
1단계: 진단 Microsoft에서 제공하는 메모리 무결성 호환성 확인 도구인 HVCIScan을 이용해 시스템의 HVCI 호환 상태를 점검합니다.
2단계: 업데이트 Windows 업데이트를 적용하고 PC 또는 장치 제조사 홈페이지에서 해당 장치의 최신 드라이버를 설치합니다.
3단계: 문제 드라이버 확인 Windows 보안에서 표시되는 호환되지 않는 드라이버의 파일명이나 제조사를 확인한 뒤 해당 장치와 관련된 최신 드라이버가 있는지 먼저 확인합니다.
4단계: 제거 더 이상 사용하지 않는 장치의 오래된 드라이버이고 최신 버전도 제공되지 않는다면 장치 관리자 등을 통해 제거를 검토할 수 있습니다. 현재 사용하는 필수 장치의 드라이버는 확인 없이 삭제하지 않는 것이 좋습니다.
5단계: 시스템 검사 필요한 경우 관리자 권한 명령 프롬프트에서 sfc /scannow를 실행하여 Windows 시스템 파일 손상 여부를 검사합니다.
6단계: 재적용 드라이버 업데이트 또는 정리가 끝난 뒤 시스템을 재부팅하고 메모리 무결성 활성화를 다시 시도합니다.

자주 묻는 질문

메모리 무결성을 켜면 게임 성능이 저하되나요?

가상화 기반 보안(VBS)을 사용하기 때문에 시스템에 따라 일부 성능 차이가 발생할 수 있습니다. 특히 비교적 오래된 CPU나 특정 게임 환경에서는 성능 영향을 체감할 가능성이 있습니다. 최신 프로세서는 VBS 관련 하드웨어 지원이 강화되어 상대적으로 부담이 작은 편이지만, 실제 성능 차이는 CPU와 게임, 드라이버 및 시스템 구성에 따라 달라집니다.

호환되지 않는 드라이버를 삭제해도 안전한가요?

무조건 삭제하는 것은 권장하지 않습니다. 먼저 해당 드라이버가 어떤 장치에 사용되는지 확인하고 제조사에서 최신 버전을 제공하는지 확인하는 것이 우선입니다. 더 이상 사용하지 않는 장치의 오래된 드라이버라면 제거를 검토할 수 있지만, 현재 사용 중인 저장장치·네트워크·그래픽·주변기기 등의 필수 드라이버는 확인 없이 삭제하면 장치가 정상적으로 작동하지 않을 수 있습니다.

메모리 무결성 활성화가 계속 실패하는 이유는 무엇인가요?

가장 흔한 원인은 HVCI와 호환되지 않는 오래된 드라이버가 설치되어 있거나 BIOS 또는 UEFI에서 CPU 가상화 기능이 꺼져 있는 경우입니다. Windows 보안에서 표시되는 호환되지 않는 드라이버를 확인하고 드라이버 업데이트를 먼저 진행한 뒤, BIOS의 Intel Virtualization Technology 또는 AMD SVM 같은 가상화 설정도 함께 확인하는 것이 좋습니다.

공식 출처