NAS 인증 실패, NTLM 차단 때문일까? Windows 11 확인 순서 3단계

오래 쓰던 NAS가 Windows 11에서만 열리지 않는다면 가장 먼저 이런 생각이 듭니다. “업데이트하면서 구형 NAS 인증을 막은 걸까?” 파일 탐색기에서 암호를 다시 입력해도 로그인 창이 반복되면 더욱 그렇게 보이죠.

NAS 인증 실패의 원인을 곧바로 NTLM 차단으로 정하면 엉뚱한 설정을 바꿀 수 있습니다. Windows 11의 SMB 연결에는 인증 방식 외에도 서명, 게스트 접속, 저장된 암호가 영향을 줍니다. 오늘은 SMB NTLM 차단이 실제로 켜졌는지 확인한 다음, 결과에 따라 어디를 봐야 하는지 순서대로 설명할게요.

NAS 인증 실패가 모두 NTLM 차단 때문은 아닙니다

먼저 혼동하기 쉬운 부분부터 짚겠습니다. Windows 11 버전 24H2에는 SMB 연결에서 NTLM 사용을 차단하도록 설정하는 기능이 있습니다. 그렇다고 모든 Windows 11 PC에서 NTLM이 자동으로 차단되는 것은 아닙니다. 차단 기능이 있는 것과 내 PC에서 차단 설정이 켜진 것은 다릅니다.

한편 Windows 11 24H2의 Pro·Enterprise·Education에서는 SMB 서명을 기본으로 요구합니다. 구형 NAS가 서명을 지원하지 않는다면 NTLM 설정과 관계없이 연결에 실패할 수 있어요. 앞선 Windows 11 24H2 이후 NAS 접속이 안 될 때: SMB 서명 확인 글은 이 서명 문제를 다뤘습니다. 이번 글에서는 SMB NTLM 차단 설정과 인증 실패를 구분해 보겠습니다.

1. NAS까지 네트워크가 연결되는지 확인하세요

NAS 공유 폴더에 접속할 때 사용한 주소부터 적어두세요. \\NAS이름\공유폴더로 접속했는지, \\192.168.x.x\공유폴더처럼 IP 주소로 접속했는지 확인하면 됩니다. 이전에 저장해 둔 주소와 NAS의 현재 주소가 달라졌다면 인증 단계에 도달하기도 전에 연결이 실패할 수 있습니다.

PowerShell에서 아래 명령을 실행하면 NAS의 SMB 연결 포트에 도달할 수 있는지 확인할 수 있습니다. NAS이름 부분만 실제 장치 이름이나 IP 주소로 바꿔 입력하세요.

Test-NetConnection -ComputerName NAS이름 -Port 445

TcpTestSucceeded가 False라면 NAS 전원, 주소, 공유기 연결부터 확인하세요. True가 나와도 로그인 성공을 뜻하지는 않습니다. 여기서는 연결 경로만 확인한 것이고, NAS 인증 실패 원인은 다음 단계에서 살펴봐야 합니다.

2. SMB NTLM 차단 설정을 직접 읽어보세요

시작 메뉴에서 PowerShell을 열고 아래 명령을 입력하세요. 이 명령은 현재 SMB 설정을 보여주기만 합니다. 스위치를 끄거나 Windows 설정을 변경하지 않습니다.

Get-SmbClientConfiguration | Select-Object BlockNTLM,RequireSecuritySignature,EnableInsecureGuestLogons
Windows 11 NAS 인증 실패 원인을 확인하기 위한 SMB NTLM 설정 명령 설명 이미지
여자 강사가 대형 모니터의 PowerShell 확인 명령을 설명하는 AI 이미지

결과에는 세 항목이 나옵니다. 먼저 BlockNTLM을 보세요. 값이 True라면 이 PC의 SMB 클라이언트에서 NTLM 차단 설정이 켜진 상태입니다. 구형 NAS가 NTLM 인증에 의존한다면 접속 실패와 관련이 있는지 더 확인해 볼 만합니다. 하지만 이 값만으로 원인을 확정할 수는 없습니다.

BlockNTLM이 False라면 적어도 이 SMB NTLM 차단 설정이 켜져 있어서 실패했다고 설명하면 안 됩니다. 로그인에 사용한 NAS 계정이나 다른 SMB 보안 조건을 봐야 합니다. 특히 PC에 별도의 조직 보안 정책이 적용돼 있다면 SMB 설정 하나로 모든 인증 제한을 판단할 수도 없습니다.

NAS 인증 실패 원인 확인을 위해 Windows 11 SMB NTLM과 서명 설정값을 조회한 화면
직접 찍은 PowerShell 결과 화면.

나머지 두 값은 어떻게 읽을까요?

RequireSecuritySignature가 True이면 이 PC가 SMB 서명을 요구하는지 확인할 단서가 됩니다. NAS가 서명을 지원하지 않거나 NAS 쪽에서 서명이 꺼져 있다면 접속에 문제가 생길 수 있습니다.

EnableInsecureGuestLogons가 False인데 NAS 공유 폴더를 계정 없이 게스트로 사용해 왔다면 게스트 접속 차단을 의심해야 합니다. SMB 서명, 게스트 접속, NTLM 차단은 서로 다른 설정이에요. 세 값을 함께 확인하는 이유가 여기에 있습니다.

3. 실패한 순간의 오류 메시지를 대조하세요

설정값을 확인했으면 파일 탐색기에서 NAS 공유 폴더에 다시 접속해 보세요. 실패한 시각과 오류 문구를 적어둡니다. ‘암호가 맞지 않는다’, ‘인증되지 않은 게스트 액세스를 차단한다’, ‘네트워크 경로를 찾을 수 없다’는 서로 다른 상황입니다. NAS 인증 실패라는 증상만 같다고 해결 방법까지 같지는 않아요.

기록을 더 확인하려면 이벤트 뷰어 → 응용 프로그램 및 서비스 로그 → Microsoft → Windows → SMBClient로 이동하세요. 오류가 난 시각의 연결·보안 기록을 보면 됩니다. 예를 들어 Microsoft는 인증되지 않은 게스트 접속이 차단된 경우 SMBClient 이벤트 ID 31017을 확인할 수 있다고 안내합니다. 이 기록이 있다면 SMB NTLM 차단보다 게스트 접속 방식을 먼저 확인하세요.

오류 화면에 사용자 이름이나 내부 IP 주소가 보일 수 있습니다. 블로그에 올릴 때는 해당 부분을 가리고, 진단에 필요한 오류 문구와 시각은 남겨두세요. NAS가 없어 실제 오류를 재현하지 못했다면 이미지 3 자리 표시 문구만 삭제하면 됩니다.

BlockNTLM이 True라면 NAS 예외를 바로 넣어도 될까요?

예외 설정 전에 NAS가 다른 방법을 지원하는지 먼저 확인하세요. 펌웨어 업데이트가 가능한지, 계정과 암호를 사용하는 공유가 설정돼 있는지, SMB 서명을 켤 수 있는지 보는 순서입니다. NAS 쪽 설정을 바로잡을 수 있다면 Windows의 보안 요구 사항을 낮출 필요가 없습니다.

SMB NTLM 차단이 실제로 켜져 있고 구형 NAS가 반드시 NTLM을 사용해야 한다면, Microsoft는 특정 서버만 허용하는 NTLM 차단 서버 예외 목록을 안내합니다. Windows 11 Pro의 로컬 그룹 정책 편집기에서는 컴퓨터 구성 → 관리 템플릿 → 네트워크 → Lanman 워크스테이션 → NTLM 차단 서버 예외 목록에서 대상 NAS의 서버 이름이나 IP 주소를 지정합니다.

이 예외는 모든 NAS 문제를 해결하는 스위치가 아닙니다. NAS가 SMB 서명을 지원하지 않거나 게스트 로그인만 허용한다면 예외를 추가해도 계속 실패할 수 있어요. 회사에서 관리하는 PC라면 조직 정책이 적용될 수 있으므로 관리 담당자가 해당 설정을 확인해야 합니다. 예외의 적용 대상과 방법은 Microsoft의 SMB NTLM 차단 안내에서 확인할 수 있습니다.

BlockNTLM이 False인데 NAS 인증 실패가 계속된다면

이때는 NTLM 예외를 추가하기보다 실제 로그인에 사용된 계정부터 확인하세요. NAS 관리자 계정과 공유 폴더를 열 권한이 있는 계정이 다를 수 있습니다. Windows의 자격 증명 관리자 → Windows 자격 증명에 예전 NAS 암호가 저장돼 있는지도 살펴보세요. 암호를 바꾸기 전에는 현재 NAS에서 사용하는 계정 정보를 확인해 두는 편이 좋습니다.

게스트 차단 메시지가 보인다면 NAS에 이름과 암호가 있는 사용자를 만들고 공유 폴더 권한을 지정하는 방법부터 확인하세요. 서명 문제를 가리킨다면 NAS 펌웨어와 SMB 서명 지원 여부를 확인해야 합니다. Windows에서 서명 요구나 게스트 차단을 한꺼번에 풀면 연결이 된 이유조차 구분할 수 없으니, 오류 문구에 맞는 항목을 하나씩 살펴보세요.

NAS 인증 실패 원인을 기록할 때 남길 것

다음 네 가지만 적어두면 나중에 설정 전후를 비교하기 쉽습니다. 접속에 사용한 NAS 주소, 445 포트 연결 결과, 세 가지 SMB 설정값, 실제 오류 메시지와 발생 시각입니다. NAS 모델과 펌웨어 버전까지 확인할 수 있다면 함께 기록하세요.

핵심은 SMB NTLM 차단이 켜졌는지 직접 확인한 뒤 해결 방법을 고르는 것입니다. 오류가 발생한 NAS에서 확인한 결과가 없다면 특정 모델을 ‘직접 해결했다’고 적을 수는 없습니다. 내 PC의 설정값과 실제 접속 오류를 함께 보여줄 때 이 글도 단순한 설정 안내를 넘어 구체적인 문제 해결 사례가 됩니다.

오류별 구분은 Microsoft의 SMB 공유 폴더 액세스 거부 진단 문서를 기준으로 했습니다. Windows 11의 SMB 서명 기본 설정은 Microsoft의 SMB 서명 안내에서 확인할 수 있습니다.

같이 읽으면 좋은 글

이미지 안내: 대표 썸네일과 강사가 설명하는 이미지는 AI를 활용해 만든 설명용 이미지입니다. 이미지 속 PC 화면은 실제 NAS 접속 테스트 결과가 아닙니다. 직접 캡처한 설정값과 오류 화면은 별도의 이미지로 표시합니다.

댓글 남기기