5월 25일 일제 상하이 파견군 군법회의에 회부되어 '살인 및 살인미수 폭발물 취체 벌칙위반'이란 죄명을 붙여 단심에서 '사형'이 언도되었으나 일제는 사형집행을 미뤘다. 김구 단장 등의 은신처를 자백 받아 체포하려던 심산에서였다.

그러던 중 일본은 중국과의 정전 협정을 체결하게 되었다. 이후 11월 28일 상하이 파견군 헌병대 일부만을 남기고 전원 철수하기로 결정하였다. 이에 윤의사도 본국으로 이송하기로 하고 11월 18일 일본 우편수송선 대양환에 실어 압송하였다. 11월 20일 고베항에 도착한 후 쾌속정으로 다시 오사카로 이동하였다. 곧바로 일본 오사카 육군위수형무소 독방에 수감되어 약 한달 정도 구금되었다.

12월 18일에 윤의사는 다시 가나자와로 제9사단 위수구금소로 이감되었다. 제9사단장은 사형명령서를 받아 군법회의 검찰관에게 전달하였고, 사단장은 검찰관으로부터 19일 오전 7시 사형집행 보고를 받았다. 형장은 이시카와현 이시카와군 우치가와무라 미쓰고우시에 있는 가나자와 육군작업장의 서북쪽 끝깎기로 정해졌다. 「사형집행전말서」의 자료를 보면 산속에 위치해 공중에 해를 입을 위협이 없으며 교통이 희박하고 동쪽의 벼랑 높이가 약 7미터로 사형장소로 적합하다고 기록되어 있다.

19일 새벽 6시 30분 위수구금소에서 나와 형장에 끌려온 윤의사에게 검찰관은 사형집행을 진행함을 알리고 유언이 있는지 물었다. 이에 윤의사는

"사형은 이미 각오하여 이에 임하여 하등의 할 말이 없다"

라고 답하였으며, 소지품 처리에 대해 묻자 필요없다고 명료하게 응대하였다. 「사형집행전말서」에서 이 상황을 '그(윤의사) 말은 일본어로 명료하면서도 좀 비웃는 듯하고 그 태도는 극히 강담침착剛膽沈着하였다'라고 기술하고 있다.

윤의사의 두 눈에 흰천이 드리워졌다. 눈을 가리고 무릎을 꿇린 후 윤의사의 양팔을 십자형태의 형틀에 묶었다. 검찰관은 7시 27분에 사격 명령을 내렸고 2명의 사수가 윤의사로부터 10m 떨어진 위치에서 엎드린 자세로 총시위를 당겼다. 여러 총탄 중 하나가 윤의사의 미간부를 명중하였다. 의관이 절명했음을 확인하고 보고하였는데, 이때가 7시 40분이었다.