El reproductor de windows no es muy bueno. Deberías usar el reproductor VLC.
https://www.videolan.org/vlc/
Igual, se necesita un archivo de registros para ver lo que sucede.
Reinicia OBS y haz una prueba de grabación de al menos 30 segundos haciendo todo lo que normalmente haces, incluyendo juegos, cámaras en pantalla completa y cualquier cosa que hagas.
Ahora mira en el menú Ayuda. Cargue el archivo de registro actual y copie/pegue aquí la URL a dicho archivo de registro. Mientras esperas, en esa misma ventana para cargar hay un botón de Analizar. Presiona este botón y ve resolviendo problemas comunes que aparecen en el archivo de registro.
Para comenzar a aprender a usar OBS:
https://obsproject.com/kb/quick-start-guide
(en ingles)
Tiene imágenes, por lo que se comprende.