Severe OBS preview stutter with RTX 5080 – game smooth, stats clean

XCG-Xavier

New Member
Hello,
I’m reaching out because I’m experiencing severe stuttering issues in OBS while streaming since upgrading to an RTX 5080 Astral (previously using an RTX 4070 Ti Super).
I mainly stream Cyberpunk 2077 and Returnal, which I’ve been streaming regularly for over a year without any issues.
The games themselves are extremely smooth and look great in-game, but OBS starts stuttering, already visible in the preview.
At first, OBS runs smoothly, then after some time it starts to stutter.
If I change any in-game setting, OBS becomes smooth again for a short time, then the stuttering comes back.
The same happens if I press the Windows key (Alt+Tab) and return to the game: OBS preview becomes smooth for a few seconds, then starts stuttering again.
I’ve done extensive troubleshooting and testing, but the issue remains consistent.

System Configuration​

  • CPU: AMD Ryzen 7 7800X3D
  • GPU: NVIDIA GeForce RTX 5080 (ASUS Astral)
  • RAM: Stable (EXPO/XMP enabled)
  • OS: Windows 11 (fully updated)
  • Displays:
    Dual monitors – 2560×1440 @ 120 Hz
    • Tested with certified DisplayPort 1.4 cables
    • Also tested with HDMI (PS5 cables)
  • OBS Studio: Latest stable version
  • Encoder: NVENC (new generation, not legacy)

Observed Symptoms​

OBS Side
  • Heavy stuttering in OBS preview
  • OBS stats remain perfect:
    • 0% dropped frames
    • 0% skipped frames (render / encode)
    • Stable 60 FPS
  • The recorded video / stream is also stuttery, not just the preview
Game Side
  • Games are perfectly smooth when OBS is closed
  • As soon as OBS is running, micro-stutters appear
  • Stutters often trigger during:
    • lighting changes
    • HUD animations (e.g. in-game video calls in Cyberpunk)
  • Occasionally, I also experience temporary signal loss on the monitor exactly when the stutter occurs
Very specific behavior
  • Pressing Windows key / Alt+Tab → OBS preview becomes smooth again , then stutters return
  • Playing through the OBS fullscreen projector sometimes temporarily improves the situation

Troubleshooting Already Done​


OBS​


  • Tested Game Capture / Window Capture / Display Capture
  • OBS run as Administrator
  • Preview ON / OFF (no change)
  • NVENC only (no legacy)
  • Streamlabs OBS tested → same issue
  • All OBS plugins disabled
  • No active filters
  • RGB full / limited tested
  • Capture FPS limit ON / OFF
  • Explicit DXGI selection tested

NVIDIA / Windows​

  • Clean GPU driver reinstall
  • NVIDIA settings tested:
    • Low Latency ON / OFF
    • G-SYNC ON / OFF
    • V-Sync app-controlled / OFF
    • FPS cap via driver and in-game
  • Tested:
    • Exclusive fullscreen
    • Borderless fullscreen
  • Tested with:
    • Single monitor
    • Dual monitor
  • DisplayPort cables replaced
  • HDMI tested
  • HDR OFF everywhere
  • Windows overlays disabled
  • Windows fullscreen optimizations ON / OFF
  • DWM registry tweak (OverlayTestMode) tested → no effect
  • Current Hypotheses​

    • Possible issue related to DX12 + DWM + multi-monitor setup
    • Potential NVENC frame pacing issue on RTX 5080
    • The fact that Alt+Tab temporarily fixes the preview suggests:
      • swapchain reset
      • presentation / capture synchronization issue
    • OBS does not report any performance drops, yet the visual output is unstable

    • Questions

      Are there known issues with RTX 5080 + OBS + DX12?
      • Has anyone experienced similar behavior?
      • Is this more likely a driver issue, a DX12 limitation, or a hardware interaction?
      • Is there any known workaround or recommended settings?

    • Thank you very much in advance for your help and feedback.
 
Occasionally, I also experience temporary signal loss on the monitor exactly when the stutter occurs

You should fix that issue, it has nothing to do with OBS.
 
Merci pour l'aperçu — qui correspond réellement à ce que j'observe.

Je ressens une perte occasionnelle du signal du moniteur exactement au moment où le bégaiement se produit. Lorsque cela se produit, appuyer sur Alt+Tab ou sur la touche Windows rétablit immédiatement la fluidité de l'aperçu OBS pendant quelques secondes, puis le bégaiement revient.

Les statistiques OBS restent parfaitement propres (0 images perdues, 0 images ignorées, stable à 60 FPS), ce qui suggère fortement qu'OBS ne reflète qu'un problème d'affichage ou de rendu sous-jacent plutôt que de le provoquer.

J'ai déjà testé de manière approfondie:
  • Câbles certifiés DisplayPort 1.4
  • Câbles HDMI 2.1 (y compris les câbles PS5)
  • Configurations à moniteur unique ou à double moniteur
  • G-Sync activé et désactivé
  • Exclusif plein écran vs sans bordure fenêtré
  • Différentes méthodes de capture OBS (Game Capture, Window Capture, Display Capture)
  • NVENC (nouvelle génération, pas héritage)
  • Streamlabs OBS (même comportement qu'OBS Studio)
Le problème n'a commencé qu'après la mise à niveau d'un RTX 4070 Ti Super vers un RTX 5080 Astral. Ces mêmes jeux (Cyberpunk 2077 et Returnal) ont été diffusés régulièrement pendant plus d'un an sur le GPU précédent sans aucun problème.

Compte tenu de la perte du signal du moniteur combinée à la récupération temporaire via Alt+Tab, cela ressemble vraiment à un problème de pilote GPU / pipeline d'affichage (DXGI, DWM, gestion multi-moniteurs, ou des pilotes RTX série 50) plutôt qu'un problème spécifique à OBS.

Je continue également à enquêter du côté de NVIDIA, mais je voulais documenter cela ici au cas où d'autres utilisateurs de la série RTX 50 rencontreraient un comportement similaire.

Merci d'avance pour tout commentaire ou confirmation.
Bonjour [UTILISATEUR=558527]@XCG-Xavier[/UTILISATEUR], veuillez démarrer un enregistrement, reproduire le problème, terminer l'enregistrement, puis envoyer le journal actuel afin que nous puissions y jeter un œil.
Merci d'avoir pris le temps d'examiner mon problème et d'avoir proposé votre aide, je l'apprécie vraiment.

Je peux reproduire le problème à la fois avec une collection de scènes minimale (Game Capture uniquement) et avec ma collection de scènes complète, le comportement est identique dans tous les cas.

Je vais désirer un enregistrement, reproduire le bégaiement, arrêter l'enregistrement, puis télécharger le fichier journal comme demandé.

 
Back
Top