Question / Help Game recording extremely choppy.

[Dan6erbond]

Hi, I'm kind of new to this forum here, so I'm not sure if I'm doing this right. When I regularly record my desktop and basic programs with OBS, the output is fine. I've been trying to record GTA:V footage for a few hours now, but no matter what settings I change, the recording always comes out extremely choppy. I'm aware that my PC (laptop) isn't the fastest, but recording with it should be possible as I've done it before with the Windows Game DVR.

I have an HP EliteBook 755 G5 with the Ryzen 7 PRO 2700u and 24GB of Dual Channel RAM.

I also uploaded some of the choppy clips for you guys to see what I mean and all the log files: https://1drv.ms/f/s!AizkP71LmsksqmWvm6ekX5G9YJD7

The most recent log file is attached.

 

[BK-Morpheus]

Some interesting things from that log:

09:25:46.560:     Game DVR: On

09:25:50.975: Loaded scenes:
09:25:50.975: - scene 'Szene':
09:25:50.975:     - source: 'Bildschirmaufnahme' (monitor_capture)
09:25:50.975:     - source: 'Spielaufnahme' (game_capture)

09:25:55.513: [x264 encoder: 'recording_h264'] preset: veryfast
09:25:55.513: [x264 encoder: 'recording_h264'] profile: high
09:25:55.513: [x264 encoder: 'recording_h264'] settings:

09:25:55.513:     rate_control: CRF
09:25:55.513:     bitrate:      0
09:25:55.513:     buffer size:  0
09:25:55.513:     crf:          20
09:25:55.513:     fps_num:      60
09:25:55.513:     fps_den:      1
09:25:55.513:     width:        1920
09:25:55.513:     height:       1080
09:25:55.513:     keyint:       120

09:28:27.313: Output 'adv_file_output': Number of lagged frames due to rendering lag/stalls: 3440 (37.8%)
09:28:27.314: ==== Recording Stop ================================================
09:28:27.324: Video stopped, number of skipped frames due to encoding lag: 6055/6204 (97.6%)

Turn off Windows Game DVR and Remove monitor_capture from the scene.
Most dropped frames are caused by trying to encode 1080p 60fps with your CPU...even my 8core 16 thread CPU struggles to live encode 1080p 60fps with x264 very fast while running a game at the same time.
To fix this, you will need to choose an encoder that might be less efficient, but easy on the CPU. Can you use AMDs AMF encoder with your integrated Vega card? If so, try that.
Additionally you have a lot of lagged frames, due to GPU overload. To fix this, you need to find a way to keep the GPU load under 95% all the time. So an fps limit in your game is mandatory. If that is not enough, you can lower the frame limit or reduce ingame details, until the rendering lag / GPU overload disappears.

 

[Dan6erbond]

Some interesting things from that log:

09:25:46.560:     Game DVR: On

09:25:50.975: Loaded scenes:
09:25:50.975: - scene 'Szene':
09:25:50.975:     - source: 'Bildschirmaufnahme' (monitor_capture)
09:25:50.975:     - source: 'Spielaufnahme' (game_capture)

09:25:55.513: [x264 encoder: 'recording_h264'] preset: veryfast
09:25:55.513: [x264 encoder: 'recording_h264'] profile: high
09:25:55.513: [x264 encoder: 'recording_h264'] settings:

09:25:55.513:     rate_control: CRF
09:25:55.513:     bitrate:      0
09:25:55.513:     buffer size:  0
09:25:55.513:     crf:          20
09:25:55.513:     fps_num:      60
09:25:55.513:     fps_den:      1
09:25:55.513:     width:        1920
09:25:55.513:     height:       1080
09:25:55.513:     keyint:       120

09:28:27.313: Output 'adv_file_output': Number of lagged frames due to rendering lag/stalls: 3440 (37.8%)
09:28:27.314: ==== Recording Stop ================================================
09:28:27.324: Video stopped, number of skipped frames due to encoding lag: 6055/6204 (97.6%)

Turn off Windows Game DVR and Remove monitor_capture from the scene.
Most dropped frames are caused by trying to encode 1080p 60fps with your CPU...even my 8core 16 thread CPU struggles to live encode 1080p 60fps with x264 very fast while running a game at the same time.
To fix this, you will need to choose an encoder that might be less efficient, but easy on the CPU. Can you use AMDs AMF encoder with your integrated Vega card? If so, try that.
Additionally you have a lot of lagged frames, due to GPU overload. To fix this, you need to find a way to keep the GPU load under 95% all the time. So an fps limit in your game is mandatory. If that is not enough, you can lower the frame limit or reduce ingame details, until the rendering lag / GPU overload disappears.

So, I already turned off Windows Game DVR once I noticed it was running and now I also removed the desktop scene. But once I switched to both HEVC or AVC encoding, the recording couldn't be started anymore! Here the logs: https://obsproject.com/logs/BidQCJi7Mt3XhCU2

EDIT: It seems I don't have something installed... Do I really need VLC for this to work? I don't mind installing it, but I'm quite surprised.
EDIT1: After downloading and installing VLC, I get the same error but a slightly different log output: https://obsproject.com/logs/3WsD0W0UdlNsW54y

 

[BK-Morpheus]

Sorry, the new log shows, that OBS was closed, before starting any recording. Not sure about the codec+container, that is used for the AMF AVC recording, but usually the Mediaplayer should be able to play AVC/h264 in an mp4 container. Since I use VLC for many years as my default player, I'm not totally sure about the capabilities of Windows default mediaplayer+codecs.

 

[Dan6erbond]

Sorry, the new log shows, that OBS was closed, before starting any recording. Not sure about the codec+container, that is used for the AMF AVC recording, but usually the Mediaplayer should be able to play AVC/h264 in an mp4 container. Since I use VLC for many years as my default player, I'm not totally sure about the capabilities of Windows default mediaplayer+codecs.

After installing VLC I get this output: https://obsproject.com/logs/AuEpDoiHbjmT6isG. When I try to start the recording I get an error that claims it couldn't start the recording. Could that be because of the integrated Vega GFX?

 

[koala]

Your machine seems to support the use of the amd hardware encoder, but it also seems you set some configuration property of that encoder to an invalid value, so initialization fails:
16:34:16.219: [AMF] [H264]<Id: 7> <Plugin::AMD::EncoderH264::SetProfileLevel> Failed to set to 31, error AMF_FAIL (code 1)
If you post a screenshot of the configuration dialog, we can look what property this might be.

 

[Dan6erbond]

If you mean these settings, here's a screenshot:

I hope you don't mind that it's in German...

 

[BK-Morpheus]

Ich würde das umskalieren der Ausgabe deaktivieren und die gewünschte Ausgabe-Auflösung über den Menüpunkt Video (links) benutzen.
Dass die Zielbitrate höher ist, als die Spitzenbitrate ergibt irgendwie auch keinen Sinn.
Beim Schlüsselbildintervall bin ich nicht sicher, ob sich das auf Sekunden oder Frames bezieht...es sollten 2 Sekunden sein (oder alle 120 Frames, falls mit 60fps aufgenommen wird).

Du könntest sonst testweise mal eine andere Voreinstellung oder QUalitätsvoreinstellung auswählen und schauen, ob damit eine korrekte Aufnahme möglich ist.

 

[Dan6erbond]

Ich würde das umskalieren der Ausgabe deaktivieren und die gewünschte Ausgabe-Auflösung über den Menüpunkt Video (links) benutzen.
Dass die Zielbitrate höher ist, als die Spitzenbitrate ergibt irgendwie auch keinen Sinn.
Beim Schlüsselbildintervall bin ich nicht sicher, ob sich das auf Sekunden oder Frames bezieht...es sollten 2 Sekunden sein (oder alle 120 Frames, falls mit 60fps aufgenommen wird).

Du könntest sonst testweise mal eine andere Voreinstellung oder QUalitätsvoreinstellung auswählen und schauen, ob damit eine korrekte Aufnahme möglich ist.

So I followed everything you said and these are the new settings:

When I try to start the recording, I still get this error though:

I tried using the auto setup assistant, but right after it set everything up, I was sure that the footage wouldn't be any better because the settings were way to good for a laptop to handle with gaming. They might've been okay for recording the desktop and regular software, but not games.

 

[koala]

Die deutsche Übersetzung ist an der Stelle etwas doof, weil sie englische Fachbegriffe mitübersetzt hat. Was hast du ganz unten bei "Ansichtsmodus" sonst noch für Werte? Wenn es noch sowas wie haupt und hoch gibt, stelle haupt oder hoch ein. Falls das das encoder-profile mit den Optionen baseline, main und high darstellt, dann schränkt baseline ("grundlegend") Aspekte im Encoder ein, die du aber überschreitest. Bei main oder high gibt es diese Einschränkungen nicht.

Ansonsten: probiere mal den einfachen Ausgabemodus aus. Dort werden alle diese Kleinigkeiten von OBS voreingestellt, und du musst nur den gewünschten Encoder und die gewünschte Qualität konfigurieren. Die dazu passenden internen Werte im Encoder wählt OBS dann selbständig aus.

Bei deiner wenig leistungsfähigen CPU jedenfalls kommst du ohne Einsatz eines Hardware-Encoders nicht wirklich weiter.

 

[Dan6erbond]

Die deutsche Übersetzung ist an der Stelle etwas doof, weil sie englische Fachbegriffe mitübersetzt hat. Was hast du ganz unten bei "Ansichtsmodus" sonst noch für Werte? Wenn noch sowas wie haupt und hoch gibt, stelle haupt oder hoch ein. Falls das das encoder-profile mit den Optionen baseline, main und high darstellt, dann schränkt baseline ("grundlegend") Aspekte im Encoder ein, die du aber überschreitest. Bei main oder high gibt es diese Einschränkungen nicht.

Ansonsten: probiere mal den einfachen Ausgabemodus aus. Dort werden alle diese Kleinigkeiten von OBS voreingestellt, und du musst nur den gewünschten Encoder und die gewünschte Qualität konfigurieren. Die dazu passenden internen Werte im Encoder wählt OBS dann selbständig aus.

Bei Ansichtsmodus habe ich die Einstellungen 'Grundlegend', 'Erweitert', 'Experte' und 'Meister'.

 

[koala]

Erweitert das einfach nur die Optionen im Dialog, so dass mehr Optionen verfügbar werden? Dann hilft das wohl nicht. Sorry, dass ich so blöd frage, aber ich habe keine AMD Karte, sondern Nvidia, und bei Nvidia gibt es andere Optionen.

Wie gesagt, versuche mal den einfachen Ausgabemodus.

 

[Dan6erbond]

Erweitert das einfach nur die Optionen im Dialog, so dass mehr Optionen verfügbar werden? Dann hilft das wohl nicht. Sorry, dass ich so blöd frage, aber ich habe keine AMD Karte, sondern Nvidia, und bei Nvidia gibt es andere Optionen.

Wie gesagt, versuche mal den einfachen Ausgabemodus.

Aha, vielen Dank. Wie meinst du anderen Ausgabemodus?

 

[koala]

Ganz oben in dem Dialog, den du im Screenshot zeigst, hast du Ausgabemodus: Erweitert. Stelle um auf Einfach und stelle im vereinfachten Dialog nochmal Kodierer und Qualität in der Aufnahme-Sektion (Mitte) ein.

 

[Dan6erbond]

Ganz oben in dem Dialog, den du im Screenshot zeigst, hast du Ausgabemodus: Erweitert. Stelle um auf Einfach und stelle im vereinfachten Dialog nochmal Kodierer und Qualität in der Aufnahme-Sektion (Mitte) ein.

Ahh, so hast du es gemeint. Ich habe es bereits vorher mit dem probiert, doch ich bekomme immer noch den gleichen Error :(.

 

[BK-Morpheus]

Bei der Online-Suche nach diesen AMF Fehlern, habe ich vielleicht eine Lösung gefunden.
Scheinbar ist bei OBS nicht der neuste AMF Treiber integriert (laut Log-File ist Version 2.4.2 aktiv), dieser müsste also einmal manuell aktualisiert werden.
Ob es noch eine neuere Version als diese 2.5.0 gibt, weiß ich nicht, aber mit der würde ich es mal versuchen:
https://obsproject.com/forum/resour...-framework-encoder-plugin-for-obs-studio.427/

Falls das wirklich die Lösung sein sollte, verstehe ich nicht, warum OBS in seiner aktuellen Version nicht bereits die neuste AMF Bibliothek integriert hat.

 

[Dan6erbond]

Bei der Online-Suche nach diesen AMF Fehlern, habe ich vielleicht eine Lösung gefunden.
Scheinbar ist bei OBS nicht der neuste AMF Treiber integriert (laut Log-File ist Version 2.4.2 aktiv), dieser müsste also einmal manuell aktualisiert werden.
Ob es noch eine neuere Version als diese 2.5.0 gibt, weiß ich nicht, aber mit der würde ich es mal versuchen:
https://obsproject.com/forum/resour...-framework-encoder-plugin-for-obs-studio.427/

Falls das wirklich die Lösung sein sollte, verstehe ich nicht, warum OBS in seiner aktuellen Version nicht bereits die neuste AMF Bibliothek integriert hat.

Ich habe bereits probiert diese "Bibliothek" zu installieren, doch ich erhalte den gleichen Fehler! Hier wäre die neueste Logdatei:
https://obsproject.com/logs/cIw1Jg5phq0YOBKY

Vielen Dank für die Unterstützung!

EDIT: Nur in der Datei wo ich opencl=true gesetzt habe, erscheint überhaupt ein Bild jetzt. Bei den anderen zwei ist es einfach nur weiss oder farbig.