Marković speelde in de jeugd van Radnik Bijeljina en kwam in 2011 in de opleiding van Partizan terecht. Zijn debuut in het eerste elftal maakte hij op 11 maart 2018, toen in de Superliga met 0–2 gewonnen werd bij Čukarički door doelpunten van Léandre Tawamba en Ognjen Ožegović. Marković mocht van coach Miroslav Đukić in de basis beginnen en hij speelde de volledige negentig minuten mee.[1] Op 5 april 2018 kwam de verdediger voor het eerst tot scoren. In eigen huis verdubbelde hij de voorsprong tegen Borac Čačak, nadat Ožegović al de score geopend had. Door doelpunten van opnieuw Ožegović, Danilo Pantić en Zoran Tošić won Partizan de wedstrijd uiteindelijk met 5–0.[2] In september 2018 verlengde Marković zijn contract met één jaar tot medio 2021.[3]
In de zomer van 2019 maakte de centrale verdediger voor een bedrag van circa anderhalf miljoen euro de overstap naar Olympiakos, waar hij zijn handtekening zette onder een verbintenis voor de duur van vijf seizoenen.[4] Na een halfjaar zonder competitieoptredens in het eerste elftal werd hij verhuurd aan AE Larissa.[5] Na deze verhuurperiode werd Marković voor het seizoen 2020/21 tijdelijk ondergebracht bij zijn oude club Partizan.[6] Na zijn terugkeer kwam hij in geen enkele competitiewedstrijd in actie voor Olympiakos en medio 2022 mocht hij definitief vertrekken. Hierop tekende hij voor vier jaar bij Partizan.[7] Van deze vier jaar maakte hij er twee vol, want in augustus 2024 nam Viktoria Pilsen de verdediger over voor circa anderhalf miljoen euro.[8]