Rođen je 1942. godine u Beogradu.
Na katedri za puteve, aerodrome i železnice Građevinskog fakulteta u Beogradu diplomirao je 1968.
Počeo je da radi u „Birou za studije, projektovanje i nadzor građenja ŽTP Beograd“, gde je 1974. postao rukovodilac Sektora za projektovanje. Za direktora u radnoj organizaciji „Centar za istraživanje i projektovanje“ postavljen je 1977. godine. Taj centar se 1986. ujedinio sa „Zavodom za projektovanje ZJŽ“, a sledeće godine i sa Saobraćajnim institutom i formira se jedinstveno preduzeće „Saobraćajni institut CIP“. Mrkonjić je postao njegov prvi direktor. Učestvovao je u brojnim projektima u Alžiru, Venecueli, Iraku, Kuvajtu, Kini, Gabonu, Libiji.
Bio je ministar za saobraćaj i veze u Vladi SRJ na čijem je čelu bio Milan Panić, a prethodno je ministarsku funkciju obavljao i u SFRJ – u Vladi Branka Mikulića.
„U dve savezne vlade kod Branka Mikulića i Milana Panića bio sam izabran i zahvalio se. Zašto? Zato što je ministar sluga naroda, birokrata, a ja sam po prirodi sklon improvizaciji i rizicima i meni odgovara građenje.“
Jedan je od osnivača Socijalističke partije Srbije. U vreme NATO bombardovanja SR Jugoslavije, 1999. godine, postavljen je za direktora Republičke direkcije za obnovu i razvoj. Krajem oktobra 2000. razrešen je funkcije direktora Saobraćajnog instituta CIP i izabran za predsednika Upravnog odbora tog instituta. Te godine je postao savezni poslanik u Veću republika SRJ, a kasnije je bio poslanik i u parlamentu državne zajednice Srbija i Crna Gora.
Od marta 2004. bio je šef „Aeroinženjeringa“ (Kompanija „Braća Karić“).
„U ‘Aeroinženjeringu’ sam bio direktor svega godinu dana i sve to vreme su radnici primali plate, a ja sam radio besplatno. Pre toga sam radio kao savetnik kod Bogoljuba Karića.“
U decembru 2006. godine postaje potpredsednik SPS-a, a na tu funkciju je reizabran u decembru 2010. Bio je i član predsedništva te stranke, a odlukom Glavnog odbora, u septembru 2015, imenovan je za počasnog predsednika SPS.
Za poslanika u Skupštini Srbije izabran je 2007. godine, a u tom sazivu je obavljao i funkciju potpredsednika Skupštine. Na izborima za predsednika Srbije, januara 2008. godine, bio je kandidat SPS-a i osvojio je oko šest odsto glasova.
Od jula 2008. nalazio se na funkciji ministra za infrastrukturu. Početkom marta 2011. godine njegovom resoru dodata je oblast energetike. Tokom pregovora o formiranju nove Vlade Srbije više od 10.000 građana podržalo je peticiju Istinomera da Mrkonjić ne bude ministar u njoj, smatrajući ga najneodgovornijim političarem u Srbiji. Iako je premijer Dačić bio upoznat sa tekstom peticije, kao i sa Mrkonjićevim propustima u prethodnom mandatu, ipak ga je imenovao za ministra saobraćaja u aktuelnoj Vladi. Odlukom vrha partije Mrkonjić je jula 2013. smenjen sa mesta ministra saobraćaja, a avgusta položio je zakletvu kao poslanik Narodne skupštine.
Nakon parlamentarnih izbora 2014. godine izabran je za narodnog poslanika u Skupštini Srbije i predsednika Odbora za prostorno planiranje, saobraćaj, infrastrukturu i prostorno planiranje. Mandat narodnog poslanika dobio je i na izborima 2016. i 2020. godine.
Preminuo u novembru 2021. u Beogradu.
