Rođen je 30. maja 1930. godine u Jagodini. Završio je Šestu mušku gimnaziju i diplomirao 1952. godine na Visokoj novinarsko-diplomatskoj školi u Beogradu.

Magistrirao je političke nauke 1961. na Univerzitetu Berkli u Kaliforniji i specijalizirao međunarodne odnose 1963. na Harvardu, SAD.

Bio je glavni urednik časopisa "Komuna" (1954-62), direktor Republičkog zavoda za javnu upravu (1962-64), podsekretar u Republičkom izvršnom veću Srbije (1964-67), generalni sekretar Stalne konferencije gradova i opština Jugoslavije (1967-73).

Od 1974. bio je osam godina gradonačelnik Beograda, a potom član Saveznog izvršnog veća (SFRJ) i predsednik Komisije za odnose sa inostranstvom (1982-86).

Bio je ambasador SFRJ u Vašingtonu od 1987. do 1989. kada je opozvan zbog neslaganja sa politikom Slobodana Miloševića. Iz tog mandata ostao je upamćen njegov doprinos prebacivanju zaostavštine američkog naučnika srpskog porekla, Nikole Tesle, iz SAD u Beograd.

Po povratku iz SAD, dao je otkaz u Saveznom sekretarijatu (ministarstvu) za inostrane poslove i sa nekoliko prijatelja formirao konsultantsku firmu "Pro-man", iz koje se ubrzo povukao i otišao u prevremenu penziju 1991.

Bio je aktivan član nekoliko nevladinih organizacija. Od 1994. je bio aktivan u Evropskom pokretu u Srbiji, a od 1999. do 2011. i predsednik organizacije.

Bio je kopredsednik Igmanske inicijative.

Kovačević je bio i funkcioner Civilnog (srpsko-albanskog) dijaloga; predsednik Asocijacije multietničkih gradova jugoistočne Evrope - PHILIA, koja je osnovana u junu 2005. godine u Zagrebu. Predavao je na diplomatskim akademijama u Beogradu i Podgorici.

Bio je predsednik Spoljnopolitičkog saveta Ministarstva spoljnih poslova koji je formiran 6. septembra 2007. na inicijativu šefa srpske diplomatije Vuka Jeremića.

Dobitnik je međunarodne nagrade "Haas International Award" 2000. godine.

Autor je knjiga "Urbanizacija u svetu i u Jugoslaviji", "SAD i jugoslovenska kriza", "Srbija i svet: između arogancije i poniznosti", "Međunarodno pregovaranje" i "Amerika i raspad Jugoslavije", kao i tri rečnika na kojima je radio 14 godina: "Srpsko-engleski rečnik idioma, izraza i izreka", "Englesko-srpski frazeološki rečnik" i "Srpsko-engleski frazeološki rečnika".

Govorio je engleski, francuski i ruski jezik. Iza sebe je ostavio kćerku Jelenu i sina Radovana.