Kovács har under lång tid verkat inom ungersk politik. Han sitter sedan 1990 i parlamentet för det socialistiska partiet och har varit utrikesminister i två omgångar (1994–98, 2002–04). Kovács ansvarade inom Europeiska kommissionen för tull- och skattefrågor.