Nacido en una familia judía alemana que huyó a Estados Unidos en 1938. Profesor en Harvard, desarrolló un seminario sobre relaciones internacionales de 1951 a 1960, desarrollando una teoría pragmática de las relaciones diplomáticas, contraria a basarla en planteamientos ideológicos y dispuesta a legitimar el uso de lo fuerza cuando estuvieran en juego los "intereses nacionales" estadounidenses.

Aunque no rechazaba la guerra como medio de acción internacional, era partidario de evitar una generalización de los conflictos mediante los contactos diplomáticos con los adversarios ("política de pequeños pasos"), que permitieran disipar las desconfianzas mutuas.

El presidente Nixon le incorporó a su administración en 1969 con el cargo de secretario ejecutivo del Consejo de Seguridad Nacional. Desde ese puesto dirigió de hecho la política exterior de Washington, antes de que fuera nombrado Secretario de Estado en 1973.

Preocupado ante todo por las relaciones con la URSS, fomentó también el acercamiento a China con su visita en 1971, previa a la de Nixon el año siguiente. Veía esta distensión con Pekín como un medio indirecto que podría hacer mejorar las relaciones con Moscú.

Dirigió las negociaciones que llevaron al acuerdo de alto el fuego de París en enero de 1973. Esto le valió, junto al representante norvietnamita Led Duc Tho, el Premio Nobel de la Paz.