Od września 1940 do kwietnia 1941 r. był więźniem KL Auschwitz (numer obozowy 4427). W 1942 r. był współzałożycielem Rady Pomocy Żydom „Żegota”. W latach 1942-1944 uczestniczył w konspiracyjnej organizacji katolickiej Front Odrodzenia Polski (FOP). W latach 1942-1945 pracował w Wydziale Informacji Biura Informacji i Propagandy Komendy Głównej Armii Krajowej (AK) a w latach 1943-1944 równocześnie w Departamencie Spraw Wewnętrznych Delegatury Rządu RP na Kraj (Komórka Więzienna i Referat Żydowski). Uczestniczył w Powstaniu Warszawskim jako żołnierz AK. Po wojnie należał do Polskiego Stronnictwa Ludowego (PSL) i był współredaktorem Gazety Ludowej. Dwukrotnie, w latach 1946-48 i 1949-1954 był przetrzymywany w komunistycznych więzieniach, a w 1955 r. uznano go za niesłusznie represjonowanego.

W latach 1963-1981 potajemnie współpracował z Radiem Wolna Europa. Od 1973 do 1985 wykładał historię na Katolickim Uniwersytecie Lubelskim. W latach 1972-1983 pełnił funkcję sekretarza generalnego Polskiego PEN Klubu. W latach 1978 - 1981 był członkiem konspiracyjnego Polskiego Porozumienia Niepodległościowego. W 1980 był współzałożycielem Komitetu Obrony Więzionych za Przekonania działającego przy Komisji Krajowej NSZZ Solidarność. Od 13 grudnia 1981 r. do 28 kwietnia 1982 r. był internowany w ośrodku internowania w Jaworzu. W latach 1983-1990 wykładał gościnnie jako profesor w Monachium, Eichstaett i Augsburgu. Od września 1990 do lutego 1995  r. pełnił funkcję ambasadora Rzeczypospolitej Polskiej w Austrii, a od 6 marca do 22 grudnia 1995 r. ministra spraw zagranicznych. Od 1997 r. do końca kadencji w 2001 r. był senatorem Rzeczypospolitej Polskiej (z okręgu Warszawa).

1 lipca 2000 r. został ponownie mianowany ministrem spraw zagranicznych, funkcję tą pełnił do końca rządów Jerzego Buzka (pazdziernik 2001 r.). Od czerwca 2001 r. jest przewodniczącym Rady Ochrony Pamięci Walk i Męczeństwa. Obecnie jest Sekretarzem Stanu w Kancelarii Prezesa Rady Ministrów, Pełnomocnikiem ds. Dialogu Międzynarodowego. Posiada liczne tytuły naukowe (między innymi profesora, nadany mu w 1983 r. przez rząd Bawarii, doktora honoris causa filozofii i nauk humanistycznych czterech unwiersytetów). W 1995 r. został odznaczony Orderem Orła Białego.  W 2011 r. został powołany przez prezydenta Bronisława Komorowskiego w skład Kapituły Orderu Orła Białego. Wkrótce objął funkcję Kanclerza Orderu. Był jednym z pierwszych Polaków, który otrzymał tytuł „Sprawiedliwy wśród Narodów Świata” w Jerozolimie (w 1963 r.). Posiada honorowe obywatelstwo państwa Izrael. Jest autorem ponad 40 książek i ponad 1500 artykułów, opracowań i przyczynków. Żonaty, ma syna.

Autorem fotografii jest Mikołaj Grynberg