Z Komunistyczną Partią Niemiec związał się na początku lat 30. XX wieku. Po objęciu władzy przez Hitlera zaczyna konspirować. W 1943 roku na jego trop wpadło gestapo. Od stryczka uratowała go nieprzeciętna wiedza chemiczna, która – jak uznał Wehrmacht – mogła zostać użyta na potrzeby wojenne.
Początkowo w NRD robi karierę – wstępuje do partii komunistycznej SED i zostaje szefem Instytutu Chemii Fizycznej na Uniwersytecie Humboldtów. Gdy 1963 r. Havemann zaczyna krytykować SED za dogmatyzm, zostaje usunięty i z partii, i z funkcji szefa instytutu. Nie ustępuje jednak i w 1968 r. protestuje ponownie – tym razem przeciwko udziałowi wojsk NRD w zdławieniu praskiej wiosny.
W 1976 r. zostaje osadzony w areszcie domowym. Jego domek w Grueneheide pod Berlinem wygląda jak oblężona twierdza: przy wejściu stoi radiowóz Volkspolizei, a z zaparkowanej nieco dalej ciężarówki policjanci podsłuchują jego rozmowy telefoniczne.
Umiera 9 kwietnia 1982 r. Po upadku muru berlińskiego jest pierwszym dysydentem, którego władze NRD chcą na gwałt rehabilitować. 16 listopada 1989 r. Akademia Nauk zwraca mu członkostwo, podobnie postępuje rozpadająca się SED.
Przed kilkoma laty Niemców zbulwersowała książka jego syna Floriana. Zarzucił on ojcu serwilizm wobec władz NRD z lat 50. i 60. Podkreślał, że nie był on prawdziwym opozycjonistą, tak jak polscy KOR-owcy. Do śmierci liczył na cofnięcie klątwy SED.