76-letni Kaltenbach od pół wieku poszukuje w sztuce rozwiązań alternatywnych. Kwestionuje stereotypowe poglądy dotyczące dzieła sztuki, kontekstu jego prezentacji, czy postaci artysty, tworząc własny „indeks możliwości” albo „protokół zaprzeczeń”.
Jego działania od połowy lat 70. przyjmują różne formy. Był czas, gdy Kaltenbach wcielał się w role fikcyjnych artystów, których nazywał Es Que? oraz Clyde Dillon. Powołał też do życia postać Regionalnego Artysty (Regional Artist) budującego swoją karierę w środowisku kalifornijskim, aby formułować refleksje na temat kondycji geopolitycznej współczesnego świata.
W cyklu plansz „Złe pomysły” (Bad Ideas, od 2002) obrazuje idee, które jego zdaniem nie powinny zostać zrealizowane.
W pracach rzeźbiarskich dąży do zatarcia odrębności artysty wobec przedmiotów. W konstrukcjach z cyklu „Alteracje pomieszczeń” (Room Alterations, 1967-1969) interesowało go zanikanie obiektu rzeźbiarskiego w modyfikowanej przestrzeni architektonicznej.
Integracja dzieła z przestrzenią jest także tematem „Obrazów ściennych”, których stopień szarości jest tak bliski kolorowi ścian, że niemal nie do odróżnienia.