Rozpatrując montaż pompy ciepła trzeba zastanowić się nad wyborem właściwego rodzaju ogrzewania wodnego. Optymalnym rozwiązaniem jest praca pompy ciepła przy możliwie wysokiej temperaturze gruntu lub powietrza oraz przy realnie najniższych temperaturach zasilania systemu grzejnego budynku. Bardzo często instaluje się ogrzewanie podłogowe, które funkcjonuje już przy wskaźnikach na zasilaniu około 40 stopni. Generuje ono idealny rozkład temperatur dla użytkownika – temperatura podłogi jest wyższa przy obniżonej temp. na wysokości głowy. Podczas lata system ogrzewania podłogowego może być wykorzystywany do obniżania temperatury pomieszczeń. Innym typem ogrzewania wodnego, który doskonale współpracuje z pompą ciepła jest ogrzewanie płaszczyznowe montowane w płaszczyźnie ściany lub sufitu. Systemy kolektorów instaluje się najczęściej w ścianach zewnętrznych w okolicach okien. Na sufity wykorzystuje się maty kapilarne lub panele grzewczo-chłodzące.
Jeśli nie uda się zainstalować systemu niskotemperaturowego podczas budowy domu, istnieją urządzenia, które można podłączyć po jakimś czasie. Z pompą ciepła doskonale współpracują klimakonwektory. Montowane są one na ścianie jak powszechne kaloryfery. Ich podstawową część stanowi wymiennik ciepła wraz z nawietrznikiem, który wymusza cyrkulację. Przeznaczone są do systemów niskotemperaturowych podczas chłodnych miesięcy oraz do chłodzenia pomieszczenia w trakcie ciepłych miesięcy. Zastosowanie pompy ciepła nie przekreśla zastosowania popularnych grzejników, jednak muszą one zostać dobrane adekwatnie do niskiej temperatury zasilania. Wymiarami będą one dużo większe niż przy tradycyjnym układzie ogrzewania. Użytkowanie ich w instalacji z pompą ciepła nie umożliwi ochładzania domu w trakcie lata.