Sprawność powietrznej pompy ciepła najczęściej opisuje się współczynnikiem efektywności (COP), czyli stosunkiem uzyskanej mocy cieplnej do pobranej mocy elektrycznej. Dla pomp powietrze–woda (i powietrze–powietrze) kluczowe jest to, że źródłem dolnym jest powietrze zewnętrzne, którego temperatura w sezonie grzewczym istotnie się zmienia.
Gdy temperatura zewnętrzna jest dodatnia, parownik łatwiej "odbiera" ciepło z powietrza, a układ chłodniczy pracuje przy korzystniejszych parametrach. Zwykle oznacza to mniejszą wymaganą różnicę temperatur w obiegu i mniejszą pracę sprężarki, a więc lepszą efektywność całego urządzenia.
Odpowiedź "niezależnie od temperatury zewnętrznej" jest błędna, bo dla pompy powietrznej temperatura źródła dolnego jest jedną z głównych zmiennych wpływających na COP. Odpowiedź "w ujemnych temperaturach" jest błędna, ponieważ mróz zwiększa trudność poboru ciepła z powietrza, a dodatkowo może wymuszać odszranianie wymiennika, co chwilowo odwraca obieg i zużywa energię bez dostarczania ciepła do budynku. Odpowiedź "przy temperaturze 0°C" jest zbyt wąska: 0°C nie jest z zasady punktem maksymalnej sprawności; w typowych warunkach sprawność rośnie także przy temperaturach powyżej 0°C.
W praktyce oznacza to, że przy projektowaniu i eksploatacji należy brać pod uwagę: (1) zakres temperatur dla danej strefy klimatycznej, (2) temperaturę zasilania instalacji (np. ogrzewanie podłogowe sprzyja wysokiej efektywności), (3) wpływ wilgotności i szronienia na parowniku. Te czynniki razem powodują, że najlepsza sprawność jest osiągana najczęściej wtedy, gdy na zewnątrz jest po prostu cieplej.