Profilbilder werden nur übertragen wenn du eine Nachricht schickst. Somit bleibt also das jeweils letzte Profilbild beim Gegenüber erhalten wenn du ihm nicht mehr schreibst.
Dein Kontakt bekommt es nicht mit dass du ihn löschst. Es hat auch keinerlei weitere Auswirkung, er kann dir z.B. weiterhin schreiben.