Ce pouce dans la bouche de mon loulou

Mon fils de trois mois vient de découvrir son pouce après des mois à mettre ses mains et ses doigts à la bouche.
Il a toujours rejeté les tétines.
Je ne sait pas comment réagir face à ça sachant que j'ai moi-même sucer mon pouce jusqu'à l'âge de neuf ans et que je sais qu'il est très difficile de s'en séparer. Dois-je lui retirer au maximum ou le laisser tranquille car ça l'apaise?