Extérieurement, il ressemble à une version miniature de son collègue, avec le même museau allongé et la même longue langue, ainsi que de fortes griffes sur ses pattes avant. La différence la plus importante entre eux est que le fourmilier pygmée a une queue agrippante qui l’aide beaucoup à se déplacer dans la canopée des arbres. D’ailleurs, l’animal passe la majeure partie de sa vie dans les arbres, ne descendant au sol que dans des situations exceptionnelles.
À l’exception de la queue, de la plante des pieds et de l’extrémité du tronc, le reste du corps de l’animal est recouvert d’une fourrure brune, parfois teintée d’or. Si la rencontre avec l’ennemi est imminente, le fourmilier nain se met sur ses pattes arrière et ramène ses pattes avant vers son visage, après quoi il attaque quiconque se trouve à sa portée avec ses griffes.
Il ne vit que la nuit, se retirant dans les creux des arbres pendant la journée. Il se déplace assez lentement, ce qui le rend difficile à repérer. Chaque animal vit séparément et a son propre territoire. Ils ne s’accouplent que pendant l’accouplement et l’élevage.
Leur méthode de prédation est similaire à celle des autres membres de la famille: en détruisant le nid avec leurs puissantes pattes avant, les insectes lèchent le nid avec leur longue langue collante. Comme le fourmilier pygmée n’a pas de dents, la nourriture est broyée par les parois kératinisées de l’estomac.
