*English translation below*

Si l'ensemble des sous-groupes **fermés** suffit, la topologie de Chabauty est une topologie naturelle sur l'ensemble des sous groupes fermés d'un groupe $G$ localement compacte. Pour des définitions précises et quelques résultats, voir par exemple:

http://www-fourier.ujf-grenoble.fr/~bkloeckn/papiers/ChabautyR2.pdf

If it is enough for you to restrict your self to closed subgroups, the Chabauty to oology is a natural topology on the set of closed subgroups of a locally compact group $G$. Definitions and some results can be found here for instance: 

http://www-fourier.ujf-grenoble.fr/~bkloeckn/papiers/ChabautyR2.pdf