English translation below
Si l'ensemble des sous-groupes fermés suffit, la topologie de Chabauty est une topologie naturelle sur l'ensemble des sous groupes fermés d'un groupe $G$ localement compacte. Pour des définitions précises et quelques résultats, voir par exemple:
http://www-fourier.ujf-grenoble.fr/~bkloeckn/papiers/ChabautyR2.pdf
If it is enough for you to restrict your self to closed subgroups, the Chabauty to oologytopology is a natural topology on the set of closed subgroups of a locally compact group $G$. Definitions and some results can be found here for instance:
http://www-fourier.ujf-grenoble.fr/~bkloeckn/papiers/ChabautyR2.pdf