As already mentioned in the comments it is very likely that Weil's heuristics appear in "Numbers of solutions of equations in finite fields", Bull. Amer. Math. Soc. 55(5): 497--508 (May 1949). But as Grothendieck says in Récoltes et Semailles:
L’un des plus anciens et des plus cruciaux de ces invariants [topologique], introduits déjà au siècle dernier (par le mathématicien italien Betti), est formé des différents “groupes” (ou “espaces”) dits de “cohomologie”, associés à l’espace. Ce sont eux qui interviennent (surtout “entre les lignes”, il est vrai) dans les conjectures de Weil, qui en font la “raison d’être” profonde et
qui (pour moi du moins, “mis dans le bain” par les explications de Serre) leur donnent tout leur sens. Mais la possibilité d’associer de tels invariants aux variétés algébriques “abstraites” qui interviennent dans ces conjectures, de façon à répondre aux desiderata très précis exigés
pour les besoins de cette cause-là — c’était là un simple espoir. Je doute qu’en dehors de Serre et de moi-même, personne d’autre (pas même, et surtout, André Weil lui-même !) n’y croyait vraiment...
The earlier reference I found relevant to the discussion is J. P. Serre "Sur la topologie des variétés algébriques en caractéristique $p$", Symposium internacional de topología algebraica, Mexico (1958), pp. 24–53. Just published the same year as Grothendieck's talk at the ICM.