Billy rencontre Proust, son cadet de deux ans, à un déjeuner chez le préfet du Loiret en 1890. Tous deux sont militaires. Billy, élevé dans un milieu rigoriste, est frappé de la liberté de Proust, qui lui apprend « la joie de penser autrement que par principes ». « Marcel, écrit-il, avait à dix-neuf ans la curiosité la plus éveillée et la variété de ses questions était pour moi un étonnement et un embarras. [...] Jamais homme ne fut si peu dogmatique. » Billy restera proche de Proust jusqu'à la mort de ce dernier en 1922, pendant plus de 30 ans. C'est pourquoi son témoignage est avec celui d'Antoine Bibesco l'un des plus riches et des plus pertinents. Billy souligne ainsi que Proust ne lisait pas beaucoup, Mais il ne cessait de questionner les uns et les autres et emmagasinait ce qu'il entendait et voyait avec une mémoire prodigieuse. « Il y a quelque chose d'héroïque dans le contraste qui existe entre le travail minutieux même Marcel s'assujettissait et la persuasion où il vivait du peu de durée qui serait accordé à sa vie. » Proust n'a cessé d'admirer l'esprit de Billy. L'année même de sa mort, il lui écrit encore : « Vous êtes un grand psychologue et puis c'est si amusant de causer avec vous. » Il ne cesse de lui demander conseil sur les questions les plus diverses : carrière, convenances, diplomatie, bourse (qui lui cause de grands soucis...)... « Je tiens tant à votre amitié, lui écrit-il, que je suis peut-être trop craintif à ce sujet. » Même lorsque Proust se fut coupé du monde, Billy était, selon Céleste Albaret, avec Antoine Bibesco et Mme Straus, « un des plus reçus » bd Haussmann et ses visites « duraient trois, quatre, cinq heures, très avant dans la nuit. »