Dans le livre le plus ancien du Nouveau Testament, la première épître aux Thessaloniciens, Paul est très sévère avec les Juifs qui refusaient de se convertir : « Ce sont eux qui ont fait mourir le Seigneur Jésus et les prophètes, qui nous ont persécutés, qui ne plaisent pas à Dieu, qui sont hostiles à tous les hommes. » (1 Th 2.15). Ensuite, Paul a eu la sagesse d’analyser les faits et il en est arrivé à la conviction que la survivance du judaïsme pouvait relever du désir de Dieu et qu’elle avait un sens pour l’Église. Dans les chapitres 9 à 11 de l’épître aux Romains, qui est le seul passage du Nouveau Testament qui traite théologiquement la question de la relation entre Juifs et chrétiens, Paul assigne une vraie place au judaïsme. Il affirme que Dieu ne rejette pas son peuple et il comprend que la résistance du judaïsme peut avoir des origines divines, comme une étape qui relève de la patience de Dieu. Dans son endurcissement, Israël est encore le peuple de Dieu.
Pour évoquer la situation de l’Église par rapport à Israël, Paul utilise l’image de la greffe (Rm 11.16-24). La racine est saine et sainte, c’est Israël. Les chrétiens sont des branches qui ont été prises sur des arbres sauvages pour les greffer sur la bonne racine. Pour faire place au greffon, il faut que les branches naturelles soient coupées, c’est pourquoi une partie d’Israël n’a pas reconnu le Christ. Mais l’endurcissement d’Israël n’est que provisoire, la désobéissance n’est qu’un stade, la miséricorde est le but.
À la suite de Paul, les chrétiens ne devraient jamais oublier qu’ils ne sont qu’une pièce rapportée, implantée au sein d’un peuple saint. Israël est la racine qui les porte, qui les nourrit et qui leur donne la sève nécessaire à leur huile. Et nous le savons bien, une branche qui n’est plus alimentée par le tronc sur lequel elle est greffée finit par se dessécher.