La première session du concile se déroule du 11 octobre 1962 au 8 décembre 1962B 23. Au cours de ce concile, Karol Wojtyła, parlant le français, l'anglais, l'allemand, le polonais, le russe, l'espagnol, l'italien et le latin, devient progressivement le porte-parole de la délégation polonaiseA 37. Cette délégation étant la plus importante du monde communiste, elle jouit d'une certaine autorité sur les questions concernant la vie de l'Église au sein du bloc de l'EstA 38. Au fil des débats, Karol Wojtyła se lie d'amitié avec des évêques africainsB 24, qu'il sent animés d'une foi jeune, vivante, mais aussi avec les évêques allemandsA 38. Il croise des théologiens tels que Hans Küng et Joseph RatzingerD 5. La nomination de Karol Wojtyła comme archevêque en 1964, lui permet d'avoir une plus grande stature au sein de la délégationA 39.
Il participe de manière active au Schéma XIII du Concile Vatican II, contribuant principalement au développement de l'exhortation sur l'Église dans le monde de ce tempsB 13. Lors du Concile Vatican II, deux tendances s'affrontent sur la conception de l'athéisme, souvent liée à la représentation existante du marxisme. Karol Wojtyła ne prend jamais ouvertement position pour l'une d'entre elles, mais défend sa conception face à l'athéisme, lors d'une tribune le 21 octobre 1964 : « Nous poursuivons une quête en même temps que nos frères humains... Évitons de faire de la morale ». Il invite l'Église à employer la méthode heuristique, exactement « comme on aide l'élève à découvrir la vérité par lui même »A 40. Karol Wojtyła demande alors de considérer l'athéisme, non dans sa composante sociologique ou politique, mais avant tout dans son état intérieur de la personne humaineA 40. Ainsi lors de son intervention du 28 septembre 1965, il déclare : « L'athée croit fermement à son « ultime solitude », parce qu'il croit que Dieu n'existe pas. D'où son désir de se rendre d'une certaine manière immortel, à travers la vie de la collectivité. Nous devons donc nous demander pourquoi le collectivisme favorise l'athéisme et vice et versa ».
Le 30 novembre 1964, Paul VI reçoit pour la première fois Karol Wojtyła lors d'une audience privée. Le pape avait suivi ses interventions lors du Concile, et il lui apparaissait comme la figure la plus marquante parmi la délégation polonaiseA 32, celle d'un évêque attaché à la tradition mais recherchant résolument le renouveau de l'Église, défendant l'autorité de l'Église sans étroitesse d'esprit, tout en étant doté d'une volonté de mettre la personne humaine et son salut au cœur des préoccupationsA 41.