La începutul secolului al doilea, au apărut noi amenințări la adresa creștinismului, căci norii negri ai gnosticismului s-au ivit la orizont. Deși tradiția orală era des folosită în prima etapă a creștinismului, ulterior aceasta și-a pierdut mult din importanță. Creștinii au început să realizeze că este nevoie de un set de cărți care să fie recunoscute ca autoritate supremă. Astfel, se putea face distincție între scrierile autentice și celelalte lucrări ale ereticilor. Creștinismul trebuia să rămână o ideologie pură, autentică și să nu se amestece cu tot felul de idei ciudate care apăreau pe piață. În mod surprinzător, ereticii au jucat un rol important în formarea canonului Noului Testament. Aceștia au motivat biserica creștină să identifice lucrările apostolilor și să le canonizeze. Au existat mulți eretici care au trăit în primele secole ale creștinismului.

          Primul dintre cei despre care avem mai multe informații este Basilides. Acesta și-a desfășurat activitatea între anii 117-138. El a fost unul dintre părinții gnosticismului. Basilides credea că mântuirea se dobândește prin cunoaștere și nu prin credința în jertfa lui Isus Hristos. De fapt, el a negat că Mântuitorul a murit pe cruce, argumentând că divinitatea nu poate suferi în acest mod. Basilides a crezut că, în ultimul moment, Simon din Cirene a fost schimbat cu Isus Hristos. El a pretins că Simon a fost răstignit, în timp ce Mântuitorul râdea de inamicii Lui și se înălța la cer. Aceste învățături nu au nimic în comun cu ceea ce spune Biblia. Totuși, Basilides a lăsat în urmă și un lucru pozitiv. Se știe că el s-a referit la prima Epistolă a lui Pavel către Corinteni cu sintagma „spune Scriptura” - prima dată când cineva din exterior îi asociază această formulă unui citat din Noul Testament.

          Următorul mare eretic, Valentinus, a fost un gnostic mai popular decât Basilides, care și-a desfășurat activitatea în jurul anilor 135-165. Acesta a încercat să schimbe creștinismul, folosind un amestec de idei creștine autentice și de speculații de natură orientală și grecească. El a scris inclusiv o lucrare pe care a numit-o „Evanghelia adevărului". Foarte probabil, Valentinus era conștient că unii creștini foloseau deja cărți pe care le considerau autoritare. Așadar, el a trebuit să concureze cu aceste scrieri ale creștinismului. Altfel, acesta nu și-ar fi intitulat lucrarea într-un mod atât de îndrăzneț.

          Unul dintre cei mai nocivi eretici, care a urgentat proclamarea canonului, a fost Marcion. În anul 144, acesta a fost chemat de clerici la Roma, pentru a-și expune convingerile sale teologice. În urma acelei vizite, Marcion a fost excomunicat și i s-au restituit multe dintre donațiile pe care le făcuse bisericii. Marcion credea că Dumnezeul Vechiului Testament (un Creator sever) nu are nicio legătură cu Dumnezeul Noului Testament (care este un Dumnezeu iubitor) și că Îi este inferior. Marcion se considera urmașul apostolului Pavel, despre care a crezut că este singurul apostol adevărat al lui Isus Hristos. Acest eretic și-a format propriul canon de cărți sfinte, din care a eliminat orice influențe iudaice (e. g. Vechiul Testament, cărțile din Noul Testament care nu au fost scrise de Pavel). El a ales unele Epistole scrise de Pavel (Romani, 1 și 2 Corinteni, Galateni, Efeseni, Coloseni, Filipeni, 1 și 2 Tesaloniceni, Filimon), după ce a eliminat din ele lucrurile cu care nu era de acord. Tot astfel, singura Evanghelie pe care a păstrat-o a fost Luca, însă doar parțial (aproximativ 75%). Bisericile marcionite au promovat alte câteva idei dubioase. Acestea au interzis căsătoria și nașterea de copii, astfel încât toți convertiții trebuiau să vină din afară. Analizând acțiunile lui Marcion, putem deduce că, în vremea lui, exista deja o colecție de cărți care erau considerate autoritare (epistolele lui Pavel). Marcion a folosit această listă de cărți (pe care o putem privi ca pe un pre-canon) pentru a-și stabili propriul lui canon.

          Nucleul de bază al Noului Testament a început să se cristalizeze în jurul anului 200 și în perioada imediat următoare, lucru confirmat și de către cercetătorul Von Campenhausen. Acesta afirmă că acceptarea cărților revelate ale Noului Testament nu s-a făcut prin forță sau prin jocuri politice ale bisericii. Judecățile sinodale și scrisorile episcopale referitoare la conținutul Bibliei au fost mai frecvente doar începând cu secolul al patrulea și au avut, inițial, o importanță locală. Deci recunoașterea canonului nu s-a făcut prin metode umane (așa cum consideră, din nefericire, unii oameni care nu se documentează). Dumnezeu le-a luminat mintea grupurilor de creștini din diferite părți ale Imperiului Roman pentru a accepta doar cărțile pe care El dorea să le includă în canon. Cercetătorul Metzger împarte evenimentele din această perioadă în funcție de locația lor (estul și vestul Imperiului Roman).