早在第四世紀初年,羅馬帝國以天主教為國教之後,帝國皇帝偶爾就頒佈反對異端的法令。那個時代有些主教,如聖奧斯定(Sant'Agostino)和聖若望'金口'(San
Giovanni Crisostomo),也接受反異端的法律,不過他們反對判處異端者死刑。雖然有這些壓制異端的法律存在,可是一般而論,教會對使用暴力來對付異端的作法很表示懷疑,而且有所保留。直到中古世紀初期,還沒有聽過有異端者遭處死的例子,頂多只是監禁而已。
當時歐洲某些地方也發生類似的事件,有些地方的主教就反對把異端者處以死刑。比利時列日教區的主教沃森(Wason)在公元一零四五年曾寫信給法國沙隆(Chalons)教區的主教說:「我們沒有得到權力,用現世的刀劍奪去那些我們的創造者和救贖主願意讓他們活下來,以便脫離魔鬼圍困的人的生命。那些今天在上主的道路上與我們作對的人,因著天主的聖寵,將來在天國也能成為我們的長上…。我們蒙召作主教的人,我們受天主傅油不為叫人死亡,而是為給以生命」。聖伯爾納多(San
Bernardo di Clairvaux)關于公元一一四四年德國科隆異端者的事件強調:首先應該說服他們,可是如果開除教籍還不夠,才需要使用暴力,以便保存上主的葡萄園免於狐狸的破壞。
就在聖伯爾納多那個時代,有意大利'卡馬爾多利'(Camaldoli)隱修會著名的隱修士,法學家格拉齊亞諾(Graziano),他在一一四零年寫了一部'不協調法律之協調'(Concordia
discordantium canonum或稱Decreto di Graziano)的巨作,盛行一世。這位隱修士法學家綜合協調過去所有的羅馬法典法規,認為抵制異端有三個步驟:首先,對異端者進行說服;其次,如果第一個方法行不通,則交給教會依照教會法典給以處分;最後,如果第二個途徑也無效,則交給世俗的法律去處置。世俗的法律處置的辦法是沒收異端者的財物,或者加以刑罰,但沒有明訂處以死刑。公元一一七九年召開的羅馬拉特朗第三屆大公會議把異端者分為兩大類:一類是可以用精神的處分使之悔改皈依的;另一類是必須加以消除的,因為他們形成黨羽。
中世紀的異端裁判法庭大致可以分為三類:第一類是由世俗政權掌握的,公元一二二四年西西里國王兼神聖羅馬帝國皇帝腓德烈二世,一二二九年的法蘭西國王路易九世,都執行這樣的裁判和刑罰;第二類是由地方主教主持的,一二二九年法蘭西圖盧茲(Toulouse)的教務會議決定,每位主教都在本教區內的每個本堂區任命一位神職人員和兩三位生活無可指責的教友,從事徹底調查本堂區的異端事件,並把調查的結果交給主教和地方行政長官處置;第三類是羅馬教宗設立的,一二三三年額我略九世教宗重新採用過去的法律,成立異端裁判法庭,直屬教宗管轄。他把調查審訊的工作交給通稱道明會的'宣道兄弟會'和通稱方濟各會的'小兄弟會'來負責。為了探究事實,教宗還在一二五二年准許在審訊過程中使用拷問逼供的手段。異端者一旦被判刑,便交給世俗政權去執行刑罰,但是責任由教會肩負。教會為了良心平安的緣故,便在神學中尋找合法壓制異端的理由根據,聖多瑪斯•阿奎納當時就為此工作。他在所著的巨作'神學大全'(La
Somma teologica)中說:關于異端,必須想到兩件事:「第一件是從異端而來的,那就是罪惡;第二件是存在教會內的,那就是憐憫。異端所破壞的是信德,那是靈魂的生命,所以異端遠比偽造金錢以應付現世生活需要的罪行更為嚴重。如果偽造金錢和干犯其他罪行的人都立刻被國王處死,那麼異端者除了被開除教籍外,豈不更應該被處死。可是教會是憐憫的,它願意叫誤入歧途的人歸正,所以並不立刻給人定罪,而是先給以第一次和第二次的警告,就像宗徒所教導的一樣。經過兩次警告後,如果異端者執迷不悟,規勸無效,教會為了拯救其他人的靈魂,只好將他開除教籍,使他離開教會,把他交給民間世俗的權威去處死」。