Pour ce qui est des nouveautés profanes des profanes, saint Augustin les pourchasse en se basant sur l'autorité des anciens Pères: «J'écrirai,» dit-il, «peu de choses sur un petit nombre d'hérétiques, mais des choses telles que nos contradicteurs soient forcés de rougir et de s'avouer vaincus, si toutefois il leur reste quelque crainte de Dieu ou des hommes.» Son expression «peu de choses sur un petit nombre d'hérétiques» s'explique par ce fait, que le «petit nombre» en question était uni de communion ouverte avec les autres hérétiques.