No hay certeza sobre el origen familiar de quien fue una de las cumbres tempranas del pensamiento andalusí pues mientras que él decía ser descendiente de un persa que fue mawla o cliente del hermano del fundador de la dinastía omeya en Oriente, algunos andalusíes lo ponen en duda, al igual que Miguel Asín Palacios y Emilio García Gómez, que le atribuyen una ascendencia hispana.
De lo que no cabe duda es de que su familia estaba asentada en Montija, a unos pocos kilómetros de Huelva, perteneciente a la Cora de Niebla. Fue su abuelo quien se trasladó a Córdoba durante el califato, y su padre, Abú Úmar Áhmad, fue visir con el dictador Almanzor y sus hijos, hasta ser apartado de su cargo a la caída de Hisham II.
Le tocó vivir los últimos años del califato omeya de Córdoba y los trágicos sucesos que llevaron a los reinos de taifas. Ibn Hazm optó por abandonar Córdoba el 13 de julio de 1013, con 18 años, tras la muerte de su hermano mayor en la epidemia de peste de 1011 y de su padre, asesinado en 1012. Se instaló en Almería. Esto sería el inicio de un largo deambular por diversas taifas que, ante su deseo de restauración del califato omeya, lo hizo ir contra viento y marea. E. García Gómez lo calificó de "intelectual vagabundo". Acérrimo defensor de los Omeyas sufrió varias veces la cárcel, destierros, quema de sus obras en la Sevilla de al-Mutádid, pero también llegó a ser visir, aunque de forma muy efímera.
El gran historiador Ibn Hayyán destacó que discutía con todo aquel que le contradecía, y que lo hacía de forma virulenta, lo que provocaba que "los corazones se apartaran de él". Ese carácter lo llevó a mantener controversias religiosas y jurídicas, entre otros lugares, en Córdoba, Almería, Málaga, Denia y, la más célebre, en Mallorca; en este último caso con Abú l-Walid al-Bayi (Badajoz, 1013-Almería, 1081). La mayor parte de la vida de Ibn Ḥazm estuvo consagrada al estudio y a componer sus obras, pues terminó recluido en la finca familiar de Montija, donde falleció el 15 de agosto de 1064.
Ideológicamente, derivó del malikismo imperante en al-Andalus al chafiísmo, para adherirse finalmente a la escuela jurídica zahirí, literalista, haciendo el camino contrario a uno de sus maestros, Abú Úmar Ibn Abd al-Barr, asentado en Játiva.
Uno de los hijos de Ibn Hazm, Abú Ráfii, declaró que las obras de su padre sobre derecho, hadiz, fundamentos religiosos, doctrinas y sectas, más otras sobre historia, genealogía, libros de bellas letras y réplicas (además de obras sobre medicina), alcanzaron unos 400 volúmenes que contenían cerca de 80.000 folios. En la entrada correspondiente de la Biblioteca de al-Andalus se catalogan un total de 143 títulos.
Una de sus obras más conocida ahora, Tawq al-hamama (El collar de la paloma), es un tratado acerca del amor y los amantes. Está considerada como la mejor obra literaria andalusí, pese a que tanto su autor, como sus contemporáneos, no la valoraran. La relación de esta obra con Almería es importante y no solo por el hecho de que su autor la dedicara a un almeriense, que seguramente sería su mecenas y protector, cuyo nombre omitió el copista oriental, sino que también por dejar constancia de su primera estancia en la ciudad, en pasajes que documentan hechos importantes acaecidos en aquella convulsa época.
Ibn Hazm volvió a residir en Almería durante, al menos, otros dos periodos: uno antes del 1038, año en el que iba en las filas de la comitiva que Zuhayr encabezó contra Granada, a consecuencia de lo cual fue encarcelado por Badís y después liberado, y otra en torno a 1049, acompañado de su discípulo al-Humaydi, cuando Maan Ibn Sumádih regía los destinos de Almería. Precisamente, al fundador de la dinastía sumadihí en Almería dedicó una epístola, hoy perdida, titulada Epístola a Ibn Sumadih sobre la promesa y la amenaza, que, al parecer, tenía contenido teológico.
En Almería, el nieto del primo hermano de Ibn Hazm, Abú l-Jattab al-Alá Ibn Abí l-Mugira, murió en extrañas circunstancias once días después de desembarcar, tras un periplo por Oriente de más de ocho años de duración; era el 27 de octubre de 1062 y tenía entonces tan solo 32 años.