L'une des contributions scientifiques les plus originales du monde musulman est sans doute le développement de méthodes générales de construction des carrés magiques, permettant donc de remplir un carré ayant un nombre carré de cases par une suite de nombres naturels différents en telle sorte que la somme dans chacune des lignes et des colonnes, ainsi que dans chacune des deux diagonales principales, soit la même.
L'invention de ces méthodes peut être suivie dans le temps. Deux textes du Xe siècle, les plus anciens que l'on connaisse sur ce sujet, enseignent des méthodes particulières et quelques méthodes générales. Les textes du XIe siècle, eux, montrent que l'on savait remplir des carrés de n'importe quelle grandeur, en introduisant parfois même des conditions supplémentaires de magie. Durant les siècles suivants, ces méthodes anciennes sont perfectionnées, mais on remarque aussi l'accroissement du nombre de textes destinés à expliquer l'usage magique de carrés particuliers.
Ce sont de tels textes qui parviendront, par l'Espagne, à l'Europe de la fin du Moyen Age. Cela explique l'origine de la dénomination de " carré magique ", alors que la dénomination arabe originelle signifiait " arrangement harmonieux des nombres ".