O Sudoku é, na verdade, a evolução de vários jogos e grelhas bem mais idosas. Voltemos ao século XVIII, quando o suíço Leonhard Euler inventou o Quadrado Latino, uma matriz com o mesmo número de linhas e colunas, onde os elementos não se repetem nas linhas e colunas. Contudo, era só uma invenção para estudos de álgebra.
Antes do Quadrado Latino, porém, houve alguns predecessores, os Quadrados Mágicos, com cerca de 4 mil anos de história. Nesses quadriculados, um mesmo número corresponde à soma dos algarismos de cada linha, coluna e diagonal.
O mais antigo quadrado mágico que se tem notícia é o Lo Shu Square, encontrado em manuscritos chineses de 2.800 AC, que faziam parte da lenda sobre como acalmar a fúria do rio Lo. No Egito e na Índia, os quadrados mágicos apareceram gravados em pedra ou metal, como forma de talismã e tinham lugar na astrologia e na religião.
No final do século XIX, passatempos com números começaram a ser veiculados nos jornais franceses. O Sudoku atual estava quase pronto em 1892, quando o diário parisience Le Siècle publicou o primeiro quadrado mágico de 9x9, dividido em quadrantes de 3x3.