From wortel (“(square) root”) + teken.
wortelteken n (plural worteltekens, diminutive worteltekentje n)