Wir untersuchen den Einsatz von textgenerierenden LLMs als maßgeschneiderte Tutoren im Mathematikunterricht. Trotz des wachsenden Interesses identifizieren wir erhebliche Herausforderungen sowohl in Form inhärenter Schwächen als auch hinsichtlich verbreiteter Fehlvorstellungen über deren Funktionsweise. Unsere Erhebung mit 54 Mathematik-Lehramtsstudierenden zeigt eine ambivalente Haltung bezüglich einer solchen Anwendung. Anhand dieser Erhebung und eines von uns entwickelten prototypischen LLM-Tutors diskutieren wir Grenzen, Möglichkeiten und Herausforderungen im Mathematikunterricht.