если я правильно понял вашу задачу, Вам нужен обычный распознователь того что ввел пользователь

вы определяете ваш язык, какое то множество "конструкций" которое он должен содержать (и что сможет вводить пользователь)

например: операции + - =
функции ln(x) Sin(x)

1) реализуете логику этих самых конструкций
2) и реализуете их описание

анализируете текст, разбираете его на отдельные "конструкции" (исходя из описания), дальше что то с этими элементами делаете (вызываете реализацию ваших функций)

касаемо описания:
это модель конечного автомата
начальное состояние - текущая буква S,
берем следующую букву i
следующую n

получая на входе очередной символ мы переодим в очередное состояние...

у нас это было в курсе "языки программирования" "формальные крамматики" нечто подобное... еще там звучало понятие машины тюринга, е