zloy denА вообще, инфиксная запись довольно противна в реализации. Префиксная попроще будет и возможно стоит начать с нее. На той же scheme заданные выражения будут выглядеть примерно так(префиксная запись):

(+ (^ x 2) (* 7 (cos (- y 2)))) и
(sin (+ (^ (cos x) 8) (^ x 2))На самом деле особой разницы нет. Просто разбор выражений будет немного сложнее.
В бытность студентом писал программу, которая по введенной пользователем формуле могла строить график или находить производную. Первым действием было построение дерева формулы, а далее - просто операции с ним.
Здесь надо сделать то же самое - сначала разобрать формулу и построить дерево, а потом уже применять к этому дереву некоторые алгоритмы. Работать со строкой в любом случае будет сложнее.