Я бы использовал структуру и возможности ООП javascript'а. Например:
Структура (очень кратенько, для удобства надо расширять):
Потом при построении таблицы создавать и вставлять строки в соответствии со структурой. За открытое/закрытое состояние отвечает параметр status, который меняем в зависимости от состояния. Если у элемента есть параметр rows, то добавляем обработчик клика на строку (не помню или можно на всю, я вроде ставил обработчик на каждую ячейку строки).
Узкое место - поиск соответствия строки таблицы строке в структуре. Это можно либо реализовать идентефикаторами строк, либо "натянуть" структуру на саму таблицу (не очень удобно, так как теряется желаемая иерархия), либо идеальный - совмещенный - каждой строке добавлять пареметр-ссылку на объект из нашей структуры. Ну, а с непосредственной реализацией, думаю, проблем не должно быть - кликаем, проверяем есть ли "дети", если есть - в цикле проверяем всех "детей", создаем соответствующие строки с хандлерами, если у них есть "дети", и добавляем в таблицу. Дальше уже идут вариации - закрывать ли "детей" других строк, открывать ли всю подструктуру и т.д.