0. я что-то не понял у вас сколько субскрайбер портов, что вы хотите трафф через iptables прогнать, 50-60 что-ли?
1. это не задача защиты pppoe сервера, а контроля L2 траффика на дсламе
2. дсламы управляются своей NMS -- там должны быть возможности по поднятию алармов в случае флуда, мак-мува и пр. Контроль за такой проблемой производится в NOCe реалтайм так сказать.
3. в принципе дслам (не знаю про dlink) может передавать информацию о субскрайбер порте на pppoe сервер, где вы можете с помощью демона вырубать порт или понижать CIR на дисламе.

перекинуть очевидно можно, пишите демона, который:
1. при аутентификации юзера, будет писать в таблицу порт/мак, на RADIUSе к примеру
2. при обнаружении подозрительного траффика каким-нибудь анализатором к примеру Snort, пусть рубит порт через CLI dslam'a


про subscriber ports, я сомневаюсь что ваш сервак справится с пропуском через один порт пикового траффика ваших юзеров хотя бы с одного дслама, тем более через iptables. Либо делать каскад серверов, либо ставить железный фаэрволл