Чем отличается contiguous DMA и scatter/gather DMA хорошо описано здесь: http://habrahabr.ru/post/37455/
- contiguous DMA - ему необходим последовательный непрерывный участок физической памяти выделенный под DMA-буфер, и в DMA контроллер передается physical address или что тоже самое bus address этого участка памяти
- scatter/gather DMA - ему необходим односвязный список дескрипторов в каждом из которых записаны физические адреса и размеры всех виртуальных страниц памяти выделенной под DMA-буфер, т.е. буфер может быть фрагментирован и выделен обычным malloc

Но чем от них отличается chain-DMA или это синоним scatter/gather DMA?

Понятно, scatter/gather DMA это общее название DMA использующего SGL(scatter-gather list).
В него входит 5 пунктов: DMA и виртуальная память, IOMMU и AGP GART
- 1-3 обычно не используются
- 4 - это и есть chain-DMA, когда односвязный список дескрипторов SGL(scatter-gather list) описывающий соответствие виртуальных и физических страниц расположен в ОЗУ в непрерывной области
- 5 - это более продвинутый способ с использованием IOMMU , когда устройство само содержит аналог процессорного MMU , которое вместо SGL(scatter-gather list) использует стандартные таблицы страниц PD/PT .

И кстати вопрос, сейчас в современных PCI-Express устройствах есть IOMMU и если есть, они располагаются на стороне устройства или на стороне процессора CPU (там же где и контроллер PCI-Express)?