dos attacken auf proftpd

[fulltilt]

habe seit 2 tagen auf 2 systemen zur gleichen zeit heftige dos attacken auf den ftp server (load bis 110%) ...
die angreifer habe ich erst mal ausgesperrt allerdings gehts bestimmt bald wieder los
gibt es bei proftpd ein sicherheitsproblem bzw was kann man noch tun um diese verbindungen zu blockieren - fail2ban hat da nicht schnell genug reagiert bzw überhaut noch reagiert ...
MaxInstances 30 (proftpd.conf)
wäre ist es ratsam die MaxInstances noch weiter runter zu setzen?

##edit##
habe hier noch etwas entdeckt:
fail2ban.actions.action: ERROR iptables -N fail2ban-proftpd
iptables -A fail2ban-proftpd -j RETURN
iptables -I INPUT -p tcp -m multiport --dports ftp,ftp-data,ftps,ftps-data -j fail2ban-proftpd returned 400