1) По закону:
Иск в суд на оспаривание отцовства (назначат ДНК тест). Если подтвердится неродство - анулируется судебный приказ о назначении алиментов или соглашение, смотря что было.
Далее в суд на взыскание уплаченных алиментов. (Только за 3 года, максимум). Важно, что подать заявлении нужно в течении трех лет с момента, когда мужчина узнал или должен был узнать, что он не отец.
И ещё нюанс... Нужно доказать недобросовестность, намеренный обман или умысел матери ребенка, иначе алименты не вернуть, ведь она могла заблуждаться в отцовстве.

2) По севести:
Конечно же отменить решение суда на уплату алиментов. Оценить финансовые возможности матери и риски для ребенка, чтобы недопустить критического ухудшения положения ребенка. И только если рисков нет, перестать финансировать. Но при этой взыскивать уже уплаченное, т.е создавать финансовую нагрузку точно не стоит...
Тут еще много нюансов, таких как возраст ребенка и т.д...
В любом случае думать нужно о себе, своей совести и не забывать о ребенке, который в данной ситуации не виноват ни в чем...
Конечно же это ещё всё индивидуально... Случаи и обстоятельства бывают разные...