Представь что ты зашел на форум среди Академиков медецины, и спрашиваешь как провести сложнейшую операцию по трепанации черепа. Как ты думаешь что они тебе ответят? Сперва проучись 5 лет в мед институте, потом 4 в ординатуре, прочитай сотню книг по медецине

Твой вопрос здесь звучить подобно. И ответ будет подобный.
Без обид.

Меня интересует как физически организовать сеть, чтобы DMZ и Интернет взаимодействовали безопасно.
Ну сам подумай, ответ на этот вопрос лежит в теории построения сетей. Если ты не понимаешь как, то советую подучить теорию. В форуме ответ на этот вопрос ты не получишь в силу необходимости очень длительного его разжевывания.

На чем лучше поднимать FireWall на FreeBSD или ISA Server.
Вопрос не совсем корректен. FreeBSD  это операционная система, ISA это прокси сервер /firewall. Безусловно решение на основе ISA Server более гибкое, однако оно значительно дороже. Firewall на FreeBSD построить проще, но сложнее сконфигурировать. И это будет только firewall  без функций проксирования и фильтрации контента.

Как спроектировать сетку, чтобы ее не могли сломать из инета?
Опять же вопрос из теории сетей. Читай теорию.

От модема кабель идет в сетевуху компа.
От модема кабель идет в сетевуху компа. От второй сетевухи комп смотрит в локальную сеть. На компе стоит ISA 2003.

Если ISA 2003 сконфигурирован правильно, то абсолютно нормальная конфиурация. ПОспорь на 100 баксов с тем кто тебе сказал что ее сломают за 5 минут.

Настроена локальная сеть. Модем через аппаратный маршрутизатор смотрит на 2 компа. На каждом из двух компов накручен OutPost. Каждый из компов решает свои задачи и смотрит в локальную сеть. Говорят что этот вариант труднее, но все же можно взламать.
Можно и так . Более высокая вломостойскость такой конфирурации только из-за наличия OutPost. Аппаратный маршрутизатор  хуже даже, чем ISA 2003, так как там скорее всего Firewall стоит только 3-го уровня и нет фильтрации контента, которую можно на ISA организовать.

Третий варинт: Есть локальная сеть, она соединена через комп с ISA Server в одной сетевухе, вторая сетевуха смотрит в HUB. В HUB воткнута машина с FreeBSD в которую воткнут модем. Говорят что такую сеть вообще нельзя сломать с наружи.
Можно, поверь мне. И более сложные конфирурации можно взломать. Эта конфигурация несколько бемысленна, нафига перед ISA еще один firewall ставить, да еще который в "HUB воткнут".

чёт ты про дмз базаришь а где он дмз.
и накуя городить исавинду потом фрю,типа не сломают. возьми туда ещё чёнить запихай между виндой и фрей, если бабла некуда девать

ставь то что лучше знаешь.
опенбсд руль