Как открыть поток репликации в кастом режиме

Разумно что перед стартом экспорта

Разумно, но невозможно ))

Пул потоков пуст в этот момент.. Видимо старт экспорта его наполняет.

Пул потоков тут не при чём.
Вы сами говорите что нужен стрим. К нему есть доступ и без этого, через стрим реджистри.
Это всё доступно сразу после вызова конструктора.

Перед стартом экспорта делаю trader.TableRegistry.StreamRegistry.TradeFuture.ReplicationType = ...;

Возникает InvalidOperationException: "Поток 'FORTS_FUTTRADE_REPL' не инициализирован"

Да, похоже в текущей реализации никак.

Если хотите - можете взять с codeplex последние доступные сорсы по плазе (revision 15494) и исправить данное поведение.

В 4.1 исправлено, в последней версии