Дизайн народного RLC-метра (RLC-3)
Учитывать это надо, имхо, весовыми калибровочными коэффициентами. Как раз для очень больших и очень маленьких импедансов и вводится разные веса разрядов (т.е. мы либо уменьшаем вес разряда для маленьких значений, либо увеличиваем его (оставялем таким как он есть) для больших). Одно из неудобств - возможно придётся перейти на более битную арифметику. Хотя в любом случае, при обсчёте 1000 значений придётся добавить 10 бит, арифметика плавно выльется в 32 разрядную полюбому (10 бит АЦП, 10 бит сумма, 8-12 бит синус (при перемножении)плюс весовой коэффициент).
Как вариант, если есть свободная память, можно забить таблицу синусов для разных весовых коэффициентов. Хотя не прокатит, всё равно нужно ведь калибровку делать (лучше в цифровом виде). Т.к. эти расчёты выполняются только в конце измерения, думаю это не критично. меня больше волнует вопрос, даст ли это прирост точности и реализуемо ли это технически. В аналоговых цепях я не сильно силён, поэтому и думаю, не будем ли мы усиливать шумы? Хотя для фурье шумы не так страшны.
Непонятно, как весовые калибровочные коэффициенты помогут? Что получается, есть некая граница, ниже которой опорное напряжение измеряется с Ку=100, а тестовое с Ку=1, а выше оба напряжения измеряются с Ку=1, а ещё выше есть другая граница, где опорное напряжение измеряется с Ку=1, а тестовое с Ку=100. Вот на этих границах импеданс рассчитывается то с одной точностью, то с другой, в зависимости от того, с какой стороны границы импеданс находится.
Ещё один вопрос, который не решён окончательно: как МК должен определять переход от одного Ку к другому? Мысли есть, но как-то всё неоптимально и вычурно получается. Может наши практики что-нибудь подскажут, хотелось бы обсудить.
Будет какая-то определённая зона, в которой оба коэффициента усиления будут давать одинаковую - высокую - погрешность, для одного коэффициента сигнал ещё слишком мал (умещается в один-два младших разряда), а для другого - уже слишком велик - зашкал и неправильные показания.
Момент переключения: когда на максимальном усилении уровень амплитуды сигнала больше максимального сигнала АЦП, тогда переключаемся на меньшее усиление. Во время измерений уже коэффициенты никуда не переключаются (если кто-то подумал, что можно переключать усиление по ходу изменения синусоиды).
Pitty: Момент переключения: когда на максимальном усилении уровень амплитуды сигнала больше максимального сигнала АЦП, тогда переключаемся на меньшее усиление
Так в этом и есть проблема: как измерить амплитуду, да ещё при максимальном усилении, т.е. при максимальном уровне шумов/помех.
Я пытался реализовать следующий вариант:
1. Подаем на измеряемую цепь сигнал амплитудой, скажем, 1 В. Определяем параметры цепи.
2. Делаем то же самое при 2 вольтах. Если определенные параметры разошлись с первым измерением более чем на 5% - начинаем играться с усилением.
Кусок остался недоделанным 
Как-то не козявисто, это значит, что время одного измерения по крайней мере удваивается. А если вариантов Ку не два, а три или больше, да ещё по двум каналам. да ещё последовательный обмер каналов..С ума сойдёшь ждать.
Проще всего проводить текущую оценку энергии сигнала в каждом канале за определенное время, скажем, 10% от цикла измерения. А это означает, что в течение каждой выборки необходимо производить не только накопление выборок или частных сумм, но и вычисление сумм квадратов сигнала по каждому каналу (интегральная оценка уровня сигнала). При превышении некоторого порога все выборки должны быть отброшены и должен быть начат новый цикл измерения с другим Ку.
GM: С ума сойдёшь ждать.
Вообще то у вас согласно схемы АЦП имеет дд гораздо больше чем диапазон выбираемых КУ , ( даже для 10битного АЦП, имея 1023 шага оцифровки можно выбирать КУ до 1024 включительно ) вы всегда можете на минимальном КУ (=1 ) провести измерение, потом оценив амплитуду выбрать нужный( ака оптимальный) КУ просто по таблице, не требуется ничего перебирать.
Вот ещё интересная микросхема AD9533
http://www.analog.com/static/imported-files/data_sheets/AD5933.pdf
Особенно ценой - 1880 руб в Платане 
Хотя это почти то, что хотелось бы.
Что-то я не понял, какая проблема с коэффициентом? Либо так как сказал НИКИТОС, либо по другому. Задержка максимальная на 1 период тестового сигнала. Включаем максимальное усиление. Определяем максимальное значение на периоде (надеюсь, у нас будет больше 18-24 отсчётов на период). Если максимум находится на пределе текущего диаппазона (т.е. максимальное входное значение больше либо равно 1022 (т.е. происходит клиппинг)), то переключаемся на нижний предел усиления.