Измеритель RLC-2
Cheeeper: дык он еще и 1,0 Ом меряет на 1-м,
а вот 0,9 Ом уже на 0-м.
Мой тоже. Я принудительно включил 0-й диапазон, и откалибровал его по 1 Ом.
Cheeeper: при 150 Омах у меня были выбросы до 0,1%. ИМНО это уже много.
Если числовое значение сопртивления находится вблизи числа 1000, то, как я уже писал, при изменении цифры в младшем разряде на +/-1, получим отклонение плюс/минус 0,1%. С такими исходными данными достоверно рассчитать погрешность прибора в 0,1% не удастся. А вот работая с числами вблизи 9999 или 10000, можно и 0,1% посчитать достаточно точно, только прибор не выводит пять знаков на всем протяжении диапазона, хотя можно было сделать для режима тестирования.
Cheeeper, а почему бы не Вам не проверить АЦП предложенным мною способом
http://pro-radio.ru/measure/6873-65/
Может тогда и новый АЦП покупать не надо, а только подобрать правильно резистор.
Е7-8 тоже имеет погрешность:
Для сопротивления: ±[0,001 (l+tg?) Rx + l ед. сч.] ,
Если пересчитать ее в проценты (угол потерь берем 0), то для чисел 1000 получится ±2 единицы (±0,2%), а для чисел 9999, ±10 единиц (±0,1%), так что ничто не идеально.
Кто бы вывел такую формулу для RLC-2, если уложились в допуск, не задавайте вопросов 
Хотя для заказчика, при сдаче прибора, лучше показать число 1000 ±2 (приятнее смотрится), чем 9999 ±9. На самом же деле, второе ближе к идеальному, так человек воспринимает числа.
Нашел себе подходящий по габаритам полипропиленовый конденсатор, выпаял из неработающего шасси телевизора Shivaki STV2134. На конденсаторе написано:
CBB21B
304J250S
Вставляется в отверстия платы прибора без формовки выводов. Выкладываю скан конденсатора и участок схемы шасси телевизора.
Так что, кто еще не нашел, выдирайте из своих телевизоров, а на место, что попадется
Уже поставил в прибор, заменив стоящие два в параллель здоровенные К78-2 _ 1000V, раньше, из-за больших размеров тех К78-2, я не мог закрыть экранирующую крышку платы прибора.
Новый конденсатор 0,3 мк, дает число 10004 в приборе, без резистора последовательно с конденсатором. Поставил я 100 кОм интегрирующий резистор, проверил осциллографом напряжение на выводе конденсатора, относительно корпуса:
0,6 В размах пилы, при частоте измерительного синуса: 1 кГц и 10 кГц (наибольший расчетный ток через интегрирующий конденсатор: 6 мкА);
0,8 В размах пилы, при частоте синуса: 100 Гц (ток: 8 мкА).
В рекомендованы диапазон тока, по даташиту, я уложился, цитата:
…Values of 5мkA to 40мkA give good results, with a nominal of 20мkA…
Линейность АЦП настроил тем же методом http://pro-radio.ru/measure/6873-65/
Остановился на резисторе 130 Ом. Проверил число: 9995/9994 (АЦП от NTERSIL).
Переведите мне, пожалуйста, правильно на русский кусок текста из даташита, я не уверен что понял правильно, что они рекомендуют с напряжением. Что такое 0,3 V, это чтобы размах импульсов на интегрирующем конденсаторе (±V), не доходил как минимум на 0,3 В до напряжения питания? И рекомендован диапазон размаха напряжения на конденсаторе: ±3.5V to ±4V, так? Вот этого я не проверил в приборе. Осциллограф надо цеплять параллельно С33.
Integrating Capacitor
The product of integrating resistor and capacitor should be selected to give the maximum voltage swing which ensures that the tolerance built-up will not saturate the integrator swing (approx. 0.3V from either supply). For ±5V supplies and analog COMMON tied to supply ground, a ±3.5V to ±4V full scale integrator swing is fine, and 0.47мF is nominal.
Еще пробовал ставить 2,2 мк полипропиленовый. Интегрирующий резистор уменьшил до 33 кОм, чтобы поднять напряжение пилы на конденсаторе (пила получилась 0,29 В, ток около 9 мкА). Наилучшую линейность АЦП получил при 18 Ом, последовательно с конденсатором 2,2 мк. С 2,2 мк не понравилось, сильно болтает цифру в младшем разряде АЦП (больше чем на единицу).
И у меня не открывается, вот повтор картинки.
Я там, чуть выше, токи интегратора (мкА) не правильно посчитал. Какое напряжение надо брать для расчета тока через интегрирующий конденсатор? Я использовал амплитуду пилообразных импульсов на выводе 4 АЦП. Не правильно.
Посмотрел амплитуду импульсов прямо на интегрирующем резисторе (оба конца осциллографа на оба вывода резистора), амплитуда импульсов +1/-0,5 В (заряд/разряд), при числе на индикаторе близком к 19999.
Значит, для расчета разрядного тока надо использовать величину опорного напряжения (0,5 В). Получается, 5 мкА с резистором 100 кОм, и 2,5 мкА с резистором 200 кОм.
2,5 мкА ток ниже рекомендованного в даташите значения. А в схеме от GO установлено 200 кОм.
Наконец-то осмыслил, как работает интегратор, а также что рекомендуют в даташите по выбору интегрирующих резистора и конденсатора. Надо, чтобы на выходе интегратора (вывод 4 микросхемы) полный размах напряжения качания был максимум ±3.5..±4В, не доходя 1..1,5 В до напряжений питания ±5В (а когда = 0.3 В от любого из выводов питания, то это считается насыщением, и такое недопустимо).
Проверил в моем приборе (с конденсатором 0,3 мкФ и резистором 100 кОм), при напряжении на входе АЦП, дающем число на выходе АЦП около 19999, и при частоте измерительного синуса 100 Гц, размах напряжения качания на выводе четыре: 4 В, то есть совпадает с максимальным рекомендованным ±3.5..±4В. При 1 кГц и 10 кГц синусе, напряжение качания 2 В, что не хуже максимально допустимого (максимального рекомендованого). Ток же разряда конденсатора стабилен, и зависит от номинала интегрирующего резистора, и от величины опорного напряжения.
Опять не так ток посчитал. Надо брать удвоенное опорное напряжение (full scale voltage) и делить его на сопротивление интегрирующего резистора. Получаем для 100 кОм наибольший зарядный ток 10 мкА, для 200 кОм – 5 мкА, это при максимальном измеряемом напряжении на входе АЦП, которое равняется удвоенному опорному напряжению. А вообще-то зарядный ток пропорционален входному измеряемому напряжению, и может менятся от 0 до максимального значения. Разрядный же ток стабилен, и составляет 2,5 мкА и 5 мкА для резисторов 100 кОм и 200 кОм соответственно, при опорном напряжении 500 мВ. Так что в приборе максимальный ток через интегрирующий конденсатор укладывается в минимальную рекомендованную в даташите норму, 5 мкА (с резистором 200 кОм). Не подкопаешься Все больше убеждаюсь, что авторами все продумано.
А что авторы скажут по нелинейным искажениям, вносимым керамическими конденсаторами, почитайте вот эту статью:
http://www.electroclub.info/other/conders1.htm
http://www.electroclub.info/other/conders2.htm
http://www.electroclub.info/other/conders3.htm
Имею в виду конденсаторы, что установлены параллельно токоизмерительным резисторам (в моем приборе типа КМ, а 4,7 пФ – КД), действительно ли эти конденсаторы могут вносить нелинейные искажения при преобразовании тока в напряжение? А может эти конденсаторы выпаять совсем? Ведь сдвиг фазы между током и напряжением корректируется программно, в последней версии прошивки.
Я хоть и не автор, 
но на счёт конденсаторов типа "КМ" я уже тоже сделал выводы - как блокировочные в цепях фильтрации - это одни из лучших(возможно даже в мире... ), имеют хороший ТКЕ, но в звуковых цепях, например в УНЧ, вносят очень большие искажения(сам сталкивался лет 5 назад, когда мастерил УНЧ), наблюдаемые даже на слух(честно говоря был шокирован, потому, как считал их "универсальными"), не говоря уже о замерах, приведённых по вышеуказанным ссылкам. В плане минимальных искажений НЧ сигналов лучше всего К73-17(ИМХО...)