Измеритель RLC-2

Так и должно быть, при большом усилении усилитель уходит в ограничение, обрезает синус по уровню близкому к напряжению питания, это и по перегрузке на индикаторе видно, числа 20001.

Здравствуйте АК и pashak. Сегодня принесли мне 50 ОМный кабель синий в виниловой оболочке, центральная жила монолит медь,вспененный диэлектрик, диаметр 4мм. Поменял куски по 4см от платы к BNC разъемам и свершилось чудо,прибор начал адекватно работать перестали скакать показания и после измерений возвращается на ноль. Спасибо за помощь.
http://radikal.ua/data/upload/ba193/6895e/91b6186125.jpg
http://radikal.ua/data/upload/0fccf/c2184/74ac5482e7.jpg

Так что кто будет повторять прибор используйте нормальный кабель это избавит вас от лишних вопросов. Провода от старых мониторов цветные в экране с вспененным диэлектриком у меня не заработали. Прибор творил чудеса.

В чем разница между кабелями, на вид, опишите словами. Может, оплетка более редкая была?
Не факт, что причиной был кабель. В ремонте техники такое бывает, заменил что-то наугад, аппарат заработал и думаешь, что нашел неисправность, а на самом деле плату пошевелил и контакт восстановился, или температура поменялась, или другие внешние факторы изменились.

АК: В чем разница между кабелями, на вид, опишите словами
В моем случаи, когда показания были не устойчивые, щупы были изготовлены из кабеля с внутренним поперечным сечением изолятора
2,5-3,5мм, оплетка была редкая, центральная жыла «многожильная», обычный экранированный провод

Тот что со старых мониторов оплетка где то 50% центральная жила многожилка луженая состоящая из семи проводков в диаметре если вместе скрутить 0,6мм, диаметр кабеля 3мм, на кабеле маркировка АWM 1354 K KOK 80*C 30V. Изоляция виниловая

Тот что советский оплетка 60% центральная жила медь монолит не луженая в диаметре 0.9мм изоляция виниловая, тип кабеля не указан, диаметр кабеля 4мм, диэлектрики в обоих кабелях одинаковые но разные по диаметру.

Да что то не то, автор использовал именно кабеля со старых мониторов и в доке про это написано. Но пока все работает.

А какая разница (сечение жил), если используется 4-х проводная схема + Open-Short калибровка ?
При правильной схемотехнике все будет программно скомпенсировано.

Возможно имеет место утечка с центрального проводника на экранирующий провод. Надо проверить мегаомметром.
В моей практике раз встретился экранированный микрофонный кабель в виниловой изоляции с сопротивлением утечки 2кОм/м. А на вид - отличный кабель.
Для своих RLC-2 я применял МГТФЭ, отличная изоляция. Можно натянуть экранирующую оплетку на обычный МГТФ, его проще найти.

ghz2: а вот паразитные не адекватно Cs показывает десятки uF или Ls единицы H
Скорее всего, все у вас нормально, перечитайте еще раз комментарии к последней прошивке 1.3
Для резисторов меньше 1кОм выбираем последовательную с.з., выше - ||
И не забываем про Load калибровку.
Приведу еще фразу из описания к v1.3:
"При измерении паразитных параметров резисторов следует учесть, обычно эти величины на 4 и более порядков меньше активного сопротивления, т.е. находятся на границе разрешающей способности RLC-2, либо за ней. Поэтому, показания прибора в реактивной части для резисторов могут иметь низкую стабильность, особенно это касается диапазонов 2-4."

Кто-нибудь щупал C8051F350 ? для измерителя отличный вариант - 24бит АЦП с PGA x1..x128, 2-канальный ЦАП, 50MIPS.
Для расширения диапазона измерения L в сторону мелких индуктивностей можно использовать AD9833.
ОУ тоже есть с лучшими параметрами от AD, TI.