Измеритель RLC-2

Мне кажется по статистическим данным можно показания немного подкрутить примерно в +0,2%. Хотя, конечно, надо бы промерить побольше резистров из разных партий. А также учитывать точность измеряемых резисторов, что бы показания не вылезали за допустимые для данной точности, если имеются более точные чем 1%.

http://www.ieee.li/pdf/essay/resistors_in_microwave_applications.pdf
Интересный документ. Из него получается что плёночные сопротики 0805 имеют паразитную ёмкость 0,035 pF , индуктивностью в 10 наноГенри похоже можно пренебрегать, собственный резонанс будет после примерно 2 ГигаГерц. Т.е. в RLC-2 достаточно учесть при настройке эти 0,035 пик.

Измерил еще 10 Ом:
10 Ом – 9,9704 Ом / -0,296%

200 Ом – 199,3 Ом / -0,35%
1,2 кОм – 1,1965 кОм / -0,29%
2 кОм – 1,996 кОм / -0,2%.
9,1 кОм – 9,074 кОм / -0,29%
75 кОм – 74,79 кОм / -0,28%
910 кОм – 909,55 кОм / -0,05%

Похоже, Ваш прибор всё занижает на чуть-чуть.

В таком случае мой - тоже.
Сколько уже намерял новых резисторов - большинство с заниженным сопротивлением, но без выхода из допуска.

А вот б/у резисторы показывают разброс как больше, так и меньше - 50/50.
Так что здаётся мне, всё дело в прогреве...

Проверил сейчас работу прибора по своим эталонам, калибровка не ушла. Я раньше измерял ряд новых резисторов MFR0W4 с допуском 0,1%, результат измерения укладывался в этот допуск (0,1%), но тоже отклонение в большинстве резисторов было в минус.

Может оно может нет.... Помните в самом начале прибора, нужно было измерять паразитную ёмкость 0805-СМД-резисторов, чтобы учитывать при калибровке, это авторы заложили в прошивке, и по моему решили что она гдето десятые-доли пиков, а если почитать ПДФ выше , она меньше на порядок, документу скорей всего можно верить, т.к. фирма не последняя и возможностей померять у неё побольше было.
Может если учесть в прошивке эти 0,035 пиков прибор будет точней и эти проценты "в минус" пропадут.....

В том документе явно не указано, что именно резисторы типоразмера 0805 имеют емкость 0,035 пФ. В таблицах указаны типоразмеры 0603 и 0102. К тому же для RLC-2 не столь важно, введете вы при калибровке 0,035 пФ, или 0,08 пФ. Прибор не способен отличить такие малые значения при при измерениях емкости резисторов. А вот 0,1 пФ от 0,2 пФ прибор отличит.

Нет, это не компенсация при калибровке, а заложеный коэффициент в прошивке.

АК: А вот 0,1 пФ от 0,2 пФ прибор отличит.

За что я его и люблю!