Измеритель RLC-2

АК: Я вчера Вам предлагал минимум изменений. Масштабирование Q оставить без изменений, как в v.1.3, а для D выше единицы сделать масштабирование такое же, как и для Q выше единицы.

Это не минимум а максимум. Я сейчас сделал минимум. Q никогда не проверялся больше он чего то или нет. Он просто обрезался чтоб после запятой было не больше одного знака. А это не хорошо, мы теряем полезную информацию.

Условие такое: если D больше единицы, масштабируем D по алгоритму масштабирования Q (или обрезаем D, так как обрезается Q).

Laimys: А это не хорошо, мы теряем полезную информацию.

А сделать 4 разряда для любого числа Q и D можно? Четыре цифры, только перемещается запятая между ними.

АК: А сделать 4 разряда для любого числа Q и D можно? Четыре цифры, только перемещается запятая между ними.

В общем, мне не понятно, почему Q=195 - три разряда, а Q=1,9537 - пять разрядов. Кажется понял, Вы в 195 обрезали всё после запятой.

АК: В общем, мне не понятно, почему Q=195 - три разряда, а Q=1,9537 - пять разрядов.

Мне тоже, не разбирался, не было нужды.
Сделал чтоб для Q и D больше 1 после запятой выводилось не больше 3 цифр.
Только непонимаю зачем это?

АК: Кажется понял, Вы в 195 обрезали всё после запятой.

Пробуйте rlc2_v1.5t16_16MHz20x4(Q,D,Angle only).hex

Laimys: Сделал чтоб для Q и D больше 1 после запятой выводилось не больше 3 цифр.

1000 мкФ, Q=3,2192 , все равно выводится 5 знаков, а надо бы Q=3,21. Я иду спать, до завтра.

Угол теперь вижу полностью.

АК: 1000 мкФ, Q=3,2192 , все равно выводится 5 знаков

Я понял что GO считает основным параметром и что неосновным - основной это тот который расчитывается из реальной части (R) а неосновной из мнимой (L, C, X). Есть 2 алгоритма расчёта количества значащих разрядов - для основного и не основного параметра. Изначально и теперь для Q применяется алгоритм неосновного параметра для расчёта количества разрядов. Изначально для D применялся алгоритм основного параметра. Я для него применил неосновного чтобы большые величины отображались с мншим разрядностю. То есть для Q, D, L, C и X количество разрядов определяется одинаково.
Без этого алгоритма для каждого параметра есть ещё возможность обрезание количества разрядов после запятой. L и C здесь обрезается относительно частоте - 0.0, 0.00 и 0.000. Изначально Q обрезался по 0.0, и я незнаю почему. Я снял это обрезания для этого параметра.
По Вашей просбе, АК, я для Q и D применил еще один алгоритм - чтоб выше 1 невыводилось больше 3 цифр после запятой. И это я несчитаю нужным.
Алгоритм обрезание осногного парамеира теперь отключен. Потому как показание с 5 разрядами стабильные. Так выводется R и Угол.