Двхтональник на Wolf-Lite в режиме SSB, другого нет.

Так у этого трансивера вроде и собственная панорама есть? Или он в режиме передачи, на приём не работает? У него самоконтроль какой то есть?
 Ну и что по линейности обеспечивает сам трансивер? По моему, у современных СДР, в режиме двухтональника, должна неплохо отрабатывать функция повышения линейности. Вы посмотреть линейность самого трансивера не пробовали? Просто у себя, почти всегда измеряю линейность и трансивера, и УМ, с помощью собственного приёмника в трансивере. Но у меня полностью независимые приёмный и передающие тракты. Как с этим у "Вольф"а не знаю.
 А так, даже у 8 битной "Осы", двухтональник выглядит вполне обычно, и позволяет измерять линейность до -50--60 дБн. На ваших скринах, при широкой полосе обзора, вроде обычная панорама. А вот при небольшой полосе обзора, и включенном двух тональнике, какая то ерунда. Самих исходных двух тонов как раз и не видно. То ли разрешения не хватает, то ли уровень тонов выставлен неправильно. По центру, должны быть два тона одного уровня. И начать лучше с того, что определиться что там идёт с самого трансивера.

Взял 4,8. Так у Рэда для стеклотекстолита.
Получается нужен стеклотекстолит фольгированный толщиной близкой к 0,5 мм, иначе ширина проводников получается большой, для текстолита толщиной 1,6 мм, ширина 2,9. Многовато, неудобно.

С детворой на уроке физики как раз сегодня лабораторка была: измерение ёмкости конденсатора. Так как в школе ничего нет, набрал дома разноразмерных кусочков 2стороннего текстолита разной толщины и пару кусочков алюминиевого листа в качестве обкладок и всяко разного диэлектрика.
Смысл лабораторки был сделать плоский конденсатор, измерить ёмкость и посчитать диэлектрическую постоянную. Так вот у оргстекла расчетная постоянная совпала со справочной. У стеклотекстолита получилась 5.6-5.8. текстолит правда хз какого года и гаражного хранения. Ну и как назло, микрометр дома забыл, а штангель китайский особо разницу не уловил. Да и какая толщина фольги хз

При полосе качания 6кГц (+-3кГц) вообще bred of siv cabla. На поле 20 кГц (-+10кГц) более менее...
Анализатор TinySA.

На КВ, можно особо и не гнаться за 50 омами - 30 МГц максимум, длина волны 10 метров. Ну, и что изменится, если даже 10 см. будет не 50, а 300 Ом? Да в большинстве случаев ничего! 

Я когда то делал фильтр с конструктивными конденсаторами из фольгированного стеклотекстолита. Брал кусок, замерял его емкость, и через площадь вычислял Ер.