Частота низковата, может и пищит от этого, надо 50кГц это 20мкс, а у вас около 30кГц, Частота низкая от того что горит перегрузка, Проверьте на выходе оптопару и детали с ней связанные, Выход с транса нормальный, а вот после диодов что-то не то, может и с диодами что не так, по этому и перегруз горит что на выходе не пойми что, оптопара не открывается из-за того что напряжения выходного ей не хватает, У вас вообще GP или SH ?