The self-homodyne coherent detection (SHCD) system is becoming more popular in intra-data center applications nowadays. However, for a high-speed SHCD system, the device imperfection such as transmitter (Tx) and receiver (Rx) side in-phase (I)/quadrature-phase (Q) time skew and bandwidth limitation will greatly restrict the transmission performance. The current mainstream calibration methods for traditional optical transceivers rely on the effect of frequency offset and phase noise to separate the Tx and Rx imperfection, which is not compatible with the SHCD system. In this paper, we have proposed and demonstrated a highly precise calibration method that can be applied in dual-polarization (DP) SHCD system. Based on the specially designed multi-tone signals, the amplitude/phase frequency response (AFR/PFR) of the transceiver and the Tx/Rx IQ skew can be obtained by just one measurement even after long-distance fiber transmission. By using a 4 MHz linewidth distributed feedback (DFB) laser, a DP SHCD transmission system combined with a 20 GHz optical transceiver and two 10 km standard single-mode fibers is experimentally constructed. The test results indicate that the measurement error of the AFR/PFR and Tx/Rx skew are within ±1dB/±0.15rad and ±0.3ps respectively, and the dynamic range for IQ skew calibration can reach dozens of picoseconds. The measured bit error rate value of 46GBaud DP-16QAM signals/35GBaud DP-64QAM signals are improved from 2.30e-2 to 2.18e-3/9.59e-2 to 2.20e-2 with the help of the proposed calibration method.

We report a calibration method that can simultaneously characterize frequency-response and IQ-skew of coherent optical transceivers with laser frequency offset and phase noise. 50/40GBaud Nyquist-16/64QAM signals transmission is achieved using 22GHz commercial coherent optical transceiver.

Abstract For 800 Gbps/λ and beyond optical transmission systems, frequency-dependent impairments (FDI) degrade coherent optical transceiver (CO-TRx) performance severely. Calibration and compensation of such FDI in factories includes amplitude/phase frequency response (AFR/PFR), skew, and ripple for both transmitters(Tx) and receivers (Rx). However, due to the polarization rotation and phase rotation effects in optical link, the separation and extraction of FDI from different polarization or I/Q tributaries is challenging. Here we report a FDI calibration method based on orthogonal separation scheme and frequency domain analysis. The proposal can simultaneously characterize and separate the Tx/Rx sides FDI including AFR, PFR, and time skew of four tributaries. Finally, the effectiveness is demonstrated by transmitting a 96 GBuad Nyquist-16QAM signal on a 64 GBaud-class CO-TRx.