Abstract Predicting physical response of an artificially structured material is of particular interest for scientific and engineering applications. Here we use deep learning to predict optical response of artificially engineered nanophotonic devices. In addition to predicting forward approximation of transmission response for any given topology, this approach allows us to inversely approximate designs for a targeted optical response. Our Deep Neural Network (DNN) could design compact (2.6 × 2.6 μm 2 ) silicon-on-insulator (SOI)-based 1 × 2 power splitters with various target splitting ratios in a fraction of a second. This model is trained to minimize the reflection (to smaller than ~ −20 dB) while achieving maximum transmission efficiency above 90% and target splitting specifications. This approach paves the way for rapid design of integrated photonic components relying on complex nanostructures.

We investigate the use of 4D constant modulus modulation format combined with subcarrier modulation. Compared to the star-8QAM format, the proposed format has an improved performance gain from reducing the baud rate down to 1 GBd.

We will present the recent progress of generative AI for the design of photonic devices, including variable autoencoders and diffusion models, and latent space optimization. We also review our non-traditional way of implementing optical neural networks using data re-uploading technique originally proposed for quantum computing.