The brain generates oscillatory neuronal activity at a broad range of frequencies and the presence and amplitude of certain oscillations at specific times and in specific brain regions are highly correlated with states of arousal, sleep, and with a wide range of cognitive processes. The neuronal mechanisms underlying the generation of brain rhythms are poorly understood, particularly for low-frequency oscillations. We recently reported that respiration-locked olfactory bulb activity causes delta band (0.5 - 4 Hz) oscillatory neuronal activity in the whisker sensory (barrel) cortex in mice. Furthermore, gamma oscillations (30 - 100Hz), which are widely implicated in cognitive processing, were power-modulated in synchrony with the respiratory rhythm. These findings link afferent sensory activity caused by respiration directly to cortical rhythms associated with cognitive functions. Here we review the related literature and present new evidence to propose that respiration has a direct influence on oscillatory cortical activity, including gamma oscillations, and on transitions between synchronous and asynchronous cortical network states (marked by phase transitions). Oscillatory cortical activity, as well as phase transitions, has been implicated in cognitive functions, potentially linking respiratory phase to cognitive processing. We further argue that respiratory influence on cortical activity is present in most, and possibly in all areas of the neocortex in mice and humans. We furthermore suggest that respiration had a role in modulating cortical rhythms from early mammalian evolution. Early mammals relied strongly on their olfactory sense and had proportionately large olfactory bulbs. We propose that to this day the respiratory rhythm remains an integral element of dynamic cortical activity in mammals. We argue that breathing modulates all cortical functions, including cognitive and emotional processes, which could elucidate the well-documented but largely unexplained effects of respiratory exercises on mood and cognitive function.