Abstract The organization and coordination of fish schools provide a valuable model to investigate the genetic architecture of affiliative behaviors and dissect the mechanisms underlying social behaviors and personalities. We used quantitative genetic methods in replicate guppy selection lines that vary in schooling propensity to investigate the genetic basis of sociability phenotypes. Alignment and attraction, the two major traits forming the sociability personality axis in this species, showed heritability estimates at the upper end of the range previously described for social behaviors, with important variation across sexes. Consistent with findings in collective motion patterns, experimental evolution of schooling propensity increases the sociability of female, but not male, guppies when swimming with unfamiliar conspecifics, a highly relevant trait in a species with fission-fusion social systems in natural populations. Our results from PoolSeq and RNASeq convergently identify genes involved in neuron migration and synaptic function, highlighting a crucial role of glutamatergic synaptic function and calcium-dependent signaling processes in the evolution of schooling.

Collective motion occurs when individuals use social interaction rules to respond to the movements and positions of their neighbors. How readily these social decisions are shaped by selection remains unknown. Through artificial selection on fish (guppies, Poecilia reticulata ) for increased social coordination (group polarization), we demonstrate that social interaction rules can evolve remarkably fast. Within just three generations, groups of polarization selected females showed a 15% increase in polarization, coupled with increased cohesiveness, compared to fish from control lines. They did not differ in physical swimming ability or exploratory behavior. However, polarization selected fish adopted faster speeds, particularly in social contexts, and showed stronger alignment and attraction responses to multiple neighbors. Our results demonstrate that social interactions can rapidly evolve under strong selection, and reveal which social interaction rules change when collective behavior evolves.

Abstract One of the most spectacular displays of social behavior is the synchronized movements that many animal groups perform to travel, forage and escape from predators. However, elucidating the neural mechanisms underlying the evolution of collective behaviors, as well as their fitness effects, remains challenging. Here, we study anti-predator behavior in guppies experimentally selected for divergence in polarization, an important behavioral aspect of coordinated movement. We find that groups from artificially selected lines remain more polarized than control groups in the presence of a threat. Neuroanatomical measurements of polarization-selected individuals indicated changes in brain regions previously suggested to be important regulators of perception, fear and attention, and motor response. Additional visual acuity and temporal resolution tests performed in polarization-selected and control individuals indicate that observed differences in anti-predator and schooling behavior should not be attributable to changes in visual perception, but rather are more likely the result of the more efficient relay of sensory input in the brain of polarization-selected fish. Our findings highlight that brain morphology may play a fundamental role in the evolution of coordinated movement and anti-predator behavior.