Gene flow from the center of a species' range can stymie adaptation at the periphery and prevent the range from expanding outward. We study this process using simple models that track both demography and the evolution of a quantitative trait in a population that is continuously distributed in space. Stabilizing selection acts on the trait and favors an optimum phenotype that changes linearly across the habitat. One of three outcomes is possible: the species will become extinct, expand to fill all of the available habitat, or be confined to a limited range in which it is sufficiently adapted to allow population growth. When the environment changes rapidly in space, increased migration inhibits local adaptation and so decreases the species' total population size. Gene flow can cause enough maladaptation that the peripheral half of a species' range acts as a demographic sink. The trait's genetic variance has little effect on species persistence or the size of the range when gene flow is sufficiently strong to keep population densities far below the carrying capacity throughout the range, but it can increase the range width and population size of an abundant species. Under some conditions, a small parameter change can dramatically shift the balance between gene flow and local adaptation, allowing a species with a limited range to suddenly expand to fill all the available habitat.

Three methods for estimating the average level of gene flow in natural population are discussed and compared. The three methods are FST , rare alleles, and maximum likelihood. All three methods yield estimates of the combination of parameters (the number of migrants [Nm] in a demic model or the neighborhood size [4πDσ2 ] in a continuum model) that determines the relative importance of gene flow and genetic drift. We review the theory underlying these methods and derive new analytic results for the expectation of FST in stepping-stone and continuum models when small sets of samples are taken. We also compare the effectiveness of the different methods using a variety of simulated data. We found that the FST and rare-alleles methods yield comparable estimates under a wide variety of conditions when the population being sampled is demographically stable. They are roughly equally sensitive to selection and to variation in population structure, and they approach their equilibrium values at approximately the same rate. We found that two different maximum-likelihood methods tend to yield biased estimates when relatively small numbers of locations are sampled but more accurate estimates when larger numbers are sampled. Our conclusion is that, although FST and rare-alleles methods are expected to be equally effective in analyzing ideal data, practical problems in estimating the frequencies of rare alleles in electrophoretic studies suggest that FST is likely to be more useful under realistic conditions.

Abstract We study the evolution of inversions that capture locally adapted alleles when two populations are exchanging migrants or hybridizing. By suppressing recombination between the loci, a new inversion can spread. Neither drift nor coadaptation between the alleles (epistasis) is needed, so this local adaptation mechanism may apply to a broader range of genetic and demographic situations than alternative hypotheses that have been widely discussed. The mechanism can explain many features observed in inversion systems. It will drive an inversion to high frequency if there is no countervailing force, which could explain fixed differences observed between populations and species. An inversion can be stabilized at an intermediate frequency if it also happens to capture one or more deleterious recessive mutations, which could explain polymorphisms that are common in some species. This polymorphism can cycle in frequency with the changing selective advantage of the locally favored alleles. The mechanism can establish underdominant inversions that decrease heterokaryotype fitness by several percent if the cause of fitness loss is structural, while if the cause is genic there is no limit to the strength of underdominance that can result. The mechanism is expected to cause loci responsible for adaptive species-specific differences to map to inversions, as seen in recent QTL studies. We discuss data that support the hypothesis, review other mechanisms for inversion evolution, and suggest possible tests.

We develop models of the rates of evolution at sex-linked and autosomal loci and of the rates of fixation of chromosomal rearrangements involving sex chromosomes and autosomes. We show that the substitution of selectively favorable mutations often proceeds more rapidly for X- or Y-linked loci than for the autosomes, provided that mutations are recessive or partially recessive on the average. Selection acting on a quantitative character is expected to result in similar long-term rates of gene substitution for X-linked and autosomal loci, unless there is strong directional dominance. Short-term responses to such selection often preferentially fix alleles at autosomal loci. The fixation of slightly deleterious alleles by random drift and the stochastic turnover of alleles at loci controlling quantitative characters under stabilizing selection usually proceed somewhat more slowly at sex-linked loci. In contrast, the fixation of underdominant chromosomal rearrangements by random genetic drift is faster with sex linkage. Sex-specific selection may also differentially favor the fixation of sex-linked rearrangements. These results are discussed in relation to genetic and cytological data on species differences. We show that the frequently disproportionate effects of the sex chromosomes on interspecific inviability or sterility are consistent with the hypothesis that the gene differences concerned involve recessive or partially recessive alleles fixed by selection. Haldane's rule is readily interpreted in this light. There is little evidence for strong effects of the sex chromosomes on quantitative characters in interspecific crosses, in accordance with our theoretical results. Thus, the evolution of reproductive isolation may not be the byproduct of selective change in additively inherited, polygenic traits. Rather, it may be due mainly to the fixation of favorable mutations whose effects on fitness reflect locus-specific effects on the phenotype. These mutations behave as major genes in the sense of contributing the bulk of the genetic variance in the characters that they control during the course of the mutations' substitution. The data on the genetics of short-term responses to selection in Drosophila are hard to interpret, but, in accordance with theory, these responses do not usually seem to involve the X chromosome disproportionately. In some groups, there is evidence for a disproportionate role of the sex chromosomes in chromosomal changes, but others show no clear pattern. Factors that may distort the expectations of the simple models of chromosomal evolution are discussed.

The study of speciation has become one of the most active areas of evolutionary biology, and substantial progress has been made in documenting and understanding phenomena ranging from sympatric speciation and reinforcement to the evolutionary genetics of postzygotic isolation. This progress has been driven largely by empirical results, and most useful theoretical work has concentrated on making sense of empirical patterns. Given the complexity of speciation, mathematical theory is subordinate to verbal theory and generalizations about data. Nevertheless, mathematical theory can provide a useful classification of verbal theories; can help determine the biological plausibility of verbal theories; can determine whether alternative mechanisms of speciation are consistent with empirical patterns; and can occasionally provide predictions that go beyond empirical generalizations. We discuss recent examples of progress in each of these areas.

Suppose that selection acts at one or more loci to maintain genetic differences between hybridising populations. Then, the flow of alleles at a neutral marker locus which is linked to these selected loci will be impeded. We define and calculate measures of the barrier to gene flow between two distinct demes, and across a continuous habitat. In both cases, we find that in order for gene flow to be significantly reduced over much of the genome, hybrids must be substantially less fit, and the number of genes involved in building the barrier must be so large that the majority of other genes become closely linked to some locus which is under selection. This conclusion is not greatly affected by the pattern of epistasis, or the position of the marker locus along the chromosome.

Are new species formed in rare catastrophes, distinct from the normal processes of phyletic evolution? Or does reproductive isolation evolve gradually, as a by-product of the divergence of gene pools? Mayr (120-124) has argued the former, holding that speciation usually results from genetic revolutions triggered by founder effects: An isolated population, small in numbers and in geographic extent, colonizes a new area. Both changes in selection pressures and genetic drift result in the rapid shift of many genes to a new, coadapted combination, which is reproductively isolated from the ancestral population. Carson (27, 29, 3 1) and Templeton (I175-180), among others, have put forward similar models. This cluster of theories is woven from many strands; we will try to tease these apart in order to find out precisely which processes may be involved in speciation by founder effect. By placing them in the context of other models, we will argue that, although founder effects may cause speciation under sufficiently stringent conditions, they are only one extreme of a continuous range of possibilities. Complete geographic isolation is unnecessary; absolute coadaptation between closed systems of alleles is unlikely; and divergence may be driven in a variety of ways, without the need for drastic external changes. Reproductive isolation is most likely to be built up gradually, in a

The conditional average frequency of rare alleles has been shown in simulations to provide a simple and robust estimator of the number of individuals exchanged between local populations in an island model (Nm). This statistic is defined as the average frequency of an allele in those samples in which the allele is present. Here, we show that the conditional average frequency can be calculated from the distribution of allele frequencies. It is a measure of the spread of this distribution, and so is analogous to the standardised variance, FST. Analytic predictions for the island model of migration agree well with the corresponding simulation results. These predictions are based on the assumption that the rare alleles found in samples have reached a "quasi-equilibrium" distribution. As well as relating the conditional average frequency to the underlying allele frequency distribution, our results provide a more accurate method of estimating Nm from the conditional average frequency of private alleles in samples of different sizes.

We evaluate Sewall Wright's three-phase "shifting balance" theory of evolution, examining both the theoretical issues and the relevant data from nature and the laboratory. We conclude that while phases I and II of Wright's theory (the movement of populations from one "adaptive peak" to another via drift and selection) can occur under some conditions, genetic drift is often unnecessary for movement between peaks. Phase III of the shifting balance, in which adaptations spread from particular populations to the entire species, faces two major theoretical obstacles: (1) unlike adaptations favored by simple directional selection, adaptations whose fixation requires some genetic drift are often prevented from spreading by barriers to gene flow; and (2) it is difficult to assemble complex adaptations whose constituent parts arise via peak shifts in different demes. Our review of the data from nature shows that although there is some evidence for individual phases of the shifting balance process, there are few empirical observations explained better by Wright's three-phase mechanism than by simple mass selection. Similarly, artificial selection experiments fail to show that selection in subdivided populations produces greater response than does mass selection in large populations. The complexity of the shifting balance process and the difficulty of establishing that adaptive valleys have been crossed by genetic drift make it impossible to test Wright's claim that adaptations commonly originate by this process. In view of these problems, it seems unreasonable to consider the shifting balance process as an important explanation for the evolution of adaptations.