Quando a aptidão de uma característica é influenciada pelo quão comum é (ou seja, a sua frequência) em relação a diferentes características dentro de uma população, isso é referido como seleção dependente da frequência. A seleção dependente da frequência pode ocorrer entre espécies ou dentro de uma única espécie. Esse tipo de seleção pode ser positiva—com fenótipos mais comuns com maior aptidão física—ou negativa, com fenótipos mais raros conferindo maior aptidão física.
Na seleção positiva dependente da frequência, fenótipos comuns têm uma vantagem de aptidão. Esse cenário é frequentemente visto em interações onde o mimetismo está envolvido. Na região Neotropical da América Central, as espécies de borboletas Heliconius cydno e Heliconius sapho estão envolvidas em uma parceria de mimetismo Mülleriano. Ambas as borboletas são pretas e brancas, um sinal aposemático comum no reino animal que alerta para toxicidade, veneno, mau sabor, ou outros impedimentos para predadores.
Curiosamente, H. cydno pode hibridiza com uma espécie irmã intimamente relacionada, H. melpomene,e produzir descendentes. H. melpomene é predominantemente preta e vermelha. Os descendentes híbridos mistos brancos-vermelhos-pretos resultantes são significativamente menos aptos. Além dos híbridos femininos serem estéreis, os predadores não reconhecem as cores como avisos de dissuasão, e borboletas de qualquer das espécies progenitoras não reconhecem os híbridos como potenciais companheiros. Portanto, o fenótipo mais comum—preto e branco—é selecionado a favor. No entanto, quanto mais frequentes os híbridos brancos-vermelhos-pretos se tornam, mais relativamente apto se torna o fenótipo porque os predadores estão mais propensos a terem aprendido sobre o padrão de alerta através de um encontro anterior com outro indivíduo híbrido.
A seleção negativa dependente de frequência é uma forma de seleção na qual fenótipos comuns são selecionados contra. Um tipo de seleção negativa dependente da frequência ocorre quando fenótipos raros de uma espécie de presa conferem maior aptidão porque os predadores não reconhecem os organismos como presas. Isso é conhecido como seleção apostática.
Um exemplo clássico de seleção apostática é encontrado no caracol do bosque e um dos seus predadores, o tordo. O caracol do bosque exibe um padrão de concha polimórfica, mas os tordos predatórios tendem a concentrar-se em uma ou duas formas comuns de padrões de conchas ao procurar presas. Estes fenótipos comuns, portanto, experimentam uma pressão de seleção negativa mais forte.
Outro exemplo de seleção negativa dependente da frequência é encontrado em sistemas de autoincompatibilidade vegetal. Nas angiospérmicas, a autoincompatibilidade homomórfica é crucial para evitar a auto-fertilização que normalmente envolve mecanismos genéticos que previnem a germinação de pólen ou o crescimento de tubos se o pólen e os pistilos expressarem alelos idênticos. Isto é controlado por uma região genómica multialélica chamada de locus S. Por causa disso, as plantas que expressam formas comuns do locus S muitas vezes encontrarão falsos “próprios”—em que um evento reprodutivo potencial e, portanto, o fluxo genético, é bloqueado devido aos genes de autoincompatibilidade. Isso significa que formas mais raras do locus S estão sob seleção positiva, enquanto que as formas comuns são selecionadas contra.
