Cuando la aptitud de un rasgo está influenciada por lo común que es (es decir, su frecuencia) en relación con diferentes rasgos dentro de una población, esto se conoce como selección dependiente de la frecuencia. La selección dependiente de la frecuencia puede ocurrir entre especies o dentro de una sola especie. Este tipo de selección puede ser positiva, con fenotipos más comunes que tienen una mayor condición física, o negativa, con fenotipos más raros que confieren mayor aptitud.
En la selección positiva dependiente de la frecuencia, los fenotipos comunes tienen una ventaja de acondicionamiento físico. Este escenario se ve a menudo en interacciones donde el mimetismo está involucrado. En la región neotropical de Centroamérica, las especies de mariposas Heliconius cydno y Heliconius sapho participan en una asociación de mimetismo mülleriano. Ambas mariposas son blancas y negras, una señal aposemática común en el reino animal que advierte de la toxicidad, el veneno, el mal gusto u otros depredadores disuasorios.
Curiosamente, H. cydno puede hibridizarse con una especie hermana estrechamente relacionada, H. melpomene, y producir descendencia. H. melpomene es predominantemente negro y rojo. La descendencia híbrida mixta mixta-roja-negra resultante está significativamente menos en forma. Además de que los híbridos femeninos son estériles, los depredadores no reconocen los colores como advertencias disuasorias, y las mariposas de cualquiera de las especies madres no reconocen a los híbridos como posibles parejas. Por lo tanto, se selecciona el fenotipo más común (blanco y negro). Sin embargo, cuanto más frecuentes se vuelven los híbridos blanco-rojo-negro, tanto más relativamente en forma se vuelve el fenotipo, porque los depredadores son más propensos a haber aprendido sobre el patrón de advertencia a través de un encuentro previo con otro individuo híbrido.
La selección negativa dependiente de la frecuencia es una forma de selección en la que se seleccionan fenotipos comunes. Un tipo de selección negativa dependiente de la frecuencia ocurre cuando los fenotipos raros de una especie de presa confieren una mayor aptitud porque los depredadores no reconocen a los organismos como presas. Esto se conoce como selección apostática.
Un ejemplo clásico de selección apostática se encuentra en el caracol de la arboleda y uno de sus depredadores, el zorzal. El caracol de la arboleda muestra el patrón de concha polimórfica, pero los zorzales depredadores tienden a centrarse en una o dos formas comunes de patrón de concha al buscar presas. Estos fenotipos comunes, por lo tanto, experimentan una mayor presión de selección negativa.
Otro ejemplo de selección dependiente de la frecuencia negativa se encuentra en los sistemas de autoincompatibilidad de la planta. En las angiospermas, la autoincompatibilidad homomórfica es crucial para prevenir la auto-fertilización que normalmente implica mecanismos genéticos que previenen la germinación del polen o el crecimiento del tubo si el polen y el pistilo expresan alelos idénticos. Esto es controlado por una región genómica S multialélica llamada S-locus. Debido a esto, las plantas Sque expresan formas comunes del S-locus a menudo se encuentran con falsos “sí mismos”, donde un evento reproductivo potencial, y por lo tanto el flujo genético, se bloquea debido a los genes de autoincompatibilidad. Esto significa que las Sformas más raras del S-locus están bajo selección positiva, mientras que las formas comunes se seleccionan en contra.