Le comportement reproducteur est un comportement motivé qui peut être schématiquement divisé en une suite de deux phases respectivement appelées « phase d’appétence » et « phase de consommation », par analogie avec les séquences du comportement alimentaire. Cette distinction a été très amplement utilisée, à la fois par les éthologistes et les psychologues expérimentaux, pour l’investigation des mécanismes contrôlant de nombreux comportements motivés, tels que les comportements de prédation, d’alimentation ou d’agression. Elle est également employée par les chercheurs du groupe de Jacques Balthazart dans leurs études du comportement sexuel de la caille japonaise.

Les comportements sexuels sont largement contrôlés par les stéroïdes secrétés par les testicules et les ovaires. Ces contrôles sont cependant sexuellement différenciés. Longtemps, on a cru que les vertébrés mâles développaient des comportements de type mâle parce que leurs testicules produisaient de la testostérone. Et, selon la même logique, que les femelles adoptaient des comportements de type femelle en raison de la sécrétion d'un œstrogène, l'œstradiol, par les ovaires. On sait désormais que le déclenchement du comportement sexuel mâle nécessite la transformation dans le cerveau de la testostérone en œstradiol. Du moins chez la caille et de nombreux autres animaux.

Si l'on administre de la testostérone dans le cerveau d'une caille femelle, elle n'agit pas comme un mâle. Mais si l'on donne de l'œstradiol à un mâle, il se livre tantôt à des comportements de mâle, tantôt à des comportements de femelle. Plus éloquent encore : lorsqu'on bloque l'activité de l'aromatase, une enzyme intervenant dans la transformation de la testostérone en œstradiol, les effets de l'hormone masculine sont annihilés : le mâle est comme castré. Dans ces conditions, il paraît légitime de se demander pourquoi on n'observe pas de comportements masculins chez la femelle, dont l’ovaire secrète de l’œstradiol en abondance. Tout simplement, parce que les cerveaux des deux sexes sont anatomiquement et fonctionnellement différents ! Ce n'est donc pas le type d'hormones (testostérone ou œstradiol) venant des testicules ou des ovaires qui conditionne la nature du comportement, mais bien le type de cerveau, mâle ou femelle.

Mais attention, cette marche arrière n'est qu'apparente. Car la spécification du « sexe du cerveau », elle, dépend directement et de façon irréversible du contexte hormonal prévalant au cours de la période embryonnaire. En d'autres termes, les gènes se contentent de commander la formation de testicules ou d'ovaires qui, dans un deuxième temps, déterminent le sexe du cerveau. Jacques Balthazart l'a montré chez la caille : si le cerveau d'un embryon mâle est exposé expérimentalement à des œstrogènes pendant la période s'étendant du neuvième au douzième jour d'incubation de l'œuf, l'animal naîtra avec un cerveau femelle. Et en l'absence d'œstrogènes, avec un cerveau mâle.

Aujourd'hui, les chercheurs sont donc capables de manipuler à volonté le sexe phénotypique, c'est-à-dire comportemental, des oiseaux, indépendamment du sexe génétique. Une fois adulte, un mâle qui a reçu de l'œstradiol durant la période embryonnaire - dans l'œuf - se comporte comme une femelle. Et une femelle adulte, comme un mâle, si on a bloqué la production d'œstradiol au même stade de développement.

Chez le rat et la souris, la situation est similaire, mais subit un effet de miroir. Autrement dit, c'est la testostérone qui mène le jeu et non plus l'œstradiol. Chez la caille, la masculinité est en quelque sorte l'expression sexuelle par défaut, et la présence d'hormones femelles dans l'œuf est requise pour imposer la féminité ; chez le rongeur, l'accès à la masculinité nécessite la présence d'hormones mâles durant la période embryonnaire.