Já em 1837, no Caderno B, um caderno de notas onde registrou ideias e observações diversas a respeito de evolução, Darwin notava que “mesmo a mente e o instinto” são influenciados pela adaptação a novas circunstâncias. Sua correspondência da época e de mais tarde também indica seu interesse por questões psicológicas: numa carta de Edward Blythe a Darwin (1855) encontramos longamente debatida a questão do instinto e da razão nos animais e nos seres humanos. No final de A origem das espécies (1859), Darwin previu que a psicologia encontraria “uma base segura [...] no fundamento [...] da aquisição necessária de cada poder mental e de cada capacidade mental de forma gradativa” (isto é, através da seleção natural). T. H. Huxley, numa palestra de 1863, afirmou que o trabalho de Darwin “estava destinado a ser o guia da especulação biológica e psicológica para as próximas três ou quatro gerações”. Huxley subestimou o impacto das ideias darwinianas: elas continuam relevantes até hoje em várias áreas científicas e, em particular, na área de estudo do comportamento.

Uma primeira, e notável, contribuição de Darwin reside na generalização dos princípios da seleção natural ao comportamento instintivo. O princípio é simples: os traços comportamentais, como os anatômicos e fisiológicos, variam entre indivíduos, transmitem-se por hereditariedade e tornam-se mais frequentes na medida em que proporcionem aos indivíduos uma capacidade maior para enfrentar os desafios ambientais e para se reproduzir. Darwin (1859) aplica a ideia a instintos impressionantes como a tendência do cuco europeu em colocar seus ovos em ninhos alheios, o comportamento das formigas que usam formigas de outras espécies como escravas para a realização das tarefas do ninho e a perfeição hexagonal dos alvéolos nos favos de abelhas. Em cada caso, variantes individuais poderiam ter sido selecionadas, ao longo das gerações, em função da vantagem reprodutiva, ganhando predominância na população. Darwin não elimina do instinto a operação de fatores de cognição, sua concepção se aproxima bastante do modo atual de considerar o comportamento animal como produto de fatores de prontidão e de plasticidade. 

A ideia de situar o comportamento num quadro evolutivo permite que se comparem e classifiquem as espécies a partir de sua interação viva com o ambiente, que se entenda melhor as funções das estratégias comportamentais e também (uma ideia perigosa) que se tome o ser humano como mais uma espécie, aparentada na maneira de ser a outros animais considerados inferiores.

A teoria da evolução começou com Darwin, mas não terminou com ele. Houve mudanças marcantes, depois dele, no estudo do comportamento animal. Elas não eliminam o princípio geral: o refinam e desvendam novas hipóteses. A teoria darwiniana se apresenta como um esquema aberto e versátil do qual não é possível prever o desenvolvimento, adaptado passo a passo às evidências e refutado em alguns de seus desdobramentos. 

Uma retomada importante das ideias de Darwin foi a etologia, proposta por Konrad Lorenz e seu colega Niko Tinbergen, na década de 1930. Partiam ambos da ideia de que há elementos comportamentais herdáveis desencadeados automaticamente por estímulos do ambiente. Lorenz, levando adiante uma linha implícita em Darwin, usou os comportamentos de espécies de aves aquáticas, os anatídeos, para reconstituir o seu parentesco e seu desenvolvimento filogenético. Hoje está em plena efervescência a análise evolucionária comportamental, com aplicações importantes à compreensão da origem do ser humano. 

Tinbergen inaugurou estudos de campo em que testava o valor adaptativo de padrões comportamentais. Por que será que, logo após a eclosão de um ovo, a mãe gaivota apanha e leva a casca para longe do ninho? A pergunta não tem resposta óbvia nem antropomórfica e é esclarecedor descobrir o jogo evolutivo subjacente, feito de custos e benefícios: ao jogar a casca, o adulto diminui a probabilidade com a qual o ninho será detectado por predadores. 

Dessa linha toma seu ponto de partida uma abordagem vigorosa ao comportamento animal, a ecologia comportamental. Além de promover a inserção do comportamento na matriz ecológica, formula hipóteses baseadas em mecanismos diferenciais de transmissão genética. Contribuições importantes foram as de W. D. Hamilton a respeito da aptidão abrangente – que parece solucionar a questão das castas estéreis em insetos sociais, tão problemática para Darwin, e fornece uma base para entender por que a entreajuda ocorre mais frequentemente e de forma preferencial entre indivíduos aparentados; e de R. Trivers sobre investimento parental, que explica por que, em geral, as fêmeas são mais seletivas em relação aos seus parceiros reprodutivos e por que os machos são mais promíscuos. O princípio envolvido é a seleção sexual, postulado por Darwin, durante muito tempo negligenciada.