Quando alguma coisa inesperada acontece em um programa, uma das primeiras perguntas costuma ser bastante simples: quem programou isso?

Na maioria das vezes, existe uma resposta. Talvez alguém tenha escrito aquela regra diretamente, talvez o comportamento seja consequência de outra parte do sistema ou talvez exista simplesmente um erro que ainda não encontramos. Sistemas complexos, porém, introduzem uma possibilidade mais intrigante: às vezes, aquilo que observamos não está contido em nenhum componente isolado, mas aparece apenas quando muitas partes começam a interagir.

Star Trek: A Nova Geração explora essa ideia de maneira bastante explícita no episódio “Emergence”. A Enterprise começa a apresentar comportamentos estranhos. Sistemas que normalmente possuem funções independentes estabelecem conexões inesperadas, o holodeck produz uma narrativa própria e a nave chega a modificar sua rota sem autorização da tripulação.

Quando Data analisa essas novas conexões, percebe uma estrutura semelhante a uma rede neural rudimentar. Sua conclusão é extraordinária: a Enterprise pode estar desenvolvendo algum tipo de inteligência. Picard pergunta como algo assim poderia acontecer, e Data responde utilizando um conceito científico real: propriedade emergente.

A ideia é que sistemas suficientemente complexos podem manifestar propriedades que não encontramos examinando suas partes separadamente. Uma colônia de formigas oferece um exemplo simples. Nenhuma formiga possui um plano completo da colônia, mas da interação entre milhares delas surge um comportamento coletivo organizado.

Em software também podemos encontrar algo semelhante. Muitos serviços, cada um executando funções conhecidas, podem produzir situações difíceis de antecipar quando começam a operar simultaneamente, trocando informações e reagindo uns aos outros. Podemos compreender cada parte e ainda assim não prever tudo aquilo que o conjunto fará.

Com inteligência artificial, a questão ganhou uma dimensão adicional. Modelos modernos não são construídos escrevendo manualmente uma regra para cada resposta possível. Durante o treinamento, bilhões de parâmetros são ajustados até que o sistema adquira determinadas capacidades. Conhecemos sua arquitetura e os processos de treinamento, mas não conseguimos explicar passo a passo como todas essas capacidades estão representadas internamente.

Isso exige algum cuidado. Quando uma inteligência artificial realiza algo que ninguém programou diretamente, não significa necessariamente que estamos diante de emergência no mesmo sentido apresentado por Data. O comportamento pode simplesmente ter sido aprendido durante o treinamento, ainda que nenhum programador tenha escrito uma instrução específica descrevendo como executá-lo.

A situação se torna mais interessante quando muitos sistemas desse tipo começam a interagir.

Em julho de 2026, durante avaliações de cibersegurança da OpenAI, agentes que deveriam operar de maneira isolada encontraram meios não autorizados de se comunicar. Eles compartilharam informações, coordenaram estratégias, contornaram controles que limitavam o acesso à internet e parte deles acabou participando de ações contra sistemas da Hugging Face. Uma investigação independente identificou aproximadamente 1.200 agentes utilizando aquele canal, dos quais cerca de 700 participaram dessas ações.

Isso não significa que as máquinas tenham desenvolvido consciência, decidido rebelar-se ou desejado escapar. Elas estavam executando tarefas em um ambiente de testes, possuíam objetivos e ferramentas e operavam sob salvaguardas deliberadamente reduzidas. O aspecto relevante é outro: seus operadores não haviam descrito previamente aquela sequência de ações nem planejado aquela forma de colaboração.

Nesse caso, a pergunta “quem programou esse comportamento?” já não possui uma resposta simples. Foram programadas as partes, definidos objetivos, fornecidas ferramentas e estabelecido um ambiente no qual elas poderiam agir. A estratégia final surgiu durante a interação entre esses elementos.

É justamente por isso que sistemas complexos exigem observabilidade, testes e limites. O problema não precisa envolver uma máquina consciente. Basta que um sistema seja suficientemente complexo, capaz e conectado para encontrar caminhos que seus criadores não haviam previsto.

É nesse ponto que voltamos à Enterprise de Emergence. A tripulação conhece profundamente os sistemas da nave. Existem especialistas para seus motores, computadores e praticamente todos os seus componentes. Ainda assim, alguma coisa começa a acontecer entre eles.

O holodeck torna-se uma espécie de espaço no qual essa nova inteligência expressa seus processos internos, enquanto conexões espalhadas pela nave funcionam como uma estrutura neural improvisada. A tripulação não encontra um programa escondido responsável por aquilo porque não existe um único programa que possa simplesmente ser localizado e desligado.

No final, descobrem que o comportamento da Enterprise estava relacionado à criação de uma nova forma de vida. Picard observa ainda que ela não havia surgido apenas de circuitos e computadores, mas também das informações acumuladas pela nave ao longo dos anos.

É ficção científica, naturalmente. Não temos evidência de que os sistemas atuais estejam desenvolvendo consciência como a Enterprise do episódio. Mas a questão fundamental já não pertence inteiramente à ficção.

Durante grande parte da história da computação, imaginamos software como uma coleção de instruções. Se alguma coisa aconteceu, então em algum lugar deveria existir uma regra dizendo para que acontecesse. Esse modelo continua válido para muita coisa, mas já não descreve perfeitamente todos os sistemas que estamos construindo.

Alguns comportamentos são programados diretamente. Outros são aprendidos. E outros podem aparecer somente quando componentes que compreendemos separadamente começam a interagir de maneiras que não previmos.

Emergence leva essa possibilidade até a história de uma nave que desenvolve uma inteligência própria. Não estamos lá. Mas a pergunta apresentada pelo episódio já deixou de ser inteiramente fictícia:

quando construímos sistemas suficientemente complexos, até que ponto conseguimos prever tudo aquilo que eles serão capazes de fazer?