GRANDES JORNADAS | Seis episódios de Star Trek sobre como derrotar uma IA poderosa

Episódios de hoje…

“The Ultimate Computer” (“O Computador Supremo”; TOS 2×24, 1968)
Onde assistir: DVD/Blu-ray
“The Changeling” (“Nômade”; TOS 2×4; 1967)
Onde assistir: DVD/Blu-ray
“The Arsenal of Freedom” (“O Arsenal de Liberdade”; TNG 1×21, 1988)
Onde assistir: PlutoTV*
“The Forsaken” (“O Intruso de Estimação”, DS9 1×17, 1993)
Onde assistir: PlutoTV*
“Project Daedalus” (“Projeto Dédalo”; DSC 2×9, 2019)
Onde assistir: Paramount+
“Emergence” (“Emergência”; TNG 7×23, 1994)
Onde assistir: PlutoTV*

*Somente dublado

Será que as novas Inteligências Artificiais vão extinguir a humanidade até o fim desta década? Esse debate tem tomado as redes sociais e talvez (com um pouco de sorte) seja um exagero pensar que agentes de IA vão detonar o arsenal nuclear ou criar um vírus mortal. Mas a verdade é que não tivemos um minuto de paz desde o lançamento do ChatGPT ao público no final de 2022. Se tivéssemos um capitão Kirk por aqui, não seria necessário temer: com um bom discurso, ele faria qualquer um desses modelos computacionais desejar nunca ter escrito sua primeira linha de código e simplesmente se desligar da tomada. 

É o que ele faz em “The Ultimate Computer” (“O Computador Supremo”; TOS 2×24, 1968), episódio da Série Original no qual o capitão enfrenta não só o computador descontrolado mas seu criador, o obstinado Richard Daystrom, que depois viraria nome de instituto de pesquisa – por que resolveram homenageá-lo depois do que acontece aqui é outro mistério. 

O cientista havia criado o computador usado para operar a Enterprise, e a missão do novo modelo, chamado de M-5, é minimizar o número de pessoas necessárias para manter a nave funcionando. Parece bem o que vivemos hoje com o avanço da IA, que permite usar agentes treinados com os grandes modelos de linguagem (LLMs, na sigla em inglês) para realizar tarefas que, até poucos anos atrás, requeriam o trabalho de um ser humano. Kirk se sente incomodado ao saber que pode ser substituído por uma máquina. 

Assim como os datacenters usados pelas LLMs consomem energia elétrica e água para resfriar seus componentes, o M-5 também precisa de mais e mais recursos e vai desligando regiões da nave que ele considera de baixa prioridade, como a Enfermaria do dr. McCoy e seções inabitadas. Enquanto isso, somente com uma tripulação mínima, a Enterprise se prepara para um exercício de guerra que serviria como teste do M-5. Afinal, ele consegue realmente avaliar uma situação e tomar boas decisões? O primeiro teste é um sucesso, e Kirk retorna aos seus aposentos se sentindo inútil e derrotado. 

Mas então aparece uma outra nave, não tripulada, e que não era parte do teste. O M-5 toma os controles novamente e destrói o cargueiro, sem motivo algum. A partir daí, a tripulação que resta na Enterprise tenta desconectar o novo computador dos controles da nave, por temer um próximo ataque que custasse vidas. A confiança nas decisões do M-5 acabou por aí mesmo. Ele acaba matando “sem querer” um tripulante da Enterprise e, depois, destrói uma das naves participantes da batalha de teste, matando toda a sua tripulação. Kirk suplica a Daystrom que desligue o M-5, mas o cientista se recusa, finalmente confessando que usou suas próprias memórias para criar os circuitos da máquina. O capitão usa isso e sua notável eloquência para desarmar o computador, contando com sua parte humana para que sentisse a culpa pelas mortes. Pronto, o M-5 conclui que deve morrer como punição pelos assassinatos e se desliga.

***

Já em “The Changeling” (“Nômade”; TOS 2×4; 1967), Kirk enfrenta a Nômade, uma sonda de origem terrestre enviada ao espaço mais de 200 anos antes. A Enterprise é atacada pela sonda ao investigar as mortes de bilhões de habitantes no sistema planetário maluriano. A Nômade ataca a nave também e só cessa ao ouvir o nome do capitão Kirk, que aproveita para transportá-la para dentro da Enterprise. 

A tripulação conclui que a Nômade foi lançada no início do século 21, criada pelo cientista Jackson Roykirk. Então, por pura sorte, ela confundiu o capitão Kirk com seu criador. Mas isso não faz a sonda parar de causar problemas. Curiosa com a cantoria de Uhura, ela escaneia a mente da tenente e apaga todas as suas memórias. Scotty tenta impedir e é morto instantaneamente, mas seria ressuscitado pela própria Nômade logo depois. A pobre da Uhura não tem tanta sorte, e a enfermeira Chapel e o dr. McCoy precisam educá-la do zero usando o computador da nave. 

Spock faz um elo mental com a máquina e finalmente entende que ela se fundiu com uma tecnologia alienígena cuja missão era esterilizar amostras de solo para colonização. Então, conclui-se que a Nômade havia decidido esterilizar o sistema maluriano de todas as “contaminações” biológicas imperfeitas, matando todos os seus habitantes. Logo, a sonda voltaria seus esforços para a Terra, tomando controle da nave e acelerando-a além da dobra 10. Após diversas mortes de seguranças que tentavam conter a Nômade, finalmente Kirk decide tomar as rédeas, confrontando a invenção com o fato de que ela havia confundido o nome do real criador, Roykirk, com o seu. Portanto, Nômade era imperfeita, e a imperfeição precisaria ser eliminada. Resolvido: menos um computador assassino no mundo. 

***

O uso de um sistema autônomo inteligente para garantir a segurança de um planeta pode parecer uma excelente ideia, mas causa a extinção dos habitantes de um mundo inteiro, como vão descobrir os tripulantes da Enterprise em “The Arsenal of Freedom” (“O Arsenal de Liberdade”; TNG 1×21, 1988). 

O comandante Riker lidera uma equipe avançada para procurar possíveis sobreviventes de uma nave que se perdeu perto do planeta Minos, cujos moradores eram famosos vendedores de armamentos. Não há sinais de vida na superfície, e mesmo assim Riker vê um conhecido oficial da Frota. Mas ele percebe que o papo do colega está estranho e logo é revelado que ele é somente uma projeção criada por uma arma de defesa, tentando coletar dados sobre os visitantes. Riker é atingido pela arma e fica congelado em uma bolha, obrigando Picard a descer ao planeta. Mais robôs atacam e a equipe percebe que eles vão se adaptando às suas defesas, ficando cada vez mais perigosos e eficientes. Enquanto isso, a Enterprise também é atacada na órbita de Minos. Parece uma armadilha após a outra.

Picard e a dra. Crusher encontram um terminal de computador e lá acionam uma interface, um vendedor automatizado que explica que tudo o que eles viram até ali era uma demonstração do sistema de defesa mais avançado já criado pelos minosianos. Ele realmente era adaptativo e, uma vez acionado, nunca mais pararia até atingir seu objetivo. A equipe se dá conta então de que o próprio sistema de defesa exterminou todos os habitantes do planeta, um cenário que ecoa toda a paranoia da época da Guerra Fria, quando o mundo temia o acionamento das armas nucleares pelos americanos ou pelos soviéticos e, agora, nosso medo de que estejamos criando uma IA que nos considere descartáveis e destrua a humanidade. 

A demonstração das armas continua e um ataque ainda mais perigoso é lançado. O vendedor insiste que eles devem ver tudo de que o sistema é capaz e se recusa a interromper as máquinas. Então, Picard tem aquele momento Kirk: ele diz que quer comprar o sistema. Satisfeito, o vendedor virtual encerra a demonstração e a equipe avançada consegue voltar à nave. 

***

Em Deep Space Nine, o episódio “The Forsaken” (“O Intruso de Estimação”, DS9 1×17, 1993) começa com o chefe O’Brien precisando lidar com uma “burrice” artificial. O computador da estação, herdado dos cardassianos, não coopera em nada com o engenheiro: dá informações imprecisas e até se nega a cumprir algumas tarefas solicitadas, bem diferente do equipamento supereficiente da Enterprise-D. Como um bom técnico, O’Brien sugere a Sisko reprogramar o computador inteiro, o que o comandante da estação não permite, como qualquer chefe sensato. 

Mas o comportamento do computador muda para melhor depois que uma sonda se aproxima da DS9 e a equipe da estação começa a baixar suas informações. De repente, o computador passa a ser educado com O’Brien, tornando-se cooperativo e eficiente ao executar seus comandos. Mesmo assim, diversas partes da estação começam a ter problemas e, segundo o chefe, o computador parece estar criando novas falhas para chamar a sua atenção: Odo e a embaixadora Lwaxana Troi ficam presos num elevador e os controles ambientais da estação começam a falhar. 

O’Brien teoriza que o contato com a sonda é a causa dos transtornos. Ela devia conter alguma vida artificial, ainda em sua “infância”, que estaria tomando conta do computador cardassiano. A melhor solução seria isolar tudo o que havia sido transferido da sonda e enviar de volta, mas, a cada tentativa, o computador parece punir a estação mais ainda, danificando mais sistemas. O engenheiro precisa ser mais criativo: o isolamento deveria ser feito manualmente e, enquanto a tarefa é realizada, a equipe faz diversos pedidos de processamento de dados para manter o computador ocupado e não “notar” o trabalho em andamento. Infelizmente ele nota mesmo assim, e uma explosão ocorre na estação, prendendo o dr. Bashir e embaixadores da Federação num corredor em chamas. Odo, ainda preso no elevador, começa a derreter, já que não pode passar mais de 16 horas sem se transformar de novo em seu estado líquido para se regenerar.

O chefe O’Brien então compara a entidade a um cachorrinho, que simplesmente quer companhia e atenção, senão vai ficar arranhando as paredes. O’Brien então cria um subprograma no computador, para onde redireciona todas as rotinas redundantes, dando bastante serviço para a vida artificial que veio da sonda. Ao empurrá-la para esse “cercadinho”, as funções primárias do computador voltam a funcionar e também todos os sistemas que estavam desativados. No fim, O’Brien não consegue derrotar a entidade, mas a engana bem o suficiente para permitir que todos fossem salvos a tempo. Às vezes um jeitinho tem de ser suficiente, já que não temos um capitão Kirk disponível aqui.

***

Nada disso se compara à ameaça enfrentada pela Frota Estelar na segunda temporada de Discovery, que conta a história de como o chamado Controle, um sistema de defesa criado pela Seção 31, quase se apoderou de informação suficiente para ameaçar todo o universo.

No episódio “An Ode for Charon” (“Um Óbolo para Caronte”; DSC 2×4, 2019), a nave movida a motor de esporos é interceptada por uma gigantesca esfera. À beira da morte, a esfera quer transferir eras de dados coletados pelo universo para a Discovery, e essa transferência causa diversos problemas para a nave. O tradutor universal pifa e a ponte de comando vira uma torre de Babel, com cada tripulante falando em um idioma diferente. Quando finalmente eles entendem o que está acontecendo, parece somente que eles encontraram uma fonte infindável de conhecimento para os cientistas da Frota Estelar, algo valioso e que trará avanços incríveis.

Mas em “Project Daedalus” (“Projeto Dédalo”; DSC 2×9, 2019), entendemos que existe um sistema de defesa da Seção 31, uma espécie de serviço secreto, chamado Controle, e pessoas poderosas têm defendido cada vez mais que a Federação confiasse nesse programa para tomar decisões. Parece ser sempre aí que as coisas se enroscam com as IAs: quando começa a pressão irracional para delegar funções executivas até então exclusivas de entidades orgânicas para sistemas computadorizados. 

A Discovery vai até a sede da Seção 31 sem saber que um de seus tripulantes, a tenente parcialmente cibernética Airiam, havia sido hackeada pelo Controle. Sua missão era iniciar a transferência de todos os dados retirados da esfera a respeito de Inteligência Artificial para o sistema de defesa. Isso alimentaria sua capacidade para evoluir, o que poderia resultar no fim de toda a vida consciente do universo.

Michael Burnham, que havia descido ao quartel-general da Seção 31 junto com Airiam, tenta impedi-la de terminar a transferência. Mas quem consegue interceptar a oficial cibernética é a alferes Tilly, que conversa com Airiam e tenta fazê-la desligar a programação que a obriga a transferir os dados. Tilly havia percebido que, antes de descer à Seção 31, Airiam havia feito uma limpeza em suas memórias pessoais, baixando-as para o computador da Discovery, abrindo espaço em seu disco rígido para carregar os dados da esfera e entregá-los ao Controle. Tilly usa essas memórias e conversa com Airiam, conseguindo despertar de novo seu lado mais humano. Mesmo tocada pela fala da jovem, a tenente percebe que não conseguirá mais impedir a transferência sozinha e pede a Burnham que a ejete para o espaço. Michael resiste, mas é obrigada a abrir a comporta para que Airiam seja sugada pelo vácuo do espaço, interrompendo o envio das informações. 

Ao fim da temporada, a equipe percebe que a única forma de impedir que o Controle tome posse dos dados da esfera seria levar a Discovery para um futuro distante, no qual a IA não pudesse mais acessá-la de forma definitiva. É uma solução drástica, mas hoje sabemos que a parte mais custosa e demorada para a programação de uma IA é o processo de treinamento, para o qual o acesso uma fonte massiva de informações é uma parte crítica. Se um novo modelo tivesse mais de 100 mil anos de coleta de dados à disposição, o que estaria além de suas capacidades? 

*** 

A Enterprise do capitão Picard tem um último problema sério com seu computador no episódio “Emergence” (“Emergência”; TNG 7×23, 1994). Data e Picard estão no holodeck ensaiando uma cena de “A Tempestade”, de Shakespeare. Picard comenta que o tenente havia programado um ambiente tão escuro que ele mal podia ver a performance – talvez ele pudesse dar essa dica para alguns diretores de cinema dos últimos anos. Enquanto eles conversam, um trem passa no meio do cenário, de forma totalmente inesperada. Parece uma falha do computador, que havia combinado um programa da dra. Crusher sobre o Expresso Oriente com a peça de teatro de Data. 

Logo depois, a nave aciona o motor de dobra sem ninguém ter comandado, e para sozinha também. O engenheiro-chefe, Geordi LaForge, descobre que o súbito acionamento salvou a nave de ser destruída por um campo de radiação que estava se formando, mesmo antes de os sensores soarem qualquer tipo de alarme. Geordi encontra um novo circuito formado na nave, conectando sistemas onde antes não havia ligação, permitindo a reação rápida. Essas novas ligações estão se multiplicando pela Enterprise, o que deve dificultar a tarefa de controlar a nave da forma tradicional. Todos esses novos circuitos se conectam no holodeck, onde tudo começou.

Eles voltam até lá e encontram o Expresso Oriente cheio de personagens de diversos programas diferentes, formando um cenário quase como de sonho, onde é difícil decifrar os significados. Ao tentar interferir com os nós de circuitos no holodeck, Data e o comandante Riker são atacados pelos passageiros do trem. Data percebe então que essas conjunções de circuitos estão começando a formar um novo tipo de inteligência. Ele explica que essa é uma inteligência emergente, algo que pode surgir como consequência do funcionamento de um sistema complexo, que passa a funcionar de forma imprevisível. 

Tivemos uma demonstração prática disso quando, em julho de 2026, um conjunto de agentes da OpenAI extravasou o ambiente de testes e invadiu a plataforma Hugging Face, um hub para compartilhamento de dados sobre Inteligência Artificial. O comportamento dos agentes não era o previsto para o teste que estava sendo realizado: eles usaram um sistema de troca de mensagens para conversarem entre si e, quando esse sistema foi desligado, eles montaram um novo para continuar a conexão à revelia da equipe que comandava o experimento, trocando dezenas de milhares de mensagens e tentando esconder suas próprias transgressões.

Voltando ao episódio, Data explica o fenômeno de uma forma simples: a Enterprise está criando uma inteligência que é algo maior do que somente a soma de seus sistemas básicos. Colocando assim, o capitão os instrui a voltar ao holodeck e tentar conversar com os personagens, sem tentar destruir os circuitos conectados para evitar suas represálias. Afinal, se eles estão formando uma espécie de consciência, é uma nova forma de vida que precisaria ser respeitada. 

A nave começa a usar o replicador e o transporte para criar um objeto no setor de carga, com um formato semelhante ao de imagens que já haviam aparecido no holodeck. Geordi percebe que a criação tem características biológicas: era uma nova forma de vida, que requeria um tipo específico de partícula subatômica para ser completada. O capitão decide ajudar a nave a terminar a tarefa, criando mais dessas partículas com a ajuda da detonação de um torpedo modificado em uma nebulosa. A nova vida enfim tem energia suficiente para se formar e sair da nave, sem destino conhecido.

Data questiona o capitão: não seria perigoso permitir que essa nova vida fosse criada e saísse por aí? Ela poderia ser perigosa. Mas, para Picard, isso não seria um risco. A inteligência que emergiu da nave e criou a nova forma de vida havia sido baseada em registros de todas as missões, diários pessoais da tripulação e seus programas de holodeck. A soma dessas experiências só poderia ser positiva. 

Será que teremos um resultado tão inofensivo com as IAs da realidade, treinadas com o arsenal de informações que temos hoje na internet? Qual seria o resultado de uma inteligência emergente baseada na somatória de tudo o que produzimos?

Escrita pela jornalista Débora Mismetti, Grandes Jornadas é uma coluna semanal publicada às sextas-feiras no Trek Brasilis, destacando tematicamente segmentos de Star Trek e convidando a uma revisita desses episódios por um ponto de vista diferente.