Quem responde pelo mundo?
Inteligência artificial, ontologias sociais e a singularidade humana
Nas últimas semanas participei de algumas conversas, em grupos de WhatsApp e outros espaços de discussão, que giravam em torno de um tema recorrente: inteligência artificial. Como acontece com frequência quando uma tecnologia atravessa rapidamente a fronteira da pesquisa e passa a ocupar o cotidiano, as perguntas surgem em ritmo acelerado. As máquinas vão ultrapassar a inteligência humana? Desenvolverão consciência? Serão capazes de criar, sentir ou tomar decisões como nós? Em algum momento deixarão de ser ferramentas para se tornarem algo equivalente a um sujeito? Embora essas questões sejam legítimas e fascinantes, fiquei com a impressão de que boa parte do debate está concentrada em uma mesma direção: continuamos procurando a singularidade humana dentro da inteligência, da cognição ou da consciência. Este ensaio nasce justamente do desconforto com essa hipótese e da suspeita de que a revolução da inteligência artificial está iluminando um aspecto diferente da experiência humana, menos relacionado ao que acontece dentro da cabeça e mais relacionado ao que acontece entre pessoas.
As reflexões que seguem surgem da leitura e do diálogo entre autores bastante distintos, como N. Katherine Hayles, Humberto Maturana, Douglas Hofstadter, Hannah Arendt e, mais recentemente, Marcelo Maceo. O argumento central é relativamente simples, embora suas consequências sejam amplas. A inteligência artificial está mostrando que inteligência, linguagem, criatividade e mesmo algumas formas de cognição podem existir em configurações muito mais diversas do que imaginávamos. Em vez de diminuir a humanidade, isso nos obriga a refinar a pergunta sobre aquilo que nos torna singulares. A hipótese explorada aqui é que essa singularidade não reside principalmente na inteligência, mas na capacidade de produzir, habitar e responder por mundos sociais compartilhados. Democracias, universidades, empresas, sistemas jurídicos, comunidades científicas, famílias e culturas não são apenas conjuntos de informações ou regras. São realidades construídas coletivamente, sustentadas por relações de confiança, compromisso, pertencimento e responsabilidade. A partir dessa perspectiva, a questão decisiva deixa de ser se as máquinas pensarão como nós e passa a ser compreender quem responde pelos mundos que tornam possível aquilo que chamamos de experiência humana.
Parte I — O erro de procurar o humano dentro da cabeça
Existe algo curioso acontecendo no debate contemporâneo sobre inteligência artificial. Quanto mais sofisticados os sistemas se tornam, mais a conversa parece convergir para um conjunto relativamente pequeno de perguntas. As máquinas serão mais inteligentes que nós? Desenvolverão consciência? Poderão criar como nós criamos? Serão capazes de substituir seres humanos em tarefas cognitivas cada vez mais complexas? Em versões mais otimistas ou mais apocalípticas, mais técnicas ou mais filosóficas, a estrutura da discussão permanece praticamente a mesma. Estamos tentando descobrir em que momento aquilo que criamos passará a fazer aquilo que fazemos.
A força dessas perguntas é compreensível. Durante séculos construímos uma imagem da humanidade fortemente associada à inteligência. A tradição moderna, em grande medida, transformou razão, cognição e consciência em elementos centrais daquilo que entendemos como experiência humana. Não por acaso, o avanço recente dos grandes modelos de linguagem produziu um impacto tão profundo. Pela primeira vez, milhões de pessoas passaram a interagir cotidianamente com sistemas capazes de escrever textos coerentes, sintetizar informações complexas, produzir argumentos, criar imagens, programar computadores e realizar uma série de tarefas que, até pouco tempo atrás, funcionavam como marcadores intuitivos da singularidade humana.
A reação mais comum diante desse fenômeno foi a ansiedade. Uma ansiedade compreensível, mas que carrega uma hipótese raramente explicitada: a de que aquilo que torna os seres humanos especiais estaria concentrado justamente nas capacidades que as máquinas estão começando a reproduzir.
Talvez o aspecto mais interessante da revolução da inteligência artificial seja exatamente o contrário.
Os sistemas artificiais não estão revelando aquilo que nos torna humanos.
Estão revelando aquilo que nunca foi suficiente para explicar a humanidade.
Foi essa sensação que tive ao ler Bacteria to AI, de N. Katherine Hayles. O livro realiza um movimento intelectual elegante porque se recusa a aceitar a moldura tradicional da conversa. Em vez de perguntar quando as máquinas se tornarão humanas, Hayles volta alguns passos e pergunta algo mais fundamental: o que exatamente entendemos por cognição?
A partir dessa pergunta, ela percorre a história da cibernética, da biologia, das ciências cognitivas e da teoria dos sistemas para mostrar que a associação entre cognição, consciência e humanidade é muito menos evidente do que costumamos imaginar. Sua leitura dialoga diretamente com Humberto Maturana e Francisco Varela, especialmente com a tradição da autopoiese, segundo a qual sistemas vivos produzem continuamente a si mesmos através de suas próprias operações. O organismo não existe porque possui uma essência fixa. Existe porque consegue manter uma dinâmica organizacional capaz de produzir as condições de sua própria continuidade.
A contribuição de Hayles não consiste em abandonar essa tradição, mas em ampliá-la. Sua atenção se volta para aquilo que acontece quando passamos a observar cognição para além dos limites da vida biológica e para além da consciência humana. Bactérias respondem ao ambiente. Organismos simples processam sinais. Ecossistemas apresentam formas distribuídas de adaptação. Animais desenvolvem estratégias complexas de aprendizagem. Sistemas artificiais realizam operações cognitivas sofisticadas sem que isso implique necessariamente consciência ou experiência subjetiva.
O resultado dessa ampliação é profundo.
A cognição deixa de ser um privilégio humano e passa a ser compreendida como um fenômeno distribuído em múltiplas formas de existência.
Essa mudança produz um efeito curioso. Quanto mais ampliamos o campo da cognição, mais percebemos que uma parcela significativa daquilo que utilizávamos para definir a humanidade deixa de funcionar como critério exclusivo. Memória, reconhecimento de padrões, inferência, previsão, linguagem instrumental, adaptação e até certos aspectos da criatividade passam a aparecer em sistemas bastante diferentes entre si.
É justamente aqui que a discussão pública costuma entrar em curto-circuito.
Se máquinas conseguem fazer isso, então o que sobra?
A pergunta parece inevitável porque ainda estamos olhando para o lugar errado.
O problema não está na capacidade das máquinas.
O problema está na nossa definição de humanidade.
A história do pensamento está repleta de exemplos semelhantes. Durante séculos acreditamos que a Terra ocupava o centro do universo. Depois descobrimos que não. Durante muito tempo imaginamos que os seres humanos ocupavam uma posição completamente separada do restante da vida. Depois a biologia evolutiva mostrou outra coisa. Em ambos os casos, a ampliação do horizonte não diminuiu a humanidade. Apenas tornou mais sofisticada a compreensão que tínhamos de nós mesmos.
A inteligência artificial está produzindo um deslocamento semelhante.
O que está sendo abalado não é a humanidade.
É a falsa equivalência entre humanidade e inteligência.
Nesse ponto costuma surgir uma objeção quase automática. Alguém pergunta sobre consciência. Se uma máquina se tornar consciente, não estaremos diante de algo equivalente ao humano? A questão é legítima e continuará sendo objeto de debates filosóficos importantes. Mas ela também possui um efeito colateral curioso. Ela mantém a conversa presa dentro da cabeça.
A inteligência está dentro da cabeça.
A consciência está dentro da cabeça.
A cognição está dentro da cabeça.
Mesmo quando discutimos sistemas artificiais, continuamos procurando a singularidade humana dentro de processos internos.
Grande parte das ciências humanas do último século caminhou em outra direção.
Durkheim observou que fatos sociais possuem existência própria e moldam indivíduos antes mesmo que eles percebam isso. George Herbert Mead mostrou que a identidade emerge através da internalização do outro. Wittgenstein argumentou que significado não nasce da mente isolada, mas dos jogos de linguagem compartilhados. Berger e Luckmann demonstraram que a realidade social é construída coletivamente e depois passa a ser percebida como algo objetivo. Hannah Arendt insistiu que a política nasce de um mundo comum construído entre pessoas e não de consciências isoladas.
Por caminhos diferentes, todos esses autores estavam apontando para uma mesma direção.
A experiência humana não pode ser explicada apenas a partir do indivíduo.
Ela depende de algo que acontece entre indivíduos.
Esse ponto parece simples, mas possui consequências enormes.
Pensemos em algo aparentemente banal como o dinheiro. Uma nota de cem reais é fisicamente um pedaço de papel impresso. Nenhuma análise química encontrará valor monetário em sua composição. O que transforma aquele objeto em dinheiro é uma rede complexa de expectativas, regras, instituições, crenças, práticas e relações que lhe atribuem significado. O valor não está no papel. Está no mundo social que transforma papel em moeda.
O mesmo raciocínio vale para universidades, empresas, casamentos, constituições, democracias e sistemas jurídicos. Nenhum deles existe da mesma forma que uma montanha existe. Eles existem porque são continuamente produzidos e reproduzidos por seres humanos em interação.
Essa observação costuma ser mal compreendida. Muitas pessoas escutam a expressão “construção social” e concluem que estamos falando de algo imaginário ou arbitrário. O oposto é verdadeiro. O fato de uma realidade ser socialmente construída não a torna menos real. O mercado financeiro é uma construção social. Uma constituição é uma construção social. Uma universidade é uma construção social. Todos eles produzem consequências concretas, distribuem recursos, organizam comportamentos e transformam vidas.
A questão central não é se essas realidades existem.
A questão central é como elas existem.
E a resposta nos conduz para um terreno muito diferente daquele onde normalmente ocorre o debate sobre inteligência artificial.
A singularidade humana começa a aparecer menos na capacidade de processar informações e mais na capacidade de produzir e sustentar mundos compartilhados.
É exatamente nesse ponto que precisamos avançar.
Porque compreender o que significa habitar um mundo social exige um passo adicional. Exige compreender por que esses mundos não são apenas sistemas compartilhados de significado, mas sistemas compartilhados de pertencimento, responsabilidade, compromisso e obrigação recíproca.
É aí que a pergunta sobre inteligência artificial muda completamente de escala.
E é também aí que começa a aparecer uma resposta mais robusta para a pergunta que dá título a este ensaio.
Quem responde pelo mundo?
Parte II — Habitar um mundo, responder por um mundo
A expressão “mundo social” pode soar excessivamente abstrata à primeira vista. Existe uma tendência natural de interpretá-la como sinônimo de cultura, ideologia ou conjunto de crenças compartilhadas. Embora exista alguma verdade nessa aproximação, ela continua insuficiente para capturar aquilo que realmente está em jogo. Mundos sociais não são apenas sistemas de interpretação. São sistemas de compromisso. São sistemas de expectativa. São sistemas de responsabilidade recíproca.
Essa distinção é importante porque ajuda a compreender por que a vida humana não pode ser reduzida a processos cognitivos, por mais sofisticados que eles sejam.
Voltemos ao exemplo do dinheiro. Uma nota possui valor porque existe um conjunto de instituições, regras e expectativas que sustentam esse valor. Mas a existência de um mundo social vai muito além da circulação de significados. Ela envolve a capacidade de criar obrigações que se projetam no tempo. Um contrato produz consequências futuras. Uma dívida produz consequências futuras. Um casamento produz consequências futuras. Uma constituição produz consequências futuras. A característica comum entre todos esses exemplos não é apenas a existência de uma interpretação compartilhada da realidade. É a existência de compromissos compartilhados sobre como agir diante dessa realidade.
É justamente aqui que a reflexão de Humberto Maturana continua sendo tão relevante.
Ao longo de sua obra, Maturana insistiu que os seres humanos não existem simplesmente em ambientes. Existem em redes recorrentes de coordenação consensual de ações. Essa formulação costuma ser interpretada como uma teoria da linguagem ou da comunicação, mas ela possui implicações muito mais profundas. Coordenações consensuais não produzem apenas troca de informações. Produzem formas estáveis de convivência. Produzem expectativas. Produzem domínios de existência compartilhados.
Quando duas pessoas fazem uma promessa uma à outra, algo novo surge entre elas. Não se trata apenas de uma informação transmitida de um cérebro para outro. Surge uma expectativa. Surge uma obrigação. Surge uma possibilidade futura de confiança ou de decepção. Surge um vínculo.
O vínculo não existe dentro de nenhuma das duas pessoas.
Existe entre elas.
Essa observação parece trivial, mas possui consequências enormes para a discussão sobre inteligência artificial.
Grande parte do debate contemporâneo continua perguntando se máquinas podem pensar, aprender, criar ou sentir. São perguntas legítimas. O problema é que elas permanecem concentradas dentro do sistema. Observam aquilo que acontece internamente, mas deixam de observar aquilo que acontece entre sistemas.
Promessas não existem dentro de cérebros.
Confiança não existe dentro de cérebros.
Legitimidade não existe dentro de cérebros.
Autoridade não existe dentro de cérebros.
Vergonha não existe dentro de cérebros.
Todos esses fenômenos emergem em relações.
A vergonha talvez seja um dos melhores exemplos.
Ninguém sente vergonha sozinho diante do universo. A vergonha pressupõe pertencimento. Pressupõe uma comunidade cujas expectativas reconhecemos como relevantes. Pressupõe um mundo social dentro do qual determinadas ações adquirem significado moral, simbólico ou afetivo.
Uma pessoa sente vergonha porque pertence.
Uma pessoa sente culpa porque reconhece uma obrigação.
Uma pessoa sente gratidão porque reconhece uma dívida simbólica.
Uma pessoa sente responsabilidade porque reconhece que suas ações produzem consequências para outros.
Todos esses fenômenos dependem da existência de mundos compartilhados.
Nenhum deles pode ser explicado apenas pela inteligência.
É nesse ponto que o trabalho recente de Marcelo Maceo oferece uma contribuição particularmente interessante.
Em Ontogênese, Maceo propõe que aquilo que chamamos de realidade social é produzido continuamente por sistemas ontológicos compartilhados. A formulação é sofisticada, mas a intuição é relativamente simples. Seres humanos não vivem apenas em ambientes físicos. Vivem dentro de mundos que definem aquilo que conta como verdadeiro, legítimo, desejável, possível, aceitável ou proibido.
Uma democracia é um mundo.
Uma religião é um mundo.
Uma universidade é um mundo.
Uma empresa é um mundo.
Uma comunidade científica é um mundo.
Esses mundos não existem porque alguém decidiu que eles existiriam. Eles existem porque milhões de pessoas participam continuamente de sua produção e manutenção. Eles dependem de práticas recorrentes, de relações de confiança, de expectativas compartilhadas e de formas de coordenação que se estabilizam ao longo do tempo.
É justamente por isso que o conceito de alterpoiese se torna tão interessante como desenvolvimento contemporâneo da tradição inaugurada por Maturana.
Se a autopoiese descreve a capacidade de sistemas vivos produzirem continuamente a si mesmos, a alterpoiese procura compreender como sistemas humanos produzem continuamente mundos compartilhados. A atenção deixa de estar voltada apenas para a manutenção da identidade de um organismo e passa a incluir a produção coletiva de realidades habitáveis.
Essa passagem é decisiva para o argumento deste ensaio.
A inteligência artificial já participa de inúmeros processos cognitivos. Ela organiza informações, produz conhecimento, auxilia decisões e influencia comportamentos. Em muitos contextos faz isso com uma eficiência impressionante. Ainda assim, existe uma diferença profunda entre participar de processos cognitivos e participar da produção de mundos sociais.
Uma máquina pode operar dentro de uma universidade.
Uma máquina pode operar dentro de um sistema jurídico.
Uma máquina pode operar dentro de um mercado financeiro.
Uma máquina pode operar dentro de uma democracia.
Mas operar dentro de um mundo não é a mesma coisa que responder por ele.
Essa diferença é mais importante do que parece.
Uma democracia existe porque milhões de pessoas continuam reconhecendo sua legitimidade, aceitando seus resultados, obedecendo suas regras e assumindo responsabilidades em relação ao seu funcionamento. Uma constituição existe porque pessoas respondem por ela. Uma instituição existe porque pessoas respondem por ela. Uma amizade existe porque pessoas respondem por ela.
Responder por um mundo significa algo muito específico.
Significa assumir consequências.
Significa sustentar compromissos.
Significa carregar reputação.
Significa herdar histórias.
Significa transmitir legados.
Significa reconstruir confiança quando ela se rompe.
Significa permanecer vinculado a uma realidade compartilhada mesmo quando isso produz custos pessoais.
Essa dimensão da experiência humana raramente aparece nas discussões sobre inteligência artificial porque ela não pertence ao domínio da cognição. Ela pertence ao domínio da participação.
É justamente aqui que a pergunta sobre consciência artificial começa a perder centralidade.
Mesmo que um dia sejamos obrigados a reconhecer formas sofisticadas de consciência em sistemas artificiais, continuaremos diante de uma questão anterior.
Esses sistemas respondem por algum mundo?
Participam da produção de obrigações recíprocas?
Assumem responsabilidades históricas?
Compartilham pertencimentos?
Experimentam as consequências existenciais de sustentar ou transformar uma realidade coletiva?
A resposta para essas perguntas nos conduz para um território muito diferente daquele onde normalmente ocorre o debate sobre inteligência artificial.
E é nesse território que começa a emergir uma compreensão mais precisa da singularidade humana.
Porque a singularidade humana parece estar menos associada à capacidade de processar informações e mais associada à capacidade de produzir, habitar e responder por mundos compartilhados.
É a partir desse ponto que podemos finalmente retornar à inteligência artificial e perguntar não o que ela pensa, mas que papel ela passa a ocupar dentro dos mundos que continuamos responsáveis por criar.
Parte III — Quem responde pelo mundo?
Toda época possui suas perguntas recorrentes. Algumas delas atravessam décadas. Outras atravessam séculos. A nossa parece ter encontrado na inteligência artificial uma espécie de condensador de ansiedades. Projetamos nela preocupações econômicas, medos existenciais, expectativas de abundância, fantasias de controle, desejos de transcendência e receios de obsolescência. Como acontece frequentemente em momentos de transformação tecnológica profunda, existe uma tendência de imaginar que o elemento mais novo do sistema é também o elemento mais importante.
A história raramente funciona dessa maneira.
O aparecimento da imprensa não transformou apenas os livros. Transformou religiões, sistemas políticos, mercados e formas de organização do conhecimento. O aparecimento da eletricidade não transformou apenas máquinas. Transformou cidades, hábitos, ritmos de trabalho e expectativas sobre o futuro. O aparecimento da internet não transformou apenas a comunicação. Transformou identidades, instituições e formas de pertencimento.
A inteligência artificial parece caminhar na mesma direção.
Seu impacto mais profundo provavelmente não será aquilo que ela fará sozinha, mas aquilo que acontecerá com os mundos humanos que passarão a coexistir com ela.
É nesse ponto que a contribuição final de N. Katherine Hayles se torna particularmente relevante. Ao concluir Bacteria to AI, sua reflexão converge para a ideia de uma ecological relationality, uma compreensão da realidade baseada menos em entidades isoladas e mais em sistemas de interdependência. O foco deixa de estar concentrado em indivíduos, organismos ou tecnologias considerados separadamente e passa a observar as redes de relações dentro das quais todos esses elementos existem.
Essa mudança de perspectiva é importante porque rompe com uma visão excessivamente competitiva da inteligência artificial. Durante anos, a conversa pública foi dominada por metáforas de disputa. Humanos contra máquinas. Inteligência biológica contra inteligência artificial. Substituição, superação, obsolescência. O horizonte implícito sempre foi uma competição.
A leitura de Hayles sugere algo diferente.
Sistemas cognitivos distintos coexistem.
Interagem.
Transformam-se mutuamente.
Produzem novas configurações.
A questão passa a ser ecológica.
Quando observamos por esse ângulo, percebemos que a inteligência artificial já participa dos mundos que habitamos. Ela influencia decisões econômicas, organiza fluxos de informação, medeia relações sociais, amplia capacidades cognitivas e altera continuamente os ambientes dentro dos quais fazemos escolhas. A ideia de uma separação nítida entre humanos e máquinas torna-se cada vez menos útil para compreender o presente.
Mas é justamente nesse ponto que o argumento deste ensaio se afasta das discussões mais frequentes sobre inteligência artificial.
Porque participar de um mundo não é a mesma coisa que responder por ele.
Uma plataforma pode influenciar eleições.
Um algoritmo pode influenciar mercados.
Um sistema artificial pode influenciar decisões médicas.
Tudo isso é verdade.
Mas a responsabilidade por esses mundos continua sendo humana.
A responsabilidade pela democracia continua sendo humana.
A responsabilidade pela ciência continua sendo humana.
A responsabilidade pelas instituições continua sendo humana.
A responsabilidade pelos sistemas jurídicos continua sendo humana.
A responsabilidade pelas formas de convivência continua sendo humana.
Esse deslocamento é importante porque nos permite observar um aspecto frequentemente ignorado da discussão contemporânea. Existe uma diferença profunda entre inteligência e responsabilidade. Existe uma diferença profunda entre cognição e participação. Existe uma diferença profunda entre operar dentro de um mundo e responder por sua continuidade.
É justamente aqui que a pergunta sobre consciência artificial perde parte de sua centralidade.
Suponhamos, por um momento, que futuras gerações de sistemas artificiais desenvolvam formas sofisticadas de autoconsciência. Suponhamos que se tornem capazes de produzir narrativas próprias sobre sua existência. Suponhamos que apresentem comportamentos indistinguíveis daqueles que hoje associamos à experiência subjetiva.
Ainda assim, permaneceria aberta uma questão anterior.
Quem responde pelo mundo?
Quem responde pela confiança quando ela é rompida?
Quem responde pela legitimidade quando ela é contestada?
Quem responde pela continuidade de uma comunidade política?
Quem responde pelos compromissos assumidos entre gerações?
Quem responde pelas instituições que sustentam uma sociedade?
Essas perguntas não pertencem ao domínio da cognição.
Pertencem ao domínio da convivência.
Pertencem ao domínio da história.
Pertencem ao domínio da responsabilidade compartilhada.
Essa observação permite reinterpretar uma série de debates contemporâneos. Quando falamos de democracia, frequentemente concentramos a atenção em procedimentos eleitorais, estruturas institucionais ou modelos de governança. Tudo isso é importante, mas permanece incompleto. Democracias sobrevivem porque pessoas continuam respondendo por elas. Continuam aceitando resultados, respeitando regras, sustentando desacordos e preservando espaços de convivência mesmo quando suas preferências individuais não prevalecem.
O mesmo vale para a ciência.
O mesmo vale para mercados.
O mesmo vale para universidades.
O mesmo vale para qualquer mundo social que ultrapasse a escala de uma única vida.
Todos dependem de algo que não pode ser reduzido à inteligência.
Dependem de confiança.
Dependem de participação.
Dependem de compromisso.
Dependem de autoria compartilhada.
É nesse contexto que a inteligência artificial passa a ocupar um lugar diferente daquele que normalmente aparece nas narrativas de competição ou substituição. A questão central deixa de ser quem vencerá quem e passa a ser como diferentes formas de cognição passarão a coexistir dentro de ecologias sociais cada vez mais complexas. O cenário que emerge não é o de uma supremacia das máquinas sobre os humanos, nem o de uma resistência humana contra as máquinas, mas o de novas formas de simbiose entre agentes distintos participando da produção do mundo. Sistemas artificiais ampliam capacidades humanas, reorganizam fluxos de informação, influenciam decisões e passam a integrar os ambientes cognitivos dentro dos quais indivíduos, organizações e instituições operam. A pergunta relevante deixa de ser onde termina a inteligência humana e começa a inteligência artificial. A pergunta passa a ser como essas diferentes formas de cognição participam da construção de realidades compartilhadas.
Nesse sentido, a reflexão de Marcelo Maceo sobre o cosmos social oferece uma imagem particularmente fértil. Se a realidade social emerge da interação contínua entre pessoas, vínculos, narrativas, práticas e instituições, a inteligência artificial passa a integrar esse campo de relações como um novo elemento de complexidade. Não como sujeito soberano da história e tampouco como simples ferramenta passiva, mas como participante de uma ecologia mais ampla de coordenações, interpretações e produções de sentido. O desafio deixa de ser proteger a humanidade da tecnologia e passa a ser compreender quais mundos estamos criando na presença dessas novas formas de cognição e como continuamos capazes de responder por eles.
Não se trata de uma consciência coletiva.
Não se trata de um superorganismo.
Não se trata de uma fusão entre homem e máquina.
Trata-se da percepção de que realidades sociais emergem de sistemas cada vez mais distribuídos, compostos por pessoas, organizações, tecnologias, linguagens, instituições e infraestruturas cognitivas que participam conjuntamente da produção do mundo.
Sob essa perspectiva, a inteligência artificial deixa de aparecer como um competidor e passa a aparecer como um novo participante dentro de ecologias sociais mais amplas. Sua relevância não está em substituir seres humanos, mas em transformar as condições dentro das quais seres humanos produzem significado, coordenação e realidade compartilhada.
O ponto decisivo continua sendo a autoria.
Porque mundos sociais não surgem espontaneamente.
Eles exigem participação.
Exigem manutenção.
Exigem cuidado.
Exigem responsabilidade.
Essa percepção nos devolve à pergunta inicial.
Durante muito tempo procuramos a singularidade humana dentro da inteligência.
Depois passamos a procurá-la dentro da consciência.
Mais recentemente começamos a procurá-la dentro da criatividade.
O surgimento da inteligência artificial está mostrando os limites dessas estratégias.
A singularidade humana parece residir menos em capacidades cognitivas isoladas e mais na capacidade de produzir mundos compartilhados, sustentar compromissos ao longo do tempo, construir instituições, transmitir legados, reconstruir confiança após rupturas e assumir responsabilidade por realidades que não existiriam sem nossa participação.
A inteligência artificial não elimina essa tarefa.
Torna-a mais visível.
E talvez essa seja sua contribuição mais importante.
Ao desafiar nossa exclusividade sobre a inteligência, ela nos obriga a olhar para aquilo que sempre esteve além da inteligência.
Os mundos que criamos.
As relações que sustentamos.
E a responsabilidade que assumimos por ambos.
No fim, a pergunta decisiva não é se as máquinas pensarão como nós.
A pergunta decisiva é se continuaremos capazes de responder pelos mundos que habitamos e pelos mundos que estamos começando a construir junto com elas.
 | Uma publicação convidada por
|
Diogo, antes de qualquer coisa, quero agradecer pela leitura, pelo diálogo e também pela generosidade intelectual de trazer meu trabalho para uma conversa ao lado de autores como N. Katherine Hayles, Humberto Maturana, Douglas Hofstadter e Hannah Arendt. Não recebo isso apenas como uma citação ou reconhecimento, mas como a abertura de um campo de investigação que, sinceramente, considero necessário neste momento. Seu artigo não usa a inteligência artificial apenas para perguntar o que as máquinas serão capazes de fazer. Ele aproveita o deslocamento produzido por elas para perguntar, novamente e de maneira mais exigente, o que significa ser humano.
E há uma virada no seu argumento que considero especialmente potente: talvez estejamos procurando a singularidade humana no lugar errado. Durante muito tempo a colocamos na razão, depois na consciência, na inteligência, na linguagem, na criatividade, sempre como alguma propriedade localizada dentro do indivíduo, quase como se houvesse uma joia escondida dentro da cabeça humana que precisássemos proteger da máquina. A inteligência artificial começa a desmontar várias dessas certezas, e você faz algo muito interessante ao deslocar a questão para os mundos que produzimos, habitamos e pelos quais respondemos.
É justamente a partir da força desse deslocamento que eu gostaria de contribuir com uma demarcação talvez mais radical.
Uma inteligência artificial pode operar dentro de uma democracia, de uma universidade, de uma empresa, de um sistema jurídico, de uma comunidade científica ou de uma família. Pode reorganizar informações, interferir em decisões, modificar percepções, selecionar o que se torna visível, influenciar reputações e alterar profundamente as condições em que as relações humanas acontecem. Isso já é imenso e talvez ainda estejamos subestimando suas consequências.
Mas operar dentro de um mundo não significa participar ontologicamente dele.
Participar de um mundo social não é apenas produzir efeitos dentro dele. É pertencer. É ser atravessado por aquilo que acontece. É assumir compromissos, carregar uma história, sofrer as consequências de uma promessa rompida, ter algo a perder, responder pelo outro, ser reconhecido ou expulso, permanecer por lealdade ou partir pagando o custo real daquela saída. É, sobretudo, mudar com o outro na relação.
É aqui que entra uma distinção importante para mim. Alterpoiese não é qualquer interação que produz transformação. Também não é troca de informação, adaptação ou influência mútua em sentido genérico. É o processo pelo qual pessoas, na recorrência viva de suas relações, transformam-se umas com as outras e fazem nascer um real que não existia antes daquele encontro.
Não apenas uma resposta nova.
Não apenas uma combinação improvável.
Um mundo.
Por isso eu teria dificuldade em dizer que a inteligência artificial participa da alterpoiese. Ela pode influenciar uma relação alterpoiética, pode interferir nela, ampliar algumas condições, destruir outras, acelerar encontros, endurecer padrões, organizar memórias e até oferecer elementos que humanos usarão para criar algo novo. Mas ela não está no entre da mesma maneira que as pessoas estão.
E não porque uma máquina seja incapaz de mudar tecnicamente. Ela pode adaptar respostas, acumular memória, receber correções e ter seus parâmetros modificados. O problema é outro. Modificação funcional não é transformação ontológica.
A máquina não passa a pertencer ao mundo que ajudou a influenciar. Não sente vergonha. Não herda uma dívida. Não sofre a perda de um vínculo. Não se torna responsável por uma promessa porque sua existência depende dela. Não é humanizada pelo encontro.
Talvez tenhamos, no máximo, uma espécie de adaptação artificial produzida por interação. Mas chamar isso de alterpoiese retiraria justamente da alterpoiese aquilo que a define: a transformação recíproca de pessoas que passam a habitar e sustentar juntas uma realidade comum.
Há algo semelhante na discussão sobre criatividade. Eu teria cuidado ao reduzir a diferença à ideia de que uma máquina somente copia, porque alguém dirá, com alguma razão, que os seres humanos também criam a partir de memórias, referências, linguagens e formas anteriores. Mas há uma diferença que me parece mais profunda do que simplesmente recombinar ou não recombinar conteúdos.
Uma inteligência artificial pode produzir algo inédito.
Mas novidade não é necessariamente criação.
Criar, no sentido humano, não é apenas fazer aparecer uma forma que ainda não existia. É inaugurar sentido, colocar algo em risco, comprometer-se com aquilo, responder por suas consequências e permitir que a própria criação transforme quem criou e aqueles que passam a encontrá-la. A criatividade humana não está apenas no resultado. Está no nascimento de um mundo e na responsabilidade de sustentá-lo.
Uma máquina talvez produza o inesperado.
O humano pode transformar o inesperado em mundo.
E aqui seu artigo toca, para mim, num ponto ainda mais importante do que a comparação entre inteligências humanas e artificiais: o humano não nasce pronto e depois começa a participar da sociedade. Ele se torna humano dentro dos mundos sociais que o antecedem.
Nós aprendemos entre pessoas a confiar, desconfiar, prometer, pertencer, reconhecer autoridade, sentir vergonha, assumir uma dívida, amar uma obra, defender uma instituição, criar reputação, obedecer a um símbolo ou romper com tudo isso. Não carregamos essas realidades prontas dentro da biologia. Elas aparecem porque nascemos em mundos que já estavam em andamento e somos lentamente produzidos por eles.
Nós criamos mundos, mas os mundos também nos criam.
Isso significa que o humano não é apenas o autor soberano da realidade social. Ele é também matéria viva de mundos iniciados por outros. É produto, participante, sustentador e possibilidade de transformação daquilo que o atravessa.
E é exatamente por isso que eu preservaria uma fronteira entre pessoas e máquinas no cosmos social. A máquina pode operar dentro dele, influenciá-lo, registrar seus rastros e modificar as condições em que ele se organiza. Mas ela não é produzida como pessoa por esse mundo. Não emerge dele como alguém capaz de pertencimento, autoria e responsabilidade.
Talvez exista ainda uma camada mais rara, e esta me parece uma das fronteiras mais interessantes abertas pelo seu artigo.
Quando pessoas e mundos sociais entram em interação de maneira aberta, distribuída, plural e sem um centro capaz de controlar o processo, pode emergir algo como uma inteligência genuinamente humana compartilhada. Não uma consciência coletiva permanente. Não uma grande mente pairando acima das pessoas. Não um superorganismo que elimina diferenças. E também não uma inteligência híbrida composta por humanos e máquinas.
Estou falando de um acontecimento fugaz do entre.
Um momento em que um conjunto de pessoas percebe, cria, responde ou encontra uma saída que não estava disponível para nenhuma delas isoladamente e que também não pode ser explicada pela simples soma de suas capacidades individuais.
Essa inteligência não pertence a ninguém.
Não pode ser convocada por decreto.
Não aparece porque alguém deu um comando correto, nem porque somamos vontades individuais, nem porque reunimos dados suficientes numa plataforma. Ela emerge de um determinado padrão de interação e desaparece quando esse padrão se desfaz.
É quase impossível fabricá-la, porque sistemas complexos não obedecem à vontade central de alguém. Podemos talvez cuidar de certas condições, preservar a pluralidade, ampliar conexões, diminuir hierarquias, sustentar confiança e impedir que um centro capture tudo. Mas não podemos ordenar que uma inteligência compartilhada apareça.
Quando ela aparece, aparece como acontecimento.
E desaparece como acontecimento também.
Pode deixar uma obra, uma decisão, uma invenção, uma nova linguagem ou uma transformação irreversível nas pessoas que participaram. Mas aquilo que aconteceu entre elas não pode ser armazenado integralmente como informação. A máquina pode registrar os rastros, processar os resultados, encontrar padrões depois do acontecimento e talvez até ajudar a preparar algumas de suas condições. Mas não faz parte da inteligência que emergiu ali.
Porque aquela inteligência não estava nos dados.
Estava no padrão vivo de interação entre pessoas.
Talvez este seja um dos territórios mais importantes que a ascensão da inteligência artificial nos obrigará a investigar. Não apenas aquilo que as máquinas conseguem reproduzir em nós, mas aquilo que só pode nascer quando seres humanos mudam uns com os outros, criam mundos e, durante alguns instantes, tornam-se coletivamente capazes de algo que nenhum deles poderia produzir sozinho.
Seu artigo abre essa investigação de uma forma muito potente. E talvez a pergunta “quem responde pelo mundo?” possa ganhar uma camada anterior e ainda mais incômoda:
Quem realmente participa do mundo?
Quem apenas opera dentro dele?
E que formas de inteligência somente podem existir porque, antes de sermos indivíduos inteligentes, somos humanos produzidos no encontro com outros humanos?