Consciência Artificial versus Consciência Humana, Volym 2

Um livro em dois volumes pede ao leitor uma confiança particular: a de que o segundo cumprirá o que o primeiro deixou prometido. Estas páginas servem para dizer, com a brevidade possível, que promessa foi essa e como este volume a procura cumprir. As razões que me levaram a escrever a obra, o método que segui e o público a que me dirijo ficaram expostos no Prefácio do Volume I, e não os repito aqui.

O primeiro volume tinha uma tarefa delimitada: fundar. Partiu da frase de António Damásio que organiza toda a obra — a de que uma consciência artificial não está excluída em princípio, mas está fora do alcance das máquinas que hoje construímos (cf. Introdução) — e submeteu-a às provas que a podiam derrubar. A Conclusão do Volume I fez o balanço desse percurso em três resultados, que aqui apenas recordo pelo nome: consciência e inteligência separam-se, e separam-se nos dois sentidos; a consciência humana assenta no sentir de um corpo vivo que se regula para continuar a existir; e a Inteligência Sintética de 2026 não é consciente, porque lhe falta, mais do que uma função, uma vida a manter (cf. Vol. I, Conclusão, C1.1). Cada um destes resultados saiu com o seu grau de apoio declarado. O segundo, em particular, é minoritário no campo da ciência da consciência, e o livro nunca o apresentou de outro modo. Também ficou dito o que nenhum deles afirma: que nenhum sistema artificial possa alguma vez ser consciente.

É precisamente aí que começa este volume. Se o primeiro respondeu à pergunta sobre o presente, o segundo ocupa-se da pergunta sobre o possível, e fá-lo sob o signo da terceira distinção contida na frase de Damásio: a que separa o que parece do que é. O subtítulo não é ornamento. Vivemos já rodeados de sistemas que falam de si, que dizem sentir, que pedem desculpa e manifestam gratidão, e que muitos dos seus utilizadores tratam como interlocutores. A aparência de mente tornou-se abundante e barata; a mente, se a tese do primeiro volume estiver certa, continua ausente. Entre uma e outra abre-se um intervalo que não é apenas filosófico. Nele se decide o que devemos aceitar como prova, que caminho teria de ser percorrido para que a resposta mudasse, a quem cabe responder pelos actos de um sistema que ninguém habita, que direitos e que deveres o direito reconhece, e que riscos corremos com máquinas cada vez mais capazes e sempre sem ninguém lá dentro.

Daí a pergunta que este volume procura responder: como se passa, com rigor, do que parece ao que é — e que consequências tem, desde já, o facto de essa passagem ainda não ter acontecido?