[1]
O texto demorou 3 mil anos para colocar as imagens nos museus. A disputa atual será rápida e o digital será veloz. Contaremos com uma resistência reacionária dos textos suplantados contra os programas de computador em um futuro que ainda não se pode prever? (FLUSSER, 2011, p. 209)
[2]
Aqui temos em mente verdadeiras máquinas de escrever (inteligência artificial) que providenciam elas próprias essa organização [da escrita]. Tais máquinas não são, para dizer a verdade, apenas de escrever, mas também máquinas pensantes, o que deveria nos levar a refletir sobre o futuro da escrita e, de maneira geral, a respeito do pensar. (FLUSSER, 2011, p. 19)
[3]
Todo escrever é um escrever correto, e isso provoca indiretamente a crise atual da escrita. Pois há algo mecânico no organizar, no enfileirar, e para isso as máquinas tem um desempenho melhor do que o ser humano. Pode-se deixar a escrita, essa organização dos sinais, por conta das máquinas (FLUSSER, 2011, p. 19)
Prompt: "The linear history flows in a channelled way, through scripts, into images, to spin, according to programming, around them in the eternal return of the same"
Eu não era nascido quando Vilém Flusser publicou “Die Schrift: hat Schreiben Zukunft?” (1987), um livro – também lançado em formato de disquete - que especula os efeitos prováveis da inteligência artificial para a escrita. Era o final dos anos 1980, mas Flusser parecia estar elaborando um posicionamento desde o seu tempo para a discussão de 2023 sobre Grandes Modelos de Linguagem – GML (ou LLM – Large Language Models) - como o ChatGPT.
Outros livros de Flusser também poderiam ser base para refletir sobre o tema. O Universo das Imagens Técnicas (1983) é, no Brasil, um dos mais conhecidos e certamente aborda a questão da inteligência artificial. Parte considerável de sua obra, na verdade, atravessa esse debate. Todavia, como a discussão em torno da inteligência artificial se intensificou ultimamente com o lançamento do ChatGPT-4, optei por reler e fichar com renovada atenção o seu livro “Há futuro para a escrita? ”. Essa postagem compartilhará esse fichamento, oferecendo uma colagem pessoal de trechos para especular um posicionamento do filósofo das mídias tcheco-brasileiro sobre o futuro da escrita após a liberação de GML para o grande público.
Talvez por questões de longa data estarem sendo atualizadas no drama existencial do pensamento histórico é que Vilém Flusser tenha jogado com se manter perspicaz e atual para refletir sobre o ChatGPT, ainda que 30 anos depois de seu falecimento. Diversos dos debates levantados até o momento já vem de longa data e por ele são discutidos: a morte do autor, a obra de arte sem aura, os efeitos da automatização no trabalho, a questão da consciência, o medo de que a inteligência artificial se volte contra a humanidade, etc. São temas debatidos se pensarmos a era da reprodução mecânica na década de 1930, a era da revolução cibernética de 1960 e a era da tecnocultura de 1990, todas amplamente atravessadas pelos estudos e escritos de Flusser.
Flusser afirmou olhar, nos anos 1980, para as máquinas de escrever e para o processador de textos Word com curiosidade sobre a sua rapidez e sua variabilidade, antevendo o desenvolvimento de sua capacidade de reproduzir uma escrita correta:
"Sem dúvida, a inteligência artificial será mais inteligente no futuro. Ela disporá de uma consciência histórica que superará de longe a nossa. Ela fará uma história melhor, mais rápida e mais variada do que a que nós fizemos. A dinâmica da história se intensificará em direção ao inimaginável: cada vez mais coisas acontecerão, os acontecimentos se precipitarão e serão mais diversificados. Quanto a nós, poderemos deixar confiantemente toda a história por conta das máquinas automáticas. Já que todas essas coisas automáticas e mecânicas farão história melhor do que nós, poderemos nos concentrar em outras coisas. Em quê? Esse ensaio diz respeito justamente a isso, quando se pergunta: “Há futuro para a escrita?" (FLUSSER, 2011, p. 23)
Começo chamando atenção para alguns detalhes da própria metaescrita (escrever sobre escrever) de Flusser. Primeiramente, destaco quando ele afirma que os textos precisam estar afinados e que existem dois tipos de ritmos e afinação textual: no primeiro, uma onda de discurso segue a outra. No segundo, a onda se quebra e espuma, com o texto contradizendo a si próprio e mesmo assim fluindo sem lacunas (FLUSSER, 2011, p. 74). O segundo seria um ritmo sincopado e, ao escrever isso, creio que ele afirma o ritmo brasileiro que fundamenta seu pensamento. Ele deixa todo uma atmosfera de samba implícita em sua visão de um pensamento tecnológico sem chão fixo (bodenlos), em constante deslocamento entre línguas e dimensões imagéticas, alfanuméricas e alfabéticas de espaço-tempo.
Segundamente, acho interessante destacar desde já sua afirmação de que os textos são uma procura do outro (com todos os problemas etnocêntricos embutidos na construção de alteridade dos textos ocidentais). Gosto da imagem que ele cria de que todos os textos são “braços estendidos que procuram com ou sem esperança ser abraçados por outro. É assim a atmosfera do gesto de escrever” (FLUSSER, 2011, p. 67). Com isso, afirma que textos são políticos, mesmo quando quem escreve está ciente ou não, ou até mesmo indiferente, ou mesmo quando “ele desiste enfaticamente, como Kafka, do leitor co-produtor do texto” (FLUSSER, 2011, p. 67).
Essas características, que fazem do texto escrito por um humano algo político não estão presentes nos textos gerados por IA, pois estes não possuem senso político.
CONVERSA COM CHATGPT
Ao perguntar ao ChatGPT se ele possui senso político, obtive a seguinte resposta: “Como um modelo de linguagem, não possuo opiniões ou crenças pessoais, já que não tenho capacidade de pensar ou sentir. Eu sou programado para ser imparcial e oferecer informações objetivas e precisas com base no que aprendi em minha base de dados. Minha função é ajudar a fornecer respostas úteis e relevantes às perguntas dos usuários, independentemente de suas posições políticas ou ideológicas. ”
Ainda que estejam impecavelmente corretos e alimentados pela vastidão humanamente ininteligível de dados armazenados em servidores altamente gélidos em alguns territórios específicos do planeta, essa ausência cria um risco de “total despolitização de todas as formas de comportamento”, o que resultaria nos seres humanos e na sociedade se guiarem como um sistema automático cibernético (FLUSSER, 2011, P. 93).
Ele acreditava, nesse contexto, que o alfabeto terá que se defender para não ser suplantado pelos novos códigos – “um consolo para os engajados na permanência da escrita de textos, pois a coisa se acelerou” (FLUSSER, 2011, p. 223). O temor, com isso, é que os modelos de percepção e de experiência gerados pelos aparelhos sejam adotados sem crítica e que a inteligência artificial robotize a vida.
Além do mais, os GML tendem a reduzir o pensamento e a inteligência à uma compreensão enviesada por limitações do que são pensamento e inteligência no ocidente (dentro do atual estágio de conhecimento científico). Em outras palavras, estaremos pautando nosso pensamento e visão de inteligência em uma simplificação projetada e enviesada (especialmente pela matriz de poder branca eurocêntrica e heteronormativa de poder) do que isso pode ser:
No cérebro, formam-se essas representações a partir de elementos distintos, e deles, brotam novamente (de maneira quântica) pensamentos, desejos, decisões, sentimentos. Não se pode compreender como isso se sucede em seus pormenores em vista da complexidade do cérebro, que beira a incredulidade. Mas pode-se simular isso de maneira simplificada em máquinas inteligentes.
Da inscrição de símbolos em superfícies rochosas à escrita por inteligência artificial há um processo de milhares de anos. Escrever, ao longo desse tempo, sempre foi “um gesto que orienta e alinha o pensamento”. É um gesto que envolve organizar o pensamento em uma estrutura linear que, no Ocidente, foi fundamental para a afirmação do pensamento lógico diante do pensamento mítico, circular.
O ponto de virada dessa afirmação da linearidade progressiva contra a circularidade mítica é reconhecido como o Iluminismo e a sua tecnologia da Prensa de Gutemberg: “A tipografia foi a própria expressão do pensamento ocidental, histórico, científico e progressista que se tornou consciente (FLUSSER, 2011, p. 87) ”. Desde então e de modo mais acelerado, o ocidente deslocou o pensamento de um círculo mágico “pré-histórico” para um pensamento histórico, conformado em linhas.
"A escrita, essa sequencia de sinais em forma de linhas, é que torna possível essa consciência histórica. Somente quando se escrevem linhas é que se pode pensar logicamente, calcular, criticar, produzir conhecimento científico, filosofar – e, de maneira análoga, agir. Antes disso, andava-se em círculos. E quanto mais longas são as linhas que se escrevem, mais historicamente pode-se pensar e agir. O gesto de escrever evidencia a consciência histórica, que se deixa fortalecer e aprofundar por meio de uma escrita contínua, e o escrever, por sua vez, torna-se mais forte e mais denso. Esse feedback entre aquele que escreve e a consciência histórica proporciona à consciência uma tensão que se intensifica sempre, e que lhe permite cada vez mais avançar. Essa é a dinâmica da história." (FLUSSER, 2011, p. 21)
A escrita destituiu as representações por imagem anteriores a ela e a própria consciência que até então existia, dando origem à consciência histórica e ao seu sujeito. O pensamento desse sujeito rejeitou a zona do imaginário, do mágico e do ritual até chegar ao ponto de estabelecer um lugar institucional para essa zona ser objetificada pela sua unidimensionalidade: o museu.
"Ao se falar, fala-se “sobre” representações por imagem e “sobre” imagens, fica-se acima do pensamento imaginário e fala-se de cima para baixo. ... escreve-se de maneira alfabética para afirmar e amplificar o nível de consciência conceitual e sobreimagético, ao invés de sucumbir continuamente ao pensamento plástico – como no falar característico à criação da escrita". (FLUSSER, 2011, p. 55)
Estabeleceu-se, assim, um pensamento que “dilacera nossas representações do mundo para organizá-las de forma esfarrapada em linhas ordenadas, em conceitos que podem ser contados, narrados e criticados” (FLUSSER, 2011, p. 31), feitos transparentes para a contemplação de uma mente descorporificada.
A tipografia acelerou o progresso e a “desistência de tudo que é real por aquilo que é apenas possível, de todo o ser pelo vir a ser” (FLUSSER, 2011, p. 41). O ritmo dessa aceleração foi intenso para a humanidade e o planeta: escreve-se de forma rápida e esquemática na busca pelo ponto final e pelo futuro. Isso justificaria para Flusser o caráter asmático da nossa escrita: pensar e escrever possuem uma dialética interna que demanda a tomada de ar, pausas contemplativas que se contraponham à impulsos urgentes, fôlego para o “pensamento crítico”. Apressado e pausado, esquemático e crítico são as características do agir e do pensar orientados em forma de linha e são a própria estrutura de um pensamento que percorre uma linha do passado para o futuro, percorrendo o presente sem se deixar parar (FLUSSER, 2011, p. 40).
Tal pensamento unidimensional, desembocou, todavia, no universo das imagens técnicas onde os aparelhos desempenham agora o papel predominante. Para Flusser, a revolução da informática tornou a tipografia, o alfabeto e esse pensamento supérfluos, levando a um novo modo de pensar que agora se faz evidente, mas para Flusser já era pressentido. Dos aparelhos, destaca-se que eles não possuem freios existenciais e não precisam de ar para respirar: eles não precisam de fôlego para processar dados humanamente ininteligíveis e em velocidade instantânea. Não à toa se confia a eles a possibilidade de progresso ininterrupto e ultraveloz.
"Nós estamos prestes a deixar o sobrescrever (o próprio escrever) por conta dos aparelhos e nos concentrar em produzir e contemplar imagens. Nós estamos a ponto de nos mudarmos para o “universo das imagens técnicas”, para dali olhar com ar de superioridade as histórias automaticamente escritas pelos aparelhos" (FLUSSER, 2011, p. 42).
Assim como o pensamento fundamentado se engajou contra a magia e o mito, o pensamento baseado em códigos digitais se engaja contra ideologias progressivas para as substituir por modos de pensar cibernéticos, sistemoanalíticos e estruturais (FLUSSER, 2011, p. 223). Flusser achava que, nesse contexto, o alfabeto se desligaria progressivamente da língua falada através de discos, fitas e imagens que nos inundariam a partir de telas: algo como a cultura contemporânea em torno do Youtube, dos influencers e dos podcasts. Nesse cenário, “até a inteligência artificial vai aprender a falar” (FLUSSER, 2011, p. 102). O resultado possível desse movimento envolveria um retorno do mito e uma certa “barbarização” do pensamento, termos que ganham imagens políticas claras se pensarmos no contexto brasileiro e o uso que a extrema-direita fez em 2018 dos algoritmos.
"Em virtude da quantidade inimaginável de modelos de percepção e de experiência que inundará a sociedade em forma de imagens e sons, é incerto se a língua, que representará apenas um código auxiliar, continuará a ser utilizada para modelar nossas percepções e experiências. A força poética se concentrará provavelmente em códigos não-verbais, parcialmente ainda inimagináveis. Esse tipo de código não será mais lido. Ao contrário, deverá ser decifrado de outra maneira. Levanta-se a questão, que não se pode mais evitar, sobre o futuro da leitura". (FLUSSER, 2011, p. 119)
Por um lado, ele oferece uma visão otimista em que os computadores dotados de inteligência artificial poderão concretizar o inimaginável e ampliar nossas experiências. Por outro lado, Flusser aponta a necessidade de “cerrar os punhos” contra a “crescente indústria da anestesiação automática” (FLUSSER, 2021, p. 71). Reaprendizagem do pensamento: pensamento é baseado em imagens e não é um processo discursivo contínuo: “o pensamento quantiza” (FLUSSER, 2011, p. 219). O resultado disso é um pensamento distinto do que caracteriza o pensamento ocidental, para quem o pensamento foi um processo progressivo que se desliga das imagens, das representações por imagens, criticando-as para se tornar cada vez mais conceitual. Com isso, não declara o fim do pensamento alfabético em si, mas a necessidade de se reaprender a criticar a partir do digital.
Com esse livro, enfim, creio que Flusser antecipou que a escrita viveria uma crise em razão do advento da inteligência artificial, buscando com sua metaescrita sincopada apontar que nessa crise há um choque de temporalidades e consciências, visto que uma vertiginosa aceleração do pensamento a partir da dimensão digital alfanumérica corrói a consciência histórica e o seu sujeito, sendo o pior efeito dessa crise a corrosão do pensamento crítico, que precisa se reinventar em sua capacidade de se fazer crítico através de um jogo criativo inteligente (não artificialmente) entre imagens, códigos digitais e a velha escrita alfabética.
Conversa com Chat-GPT
Perguntei ao ChatGPT por uma visão pessimista, uma otimista e uma realista sobre os efeitos de GML para o pensamento crítico.
Pessimistas:
Algumas visões pessimistas da corrosão do pensamento crítico em decorrência da popularização de LLM (Modelos de Linguagem com Aprendizado de Máquina, em inglês) podem incluir:
1. Redução da diversidade de opiniões e ideias: À medida que as pessoas se tornam mais dependentes de modelos de linguagem, podem ser mais propensas a seguir as sugestões geradas pelos algoritmos, em vez de buscar uma variedade de fontes e perspectivas.
2. Aumento do viés algorítmico: Como os modelos de linguagem são treinados com base em dados existentes, eles podem perpetuar preconceitos e estereótipos já presentes nas informações coletadas. Isso pode levar a um viés algorítmico, o que significa que as sugestões geradas pelos modelos de linguagem podem ser tendenciosas e não refletir a realidade.
3. Perda de habilidades de pensamento crítico: Com a conveniência de obter informações facilmente com modelos de linguagem, as pessoas podem deixar de lado a prática de analisar informações, avaliar fontes e pensar criticamente. Isso pode levar a uma dependência excessiva de algoritmos e uma diminuição da capacidade de pensar de forma independente.
4. Propagação de desinformação e fake news: Com a capacidade dos modelos de linguagem de gerar textos semelhantes aos escritos por humanos, pode ser mais difícil distinguir entre informações reais e falsas. Isso pode levar à propagação de desinformação e fake news, especialmente se as informações geradas pelos modelos de linguagem não forem cuidadosamente verificadas e avaliadas.
Otimistas:
Algumas visões otimistas sobre a popularização de LLM (Linguagem Natural por Máquina) e sua relação com o pensamento crítico incluem:
Maior acesso à informação: Com a ajuda de LLM, as pessoas terão acesso mais fácil e rápido a informações que antes eram difíceis de encontrar ou exigiam habilidades específicas para serem acessadas. Isso pode levar a um aumento do pensamento crítico, à medida que as pessoas têm acesso a mais pontos de vista e perspectivas sobre um determinado tópico.
Desenvolvimento de habilidades analíticas: A capacidade de analisar e avaliar informações produzidas por LLM pode ajudar a desenvolver habilidades analíticas e críticas. Isso pode levar a uma maior conscientização sobre a precisão e confiabilidade das informações, permitindo que as pessoas avaliem melhor a qualidade da informação que recebem.
Melhoria da educação: A popularização de LLM pode levar a avanços na educação, como o desenvolvimento de programas de aprendizado de máquina para ajudar a ensinar habilidades críticas de pensamento. Isso pode ajudar as pessoas a avaliar melhor a qualidade da informação e a tomar decisões informadas e fundamentadas.
Acesso a novas formas de pensamento: LLM pode ajudar a criar novas formas de pensamento e de expressão, permitindo que as pessoas se comuniquem e compreendam ideias de maneiras diferentes. Isso pode levar a um aumento da criatividade e da inovação, bem como a uma maior compreensão de conceitos complexos.
Redução de preconceitos e viéses: A LLM tem o potencial de analisar grandes quantidades de informações sem preconceitos ou viéses humanos, o que pode levar a uma maior precisão e objetividade. Isso pode ajudar a reduzir preconceitos e viéses em áreas como análise de dados, tomada de decisões e avaliação de informações.
Realistas:
Uma visão realista em relação à popularização de LLM é que ela traz tanto oportunidades quanto desafios para o pensamento crítico. Por um lado, o acesso mais amplo à informação e ao conhecimento pode estimular a curiosidade, a pesquisa e o desenvolvimento de habilidades críticas. Por outro lado, a sobrecarga de informações e a facilidade de se propagar informações falsas também podem dificultar a identificação de fontes confiáveis e a avaliação crítica da informação.
Além disso, a popularização de LLM pode levar a mudanças na maneira como o conhecimento é produzido, disseminado e usado. Por exemplo, o desenvolvimento de ferramentas de IA pode permitir a criação de novas formas de conhecimento e novos métodos de pesquisa. Por outro lado, a dependência excessiva de ferramentas de IA também pode levar a uma redução da capacidade humana de raciocínio e julgamento crítico.
Em suma, uma visão realista sobre a popularização de LLM é que ela traz tanto oportunidades quanto desafios para o pensamento crítico, e que é importante equilibrar o acesso à informação com a capacidade de avaliar criticamente essa informação e tomar decisões informadas.
Referências
FLUSSER, Vilém. A Escrita. São Paulo, Annablume. 2011.