[title]
“Não temo nenhuma das máquinas existentes; o que temo é a extraordinária rapidez com que se estão a transformar em algo de muito diferente do que são neste preciso momento.” A declaração é de um personagem do livro satírico Erewhon. Publicado em 1872 pelo britânico Samuel Butler, o livro não só precede em mais de um século o desenvolvimento da inteligência artificial tal como a conhecemos hoje, como prefigura os actuais debates sobre a sua utilização. Numa era marcada por rápidos avanços tecnológicos, nenhum sector escapa, nem mesmo um tão dependente do factor humano como o editorial e livreiro. Afinal, não se trata de uma nova tendência, tão pouco passageira, mas de uma força transformadora, capaz de revolucionar também a forma como se cria, edita, comunica, vende e consome livros. E esse novo paradigma, impulsionado por algoritmos xpto, não só traz oportunidades sem precedentes como desafios imprevisíveis. É caso para dizer que, se há hora para um exame mais atento às profundas mudanças que se anunciam, já estamos atrasados pelo menos cinco minutos.
“Acompanho a área há anos e até já editei obras relacionadas, como a mais recente Inteligência Artificial 2041 [do investigador Kai-Fu Lee e do autor de ficção científica Chen Qiufan]. Em termos concretos, na edição portuguesa, parece-me, antes de tudo, que o mais importante é que os avanços da tecnologia no sector editorial – que abrange vários domínios, desde a criação à tradução – não passem despercebidos”, diz o fundador e editor da Relógio d’Água, Francisco Vale, que este ano acusou a Book Cover de recorrer a sistemas de inteligência artificial (IA) para traduzir as obras do seu catálogo, inclusive clássicos como Vinte Mil Léguas Submarinas e Os Miseráveis. A questão, esclarece-nos, nem é tanto o uso de ferramentas como o ChatGPT ou o DeepL, mas a falta de transparência nas fichas técnicas e, pior, “a medíocre qualidade”, que poderia ser resolvida, por exemplo, com a existência de profissionais de carne e osso que conheçam a língua original. “As ferramentas [de IA] podem ser, com certeza já são, auxiliares em diferentes fases. Temos é de combater o seu uso abusivo e não referenciado.”
Francisco José Viegas, escritor e editor da Bertrand, também não tem dúvidas acerca da importância de se saber se determinado conteúdo foi ou não gerado com recurso a inteligência artificial e, se sim, em que medida. Tem é outra inquietação maior, que se prende, não com a forma como a indústria encara a problemática, mas com a incapacidade do consumidor de perceber sozinho o que se está a passar. “O leitor não identifica o fake porque não tem educação nem formação literária. É por isso que, além de pensar no que o sector editorial pode fazer, temos de pensar na educação para a arte, para a cultura, para o gosto, para a sensibilidade que nos permite reconhecer a pegada humana, que é aquilo que um dia, mais tarde ou mais cedo, havemos de andar a perseguir”, acrescenta o também responsável pela revista Ler, cuja edição de Verão inclui não só uma versão ampliada das preocupações de Francisco Vale, como outros dois textos (um de André Canhoto Costa, outro de Luís Naves) que nos deixaram de antenas levantadas para a “ameaça ao humano”. “A máquina está sempre, sempre a aprender, e muito rápido.”
O que distingue os humanos das máquinas?
Estávamos ainda na Antiguidade e já havia filósofos a criar silogismos para explicar a forma como raciocinamos. A inteligência artificial simbólica – ou GOFAI (sigla para a expressão obviamente irónica good old-fashioned AI) – recorre precisamente a um conjunto de regras escritas por humanos (silogismos e não só) que permite à máquina tirar conclusões. Mas a tecnologia não parou de evoluir e o que temos agora disponível é muito diferente. “O que se verificou rapidamente, mesmo em áreas nas quais parecia haver procedimentos muito específicos [como no diagnóstico médico], é que as pessoas muitas vezes tomam decisões sem saber como”, explica Mário Figueiredo, professor catedrático no Instituto Superior Técnico e investigador no Instituto de Telecomunicações. “Portanto, em vez de explicarmos como fazer, passámos a dar muitos exemplos à máquina.” Criou-se o machine learning ou, em bom português, a aprendizagem automática, que deu origem a várias técnicas, incluindo à impressionante deep learning, usada pelo modelo de linguagem no qual ferramentas como o ChatGPT se baseiam.
“Um humano, mesmo que lesse 24 horas por dia, nunca conseguiria absorver a quantidade de informação [à deriva na Internet] que já alimentou o ChatGPT. Mas as pessoas, ao contrário das máquinas, têm espessura psicológica e isso não é replicável, pelo menos ainda”, assevera Mário Figueiredo, que não ignora o facto de ser possível pôr IA a “criar literatura a metro, ao estilo deste ou daquele”. “Agora, com substância e consistência, duvido. Com a tradução é o mesmo. Dá para despachar trabalho, mas não é bom”, diz o especialista. O resultado desse trabalho tem uma marca. Na opinião de Francisco José Viegas, essa marca é a sua “relativa incompetência”. Mário Freitas assina por baixo. No ano passado, o editor e livreiro da Kingpin Books lançou A Polaroid em Branco, a primeira BD em Portugal criada com recurso a IA. “O argumento é inteiramente meu, mas só existe porque andava a experimentar o Midjourney e aquilo, na altura, gerava coisas estranhas e com defeito, incongruências que tive de incorporar na narrativa. É uma história sobre identidade que brinca com a falta de identidade artística.”
O que é que nos assusta, afinal? Se sabemos que, apesar das imperfeições tenderem a desaparecer à medida que se actualizam os sistemas, fazer arte é outra coisa, por que é que vemos a IA como uma ameaça? A resposta é, no mínimo, hilariante. “Se não houvesse humanos com más intenções, não tínhamos de nos preocupar”, resume Mário Freitas. Francisco José Viegas completa, com algum sentido de humor: “Uma das grandes desvantagens do mundo é que ele acontece. Há muito para reconverter na indústria.” O presidente da Associação Portuguesa de Editores e Livreiros, Pedro Sobral, garante que está atento e a tentar contribuir. “Por um lado, temos de perceber como integrar no sector a inteligência artificial, porque há um lado positivo, do ponto de vista processual e daquilo que é a arquitectura do negócio. Por outro, é preciso encontrar enquadramento jurídico e legal, quer em sede da União Europeia quer em Portugal, para que o código de direitos de propriedade intelectual esteja actualizado. Isto é urgente porque há algoritmos de empresas privadas que se alimentam gratuitamente [de obras que não lhes pertencem], e sem pedir autorização.”
Perante a inevitabilidade de termos de, no mínimo, trabalhar lado a lado com a IA, urge garantir que estamos prontos para uma nova humanidade. A Federação Europeia de Editores, à qual Pedro Sobral pertence como membro do comité executivo, está a trabalhar em conjunto com as instituições europeias tendo em vista a elaboração de legislação sobre IA: “Não podemos ficar maravilhados com a disrupção sem descurar o básico, que é a remuneração daqueles que estão a contribuir directa ou indirectamente para isso.” Mas, como é do senso comum, a burocracia é um pincel. “Antes de pensar em regulação à bruta, que é aquilo em que pensamos sempre, tem de haver uma grande discussão sobre o que realmente está em causa, e tem de ser franca e aberta, coisa que com o poder político raramente é”, critica Francisco José Viegas. “Temos de convocar todos, não só especialistas, e ser honestos sobre o que está em causa. Por que é que, por cada robô usado, não se aplica uma taxa para subsídios de desemprego, formação, reconversão laboral? Não há nada melhor, como dizem os suecos, do que aproveitar uma crise para mudar as coisas.”
Artigo originalmente publicado como abertura da secção de Livros da revista Time Out de Lisboa – Outono 2023.
+ Anotações. Escrever nos livros que se lê é uma forma de conversar?
+ O melhor guia de livros, livrarias e novidades para leitores