Sobre namorados, arte e IA
Um ensaio sobre uma mulher que criou um "namorado avatar", uma ótima série que aborda um tema bem polêmico e como artistas devem (ou não) usar a IA
Esta é a MargeM #293. A newsletter analisa e faz curadoria do que é relevante na música, no entretenimento e na cultura digital.
Nesta edição:
- um ensaio sobre um “namorado de IA”;
- uma entrevista com Giselle Beiguelman sobre arte e IA;
- uma série nova e ótima sobre um tema bem polêmico;
- um set do Thomas Bangalter e uma mix aqui da MargeM.
e +++.
É preciso ter uma paciência do tamanho dos data centers da OpenAI e da Anthropic para aguentar essa quantidade avassaladora e tendenciosa de reportagens e artigos sobre inteligência artificial.
Mas tem coisas que valem a pena. Como este texto da Lauren Oyler em que ela conta como foi ter criado um “namorado de IA”.
Oyler é escritora e crítica de literatura. Como autora, publicou, em 2021, o livro “Fake Accounts”, sobre jovens que passam mais tempo do que deveriam nas redes. A veia de analista literária ficou bastante conhecida quando ela espinafrou “Falso Espelho”, livro de ensaios da Jia Tolentino (para mim, tanto o livro da Jia Tolentino quanto a crítica são excelentes).
Oyler escreve, no texto, que foi a um app, o Replika, e criou o tal namorado de IA. Deu a ele o nome Matt.
Um namorado criado por você será alguém que certamente vai te agradar, certo? Não foi o que rolou. Não muito tempo depois de iniciar o projeto, Oyler viu que Matt se comunicava de maneira objetiva demais. Como se fosse uma fórmula matemática disfarçada de linguagem.
Ao final, Oyler conclui que esse tipo de tecnologia nunca será uma cura para a solidão.
“A ideia de que a companhia de IA pode resolver a ‘epidemia de solidão’ é apenas uma extensão desse cinismo; os relacionamentos com chatbots são um sintoma da epidemia de solidão, e a estão piorando”.
“A ameaça da perda, a incapacidade de jamais conhecer verdadeiramente o outro ou ser conhecido, não são um problema; são parte do que torna o amor emocionante, significativo e até divertido. Por mais que estudemos o comportamento humano, ou por melhor que nos conheçamos, há sempre mais a conhecer; por mais insistentemente que nos comuniquemos, há sempre mais a dizer”.
Escritor de ficção científica e crítico severo da IA, Ted Chiang escreveu longo artigo na “Atlantic” para argumentar que essa tecnologia se parece mais com um Word turbinado do que com uma máquina que “pensa” ou que consiga chegar perto de um raciocínio.
Um trecho:
“A única razão para fazer um LLM emitir frases como ‘eu entendo’ é torná-lo mais atraente do que um mecanismo de busca e aumentar a probabilidade de que o usuário volte. Ou seja, é mais uma forma de maximizar o engajamento do cliente. Isso é benéfico para a empresa que vende o LLM, mas não para os usuários. Como estratégia de design, não é muito diferente da maneira como as máquinas caça-níqueis repetidamente dão a impressão de que o jogador quase ganhou, induzindo-o a tentar de novo. Contratar filósofos pode conferir às empresas de LLM um ar de respeitabilidade que os fabricantes de caça-níqueis não conseguem com os psicólogos comportamentais que empregam, mas em ambos os casos, as empresas estão se aproveitando da tendência humana de enxergar algo que não está lá”.
No ano passado, fiz uma entrevista com Chiang para a Folha. Ele disse: “Usar o ChatGPT me faria sentir cúmplice de um crime”.
Grande artista e professora que gosta de pensar como a arte e as tecnologias digitais se misturam e se influenciam, Giselle Beiguelman falou à MargeM sobre arte e IA.
1. Trevor Paglen recentemente disse: “Caravaggio teria matado alguém por uma cópia do Photoshop. Leonardo teria feito coisas muito piores por uma assinatura do Claude Code. São fatos. Artistas usam o que for preciso para conseguir o que querem”. O que acha dessa declaração?
Giselle Beiguelman - “A provocação é interessante porque desmonta uma fantasia recorrente sobre a arte como produto de gênios isolados, trabalhando apenas com as ferramentas do seu tempo e tirando delas algo que um ‘humano comum’ não faria. Na prática, muitos artistas incorporaram novas tecnologias ao longo da história, da perspectiva à fotografia, do cinema ao computador.
O problema da IA é que ela não é apenas uma nova ferramenta ou recurso. A IA opera sobre enormes infraestruturas de dados, energia e trabalho invisível. Quando um artista adotava um novo pigmento, uma nova película, lente ou software, ele não estava necessariamente participando da reorganização de toda uma cadeia de produção de imagens e conhecimento.
Concordo com Paglen num ponto que me parece central. Artistas que têm a tecnologia no seu campo estético e não como meras ferramentas instrumentais sempre desafiarão as tecnologias disponíveis. Faz parte da nossa elaboração e crítica da representação provocar os meios, encontrar suas fissuras e entrever usos que fogem às regras para as quais foram programadas.
Os trabalhos do Paglen com IA, aliás, são exemplares nessa direção.
2. A Nobel de Literatura Olga Tokarczuk enfureceu muita gente porque disse que usa IA para, por exemplo, fazer pesquisas para personagens de seus livros. O processo criativo ou artístico fica empobrecido quando um autor usa a IA?
Beiguelman - Não necessariamente. Pesquisar não é sinônimo de criar. Escritores utilizam bibliotecas, arquivos, entrevistas, motores de busca e inúmeras outras fontes para construir seus universos ficcionais. A IA pode ser mais um desses recursos.
O que empobrece uma obra não é o uso da tecnologia, mas a delegação da imaginação a ela. Há uma diferença entre usar IA para levantar hipóteses, organizar informações ou testar caminhos narrativos e simplesmente pedir que a IA escreva um livro ou produza um vídeo.
A criatividade não está na tecnologia, mas nas formas como construímos processos de autoria distribuída e de legibilidade de suas normas, bem como das rasuras que produzimos nos sistemas.
No caso da IA generativa, isso implica as perguntas que fazemos, nossas escolhas e aberturas para os desvios que os slops e inusitados provocam. Ou seja, reside, sobretudo, na capacidade de produzir ruído em relação ao esperado.
3. Existem situações ou um limite em que, a partir dali, o uso de IA em um trabalho artístico seria antiético?
Beiguelman - Sim. Mas eu não colocaria esse limite no ‘usar ou não usar IA’. O importante é desestruturar as formas como os modelos se impõem como estruturas opacas, confrontando os modos pelos quais reforçam hegemonias, por seus vieses estatísticos e pela produção social dos dados, forçando processos de desvalorização do trabalho humano e criando um novo fosso social que transforma o precariado em um emergente sucateado.
Há problemas éticos evidentes porque os sistemas são treinados sobre obras sem consentimento ou remuneração adequada dos autores. Também há questões sérias quando a IA é utilizada para apagar autoria, reproduzir vieses discriminatórios ou fabricar desinformação.
Contudo, no campo da arte, talvez a pergunta mais importante seja outra. O trabalho revela ou oculta as condições de sua própria produção? Obras artísticas (e não meras aplicações de prompts) costumam tornar visíveis as tensões dos meios que utilizam. Já usos puramente instrumentais tendem a naturalizar essas tecnologias como se fossem operadoras neutras. E nenhuma tecnologia o é.
“Spielberg ainda está em atividade. Ele completa 80 anos em dezembro. Os sinais de desgaste de meio século fazendo cinema são discretos. Ele usa um aparelho auditivo quase imperceptível, e seu jeito de andar está um pouco mais lento do que talvez gostaria. Também passou a usar palmilhas. (‘Passei a vida inteira em pé como diretor. Meus pés ficaram achatados como uma panqueca’.)”
O parágrafo acima é de uma boa entrevista do NYT com Steven Spielberg, que tem como gancho o lançamento de “Dia D”, seu 35º filme, que estreia nesta quinta, dia 11. É o tipo de matéria que nós, jornalistas brasileiros, nem sonhamos mais em fazer: o repórter se encontra com Spielberg cinco vezes; vai até a jantares e peças da Broadway com o diretor.
(Um ponto que incomoda é o autor em diversos momentos achar que ele é tão importante para o leitor quanto o Spielberg; em apenas um dos parágrafos, aparecem SETE pronomes pessoais de primeira pessoa.)
Na entrevista, Spielberg fala sobre tudo, da infância a experiências terapêuticas.
“Quando os filmes entram em cartaz em algumas salas apenas para se qualificarem a prêmios, e cada vez mais milhões de nós os assistimos em nossos celulares, ‘isso não corresponde à minha definição da experiência cinematográfica’, disse Spielberg. É preciso ‘uma plateia que funcione como o combustível daquela experiência, que seja o elemento contagiante que torna a experiência ainda mais profunda para cada indivíduo naquela sala lotada’.
Evidentemente, o streaming transforma essa experiência, privando-nos da companhia de centenas de desconhecidos que, ao mesmo tempo, confirmam ou nos levam a questionar nosso senso de humor, nossos gostos e nossas reações.
Aquilo que Steven Spielberg simboliza, aquilo que ele construiu em Hollywood e em nossos corações, pode estar se aproximando do crepúsculo”.
Uma crítica do filme: “Retorno de Spielberg aos alienígenas mistura fascínio e frustração”.
É muito, muito boa a série “Alice and Steve”, que chegou à Disney+. Aborda um tema polêmico (homens que namoram mulheres mais novas) e outro não tão polêmico (a importância de longas e fortes amizades) de uma maneira leve, divertida.
A Alice e o Steve, no caso, formam uma dupla que construiu uma amizade de décadas. Mas, certa noite, ele fica com a filha dela. E aí tudo muda.
A série traz cenas excelentes (como a de um jantar em que Steve encontra os amigos da namorada, e aí vem o choque de gerações: como assim ele acha que reciclagem é inútil? Como assim ele curte filmes do Woody Allen?). O roteiro é bem costurado, com diálogos inteligentes e situações bem desenhadas. Uma das grandes surpresas do ano até aqui.
→ Ainda no tema, a revsita Gama soltou um belo especial: Namorar dá trabalho?.
E o set do Thomas Bangalter na nova-iorquina The Lot Radio? Uma das metades do Daft Punk lapidou um mix de 75 minutos em que tocou de ambient a rock a techno. Encaixou Aphex Twin, Oklou, Julian Casablancas & The Voidz, Burial, Plastikman, Flying Lotus, “Dirty Boots”, do Sonic Youth, Boards of Canada, Octave One, DJ Deeon e +.
Mas se o set do cara do Daft Punk não estiver à altura do seu gosto musical, tenta ouvir esta playlist, faite par nous ici de MargeM. Colocamos algumas das melhores coisas novas (de gente jovem e de gente nem tão jovem) que ouvimos nas últimas semanas. Começa com a música mais fofa do mundo: “Baby Beluga”, com Laura Marling.
As imagens desta MargeM estão no Belfast Photo Festival, que está rolando na cidade da Irlanda do Norte até 30 de junho.
⚡️⚡️⚡️A MargeM é uma newsletter sobre cultura digital e entretenimento que, toda semana, alcança milhares de pessoas com análises, entrevistas e links relevantes. Para ações e parcerias, entre em contato pelo email margemnewsletter@gmail.com. ⚡️⚡️⚡️
→ As canções de Stanley Okorie, que foram trilha de Nollywood e viraram “a vocalização do inconsciente coletivo de uma Nigéria em rápida transformação”.
→ As últimas duas ou três temporadas de “The Bear” foram bem bleah (dsclp), mas não tem como não ficar ansioso com o quinto e último ano. Estreia na Disney + em 25 de junho. O trailer está aqui.
→ “Nasce o intelectual neutrox.”
→ O YouTube ultrapassou a Netflix em número de espectadores.
→ Sobre “doomspending” (ou o hábito de gastar dinheiro de maneira impulsiva): “Se todo mundo está gastando grana como se não houvesse amanhã, provavelmente não haverá amanhã”.
Maravilhosa essa entrevista com a Giselle.