Ambientes virtuais de aprendizagem.
Aluno: Ruan Carlos Costa Güths
Matrícula: 18200688
O Poder das IAs Generativas e a Ameaça da Desinformação
A Inteligência Artificial Generativa
A Inteligência Artificial (IA) tem evoluído a passos largos, e as IAs generativas, são um exemplo notável dessa revolução tecnológica. No entanto, à medida que esses sistemas se tornam mais poderosos, surge uma questão crítica: até que ponto eles podem ser explorados para a disseminação de desinformação e fake news?
As IAs generativas representa uma categoria da Inteligência Artificial capaz de gerar imagens, vídeos, músicas, conversas e narrativas, além de melhorar a qualidade destes conteúdos e criar protótipos para fabricação. Tudo isso com base em prompts e dados de treinamento.
Aplicações de IA generativa, como o ChatGPT, chamaram a atenção do mundo pela possibilidade de reinventar experiências e aplicações já vivenciadas, por exemplo, pelos funcionários de uma empresa, e criar novas aplicações originais que ajudam estes funcionários a alcançar níveis elevados de produtividades, seja como auxílio na imaginação, por meio de brainstorms, ou auxiliando na geração de códigos de programação.
Nunca na história foi tão rápido e fácil criar imagens, textos ou resumos de textos, como na era das IAs. Essas ferramentas rapidamente entraram para o cotidiano de profissionais de marketing, programadores, engenheiros, entre outras profissões, aumentando suas produtividades, como para os alunos de ensino médio e superior, que agiliza suas pesquisas e apresentações de trabalhos acadêmicos.
Críticas sobre as IAs Generativas
Mas, como nada nesse mundo é perfeito, as IAs generativas, que impressionam pelo seu potencial criativo e capacidade de produzir textos, imagens e até mesmo vídeos, podem ser usadas com outros objetivos que se distanceiam da geração de produtividade, como Fake News.
Uma das preocupações em relação às IAs generativas é a falta de mecanismos para verificar a veracidade do que produzem. Como resultado, elas podem ser facilmente induzidas a gerar informações falsas e fictícias a partir de prompts maliciosos, como as imagens a seguir que foram criadas através do Midjourney, uma IA que gera imagens a partir de uma descrição textual, como forma de mostrar a capacidade de criação das IAs generativas e que viralizaram nas redes sociais.
O desafio de lidar com a desinformação gerada por IAs generativas é uma preocupação crescente, e a sociedade precisa desenvolver estratégias para enfrentar essa ameaça em constante evolução. Se textos “soltos” sem fontes confiáveis já possuem o potencial de abalar a confiança nas mídias e na disseminação de informações, esses mesmos textos quando acompanhados de uma imagem que os valida podem ser ainda mais significativos.
A facilidade com que se pode induzir IAs generativas a criar desinformação é alarmante. Esses sistemas podem relatar estudos sobre uma ampla gama de tópicos, da medicina à política e à religião, inventar estudos, estatísticas e links que não levam a lugar algum. Além disso, esses bots são economicamente eficientes e reduzem o custo de geração de desinformação a zero.
Não é à toa que a Google, uma das gigantes da tecnologia, anunciou a Google I/O, uma ferramenta que alerta quando imagens foram criadas por IA, não por um fotógrafo humano. No Brasil, o Projeto de Lei nº 2.338, de 2023, propõe diretrizes para o uso da Inteligência Artificial. Há também quem defenda uma pausa no desenvolvimento da tecnologia até que a regulamentação esteja completa.
A qualidade das IAs generativas é influenciada pelos dados de treinamento que recebem (inputs). Se esses dados forem manipulados ou possuirem desinformação, a inteligência artificial pode reproduzir esses conteúdos falsos e disseminar informações incorretas. Logo, a integridade dos inputs humanos é essencial para garantir que essas IAs não se tornem uma fonte de desinformação em larga escala.
Alguns especialistas sugerem que a detecção do uso de IA é um passo importante. Investir em tecnologias que possam distinguir conteúdo gerado por humanos e por IA pode ser uma solução intermediária para mitigar os riscos em potencial. A capacidade de distinguir entre criações humanas e algoritmos de IA é crucial para combater problemas que vão desde o plágio até campanhas massivas de desinformação.
Em resumo, as IAs generativas representam uma conquista notável na inteligência artificial, mas também carregam o potencial de causar estragos significativos na sociedade se usadas de maneira irresponsável. A conscientização e ação são essenciais para garantir que essas tecnologias sejam usadas para o bem da sociedade, em vez de para a sua manipulação.
À medida que a IA generativa se torna mais sofisticada, é urgente adotar medidas para proteger a integridade das informações e imagens compartilhadas na sociedade. A combinação de regulamentação e soluções tecnológicas vêm sendo trabalhadas e podem ser a chave para enfrentar a ameaça da desinformação, enquanto garantimos que a tecnologia continue a ser uma força positiva para a inovação e a criatividade.
BIBLIOGRAFIA:
AWS. O que é IA generativa? 2023. Disponível em: <https://aws.amazon.com/pt/what-is/generative-ai/>. Acesso em 26 de Out. de 2023.
CONSULTOR JURÍDICO. Inteligência artificial generativa como aliada da desinformação. 2023. Disponível em: <https://www.conjur.com.br/2023-jul-15/farage-fico-ia-generativa-aliada-desinformacao>. Acesso em: 25 de Out. de 2023.
G1. Imagens falsas criadas por IA que mostram Donald Trump sendo preso viralizam nas redes sociais. 2023. Disponível em: <https://g1.globo.com/tecnologia/noticia/2023/03/23/imagens-falsas-criadas-por-ia-que-mostram-donald-trump-sendo-preso-viralizam-nas-redes-sociais.ghtml>. Acesso em: 25 de Out. de 2023.
IFOOD NEWS. O que é IA generativa e por que ela está em alta. 2023. Disponível em: <https://www.news.ifood.com.br/o-que-e-ia-generativa/>. Acesso em: 26 de Out. de 2023.
MARQUES, Simone D. LAIPELT, Rita do Carmo F. Pós-realidade e Teoria da Desinformação:
inquietações sobre o uso massivo de IA Generativa. 5° Fórum de Estudos em Informação, Sociedade e Ciência. UFRGS. Porto Alegre - RS; 2023.
UOL. O Papa é puffer: a jaqueta era fake, mas tendência acolchoada é real. 2023. Disponível em: <https://www.uol.com.br/nossa/noticias/redacao/2023/03/29/o-papa-e-puffer-a-jaqueta-era-fake-mas-tendencia-acolchoada-e-real.htm>. Acesso em: 26 de Out. de 2023.
Nenhum comentário:
Postar um comentário