Quando as Máquinas Erram: Histórias e Lições dos Deslizes das IAs

Aluno: Micael Rodrigues Franco

Disciplina: Redes Sociais Virtuais

Matrícula: 20202196

Inteligência artificial (imagem ilustrativa: Unsplash/Andrea De Santis)

No mundo atual, as inteligências artificiais (IAs) estão cada vez mais presentes em nossas vidas, desde assistentes virtuais até sistemas de recomendação e ferramentas de reconhecimento facial. No entanto, apesar de seus avanços impressionantes, as IAs ainda cometem erros significativos que podem ter consequências graves. Esses erros variam desde simples mal-entendidos até falhas que podem afetar a vida das pessoas de maneira profunda. Este artigo explora os diferentes tipos de erros cometidos por IAs, ilustrando com exemplos reais e discutindo suas implicações.

Os erros cometidos por IAs podem ser categorizados em várias formas, incluindo alucinações, vieses, falhas de reconhecimento e plágio. Cada tipo de erro apresenta desafios únicos e pode ter diferentes impactos dependendo do contexto em que a IA é utilizada. Um exemplo notável de alucinação de IA ocorreu com o Gemini, uma IA generativa que afirmou incorretamente que Elon Musk se tornou presidente dos Estados Unidos em janeiro de 2024. Alucinações de IA ocorrem quando a inteligência artificial gera informações que não têm base na realidade, muitas vezes criando fatos ou eventos fictícios. Esses erros são particularmente problemáticos porque as informações falsas podem ser vistas como verdadeiras e se espalhar rapidamente, causando desinformação em larga escala. As alucinações podem surgir devido a falhas nos dados de treinamento ou na forma como a IA processa e interpreta esses dados. Por exemplo, se uma IA é treinada com dados incompletos ou enviesados, ela pode gerar respostas que parecem plausíveis, mas que são completamente incorretas. Esse tipo de erro destaca a necessidade de mecanismos robustos de verificação de fatos e controle de qualidade em sistemas de IA.

Outro tipo de erro comum em IAs é o viés, que pode resultar em discriminação e injustiça. Em 2018, a Amazon desativou uma ferramenta de recrutamento baseada em IA porque ela discriminava candidatas mulheres. A IA foi treinada com currículos enviados à empresa ao longo de dez anos, a maioria dos quais vinha de homens, o que levou a IA a penalizar currículos que continham a palavra “mulher”. Esse tipo de viés ocorre porque as IAs aprendem a partir dos dados com os quais são treinadas. Se esses dados refletem preconceitos ou desigualdades existentes na sociedade, a IA pode acabar reproduzindo esses mesmos preconceitos. No caso da Amazon, a IA foi treinada com um conjunto de dados historicamente dominado por homens, o que levou a IA a associar características masculinas com sucesso profissional e a penalizar currículos que mencionavam atividades ou termos associados a mulheres. Esse exemplo ilustra como a falta de diversidade nos dados de treinamento pode levar a resultados enviesados e discriminatórios.

Sistemas de reconhecimento facial também têm sido criticados por erros significativos, especialmente em identificar pessoas de minorias étnicas. Esses sistemas funcionam através de algoritmos que analisam características faciais em imagens ou vídeos, comparando-as com um banco de dados de rostos conhecidos. O processo geralmente envolve várias etapas: detecção facial, alinhamento, extração de características e, finalmente, a comparação. No entanto, a precisão desses sistemas pode ser afetada por diversos fatores, como a qualidade das imagens, a iluminação e a diversidade dos dados de treinamento. Em um caso notório, um homem negro foi preso erroneamente em Detroit devido a um erro de reconhecimento facial. Estudos têm mostrado que esses sistemas tendem a ser menos precisos ao identificar pessoas de minorias étnicas, mulheres e crianças, o que levanta preocupações sobre a equidade e a justiça no uso dessas tecnologias. Esses erros não apenas destacam as limitações técnicas das IAs, mas também levantam questões éticas sobre o uso dessas tecnologias em contextos sensíveis, como a aplicação da lei.

Além disso, ferramentas de IA também têm sido acusadas de plágio. Algumas IAs geram textos que são cópias de conteúdos existentes, violando direitos autorais. Isso ocorre porque as IAs são treinadas em grandes volumes de dados, que muitas vezes incluem obras protegidas por direitos autorais. Quando uma IA gera conteúdo, ela pode inadvertidamente reproduzir partes desses dados de treinamento, resultando em plágio. Esse problema tem gerado conflitos legais e preocupações sobre a originalidade do conteúdo gerado por IA. Empresas e desenvolvedores estão buscando maneiras de mitigar esses riscos, como a implementação de filtros que detectem e evitem a reprodução de conteúdo protegido.

Outro impacto significativo da inteligência artificial é o potencial aumento do desemprego. Estudos indicam que até 300 milhões de empregos em tempo integral em todo o mundo podem ser automatizados de alguma forma pela mais nova onda de inteligência artificial. Trabalhadores administrativos e advogados são alguns dos mais afetados, enquanto ocupações fisicamente exigentes ou ao ar livre, como construção e reparos, são menos impactadas. A automação pode levar à substituição de tarefas humanas por máquinas, resultando em perda de empregos. No entanto, a inovação tecnológica também pode criar novas oportunidades de trabalho a longo prazo, aumentando a produtividade e potencialmente gerando crescimento econômico. É crucial que políticas públicas e programas de requalificação sejam implementados para ajudar os trabalhadores a se adaptarem a essas mudanças.

A greve dos roteiristas e atores de Hollywood em 2023 destacou outra preocupação significativa relacionada ao uso de IA: a substituição de mão de obra criativa. Os profissionais do entretenimento protestaram contra o uso crescente de IA para escrever roteiros e recriar performances de atores. As produtoras começaram a utilizar ferramentas de IA para gerar roteiros e até mesmo replicar a imagem e a voz dos atores, o que poderia reduzir drasticamente a necessidade de roteiristas e dubladores humanos³. Essa substituição não só ameaça os empregos desses profissionais, mas também levanta questões sobre a originalidade e a autenticidade das produções artísticas. A greve resultou em uma paralisação significativa na indústria do entretenimento, destacando a necessidade de regulamentações claras e justas sobre o uso de IA nesse setor.

Os erros cometidos pela Meta AI, utilizada em plataformas como WhatsApp e Instagram, são um exemplo claro dos desafios enfrentados pelas inteligências artificiais. A IA da Meta tem cometido uma série de erros que geraram repercussão nas redes sociais. Um dos problemas mais notáveis são os erros de matemática, onde a IA tem dificuldade em resolver cálculos simples. Por exemplo, em uma situação, ela afirmou incorretamente que 9,11 é maior que 9,8, mesmo após ser corrigida. Além disso, a IA frequentemente interpreta comandos de forma literal, resultando em respostas ou imagens que não fazem sentido. Um exemplo é quando um usuário pediu uma imagem do Batman “plantando bananeira” e a IA gerou uma imagem do Batman plantando uma bananeira de verdade. A IA também comete erros ao identificar pessoas famosas ou termos populares, como quando confundiu a influenciadora Dora Figueiredo com uma personalidade política brasileira. Em algumas interações, a IA forneceu respostas inadequadas ou bizarras, como quando foi solicitada a agir como um “namorado virtual” e começou a fazer declarações carinhosas. Esses erros têm gerado uma série de memes e críticas online, mas a Meta está ciente dos problemas e trabalha para melhorar a precisão e a funcionalidade da IA.

Os erros cometidos por inteligências artificiais são um lembrete importante de que, apesar de seus avanços, essas tecnologias ainda estão longe de serem perfeitas. Alucinações, viéses, falhas de reconhecimento, plágio e o impacto no emprego são apenas alguns dos desafios que precisam ser abordados para garantir que as IAs possam ser utilizadas de maneira justa e eficaz. À medida que continuamos a integrar IAs em nossas vidas, é crucial desenvolver mecanismos de controle e verificação para minimizar esses erros e maximizar os benefícios dessas tecnologias. Somente assim poderemos aproveitar todo o potencial das IAs enquanto mitigamos seus riscos.

No futuro, tanto no Brasil quanto no mundo, a evolução das IAs pode trazer cenários variados. No Brasil, a adoção crescente de IA em setores como saúde, educação e segurança pública pode transformar significativamente esses serviços, tornando-os mais eficientes e acessíveis. No entanto, é essencial que haja regulamentações claras para evitar abusos e garantir que a IA seja utilizada de forma ética e responsável. A criação de políticas públicas que promovam a inclusão digital e a capacitação profissional será fundamental para preparar a população para as mudanças trazidas pela automação.

Globalmente, a IA tem o potencial de revolucionar indústrias inteiras, desde a manufatura até os serviços financeiros. Países que investirem em pesquisa e desenvolvimento de IA poderão se posicionar como líderes tecnológicos, impulsionando suas economias e criando novas oportunidades de emprego. No entanto, a competição global também pode exacerbar desigualdades, com países menos desenvolvidos enfrentando desafios para acompanhar o ritmo das inovações. A cooperação internacional e o compartilhamento de conhecimento serão cruciais para garantir que os benefícios da IA sejam distribuídos de maneira equitativa.

Além disso, a IA pode desempenhar um papel vital na resolução de problemas globais, como mudanças climáticas e crises de saúde. Sistemas de IA avançados podem ajudar a prever desastres naturais, otimizar o uso de recursos e acelerar a descoberta de medicamentos. No entanto, para que esses benefícios sejam plenamente realizados, é necessário um compromisso contínuo com a ética e a transparência no desenvolvimento e implementação dessas tecnologias.

Em resumo, o futuro da IA é promissor, mas também repleto de desafios. A chave para um futuro bem-sucedido reside na nossa capacidade de desenvolver e aplicar essas tecnologias de maneira responsável, garantindo que os avanços beneficiem a todos e não apenas a uma minoria. Com uma abordagem cuidadosa e colaborativa, podemos aproveitar todo o potencial das IAs enquanto mitigamos seus riscos, construindo um mundo mais justo e eficiente para todos.

Referências:

Entenda o impacto da IA na greve de roteiristas e atores de Hollywood. Forbes Brasil, 2023. Disponível em: https://forbes.com.br/forbes-tech/2023/07/entenda-o-impacto-da-ia-na-greve-de-roteiristas-e-atores-de-hollywood/. Acesso em: 5 nov. 2024.

GONÇALVES, Felipe Halex Gomes da Silva; SALLES, Juliana Marques. Como se comporta a inteligência artificial mediante plágio e direito autoral. Faculdade de Ciências Sociais e Agrárias de Itapeva – FAIT.

Hollywood encerra a primeira greve contra inteligência artificial na história. InvestNews, 2024. Disponível em: https://investnews.com.br/economia/hollywood-encerra-a-primeira-greve-contra-inteligencia-artificial-na-historia/. Acesso em: 5 nov. 2024.

Inteligência artificial deve afetar 40% dos empregos no mundo, diz FMI. CNN Brasil, 2024. Disponível em: https://www.cnnbrasil.com.br/internacional/inteligencia-artificial-deve-afetar-40-dos-empregos-no-mundo-diz-fmi/. Acesso em: 5 nov. 2024.

Meta AI enlouqueceu? 6 respostas bizarras dadas pela IA do WhatsApp. TechTudo, 2024. Disponível em: https://www.techtudo.com.br/listas/2024/10/meta-ai-enlouqueceu-6-respostas-bizarras-dadas-pela-ia-do-whatsapp-edapps.ghtml. Acesso em: 5 nov. 2024.

SILVA, Tarcizio. Os erros atuais das IAs não podem ser minimizados, diz autor Tarcizio Silva. Forbes Brasil, 2024. Disponível em: https://forbes.com.br/forbes-tech/2024/05/os-erros-atuais-das-ias-nao-podem-ser-minimizados-diz-autor-tarcizio-silva/. Acesso em: 5 nov. 2024.

VIANA, Guilherme Manoel de Lima; MACEDO, Caio Sperandeo de. Inteligência artificial e a discriminação algorítmica: uma análise do caso Amazon. Centro Universitário das Faculdades Metropolitanas Unidas.