O Desafio Ético da Aplicação da IA na Engenharia

Disciplina: Redes Sociais e Virtuais

Aluna: Ana Livia Meira Pereira

Matrícula: 23100380

O desenvolvimento tecnológico vem, cada vez mais, transformando a maneira como interagimos uns com os outros e exercemos nossas atividades cotidianas, e o advento da Inteligência Artificial (IA) é a continuação dessa tendência já bem estabelecida. Ela, que há algumas décadas parecia ser um conceito saído diretamente de um filme de ficção científica, hoje é uma realidade presente em diversas esferas da nossa vida. Você já imaginou como seria trabalhar com um assistente que sempre mantém a memória afiada e tem sempre uma sugestão criativa? A capacidade da IA de processar grandes volumes de dados de maneira quase instantânea, atuando como suporte na tomada de decisões, tem revolucionado áreas como saúde, educação, agricultura, indústria, comércio, dentre muitas outras. A engenharia, que tem bases complexas sustentadas na matemática, física e química, está longe de ser exceção disso, e vem se rendendo cada vez mais à miríade de benefícios que a IA traz consigo. Na construção civil, por exemplo, algoritmos já estão ajudando a prever problemas estruturais antes mesmo que as obras comecem. Para assistir a um vídeo e ter um vislumbre de como a inteligência artificial está revolucionando essa área, você pode clicar aqui.

Fonte: phonlamaiphoto - stock.adobe.com

De maneira bem resumida, o processo de machine learning ocorre através da coleta e análise de dados, identificando parâmetros e estabelecendo correlações, em aprimoramento constante, com o intuito de melhorar sua assertividade. O site Tecnoblog tem um artigo bastante interessante sobre esse assunto, se você deseja obter mais informações detalhadas e aprofundar seu conhecimento, pode clicar aqui para acessar o conteúdo completo e explorar todas as nuances abordadas.

No entanto, ao refletirmos acerca desse modo de construção da informação, não é difícil reconhecer que, à medida que os dados vão sendo apanhados, também são incorporadas interpretações, simplificações, suposições e vieses tradicionalistas dos mais variados tipos, que podem se manifestar de múltiplas maneiras na resposta dada pelo algoritmo, influenciando não apenas na precisão das suas respostas, mas também criando um ciclo onde a informação se retroalimenta, propagando erros e formando distorções da realidade.

Tomando como exemplo a modelagem de fenômenos físicos através de dados obtidos em análises de campo - uma das maiores contribuições da inteligência artificial para a engenharia - podemos inferir que os dados usados para desenvolver o modelo controlam completamente a qualidade do “output” da ferramenta. Se os dados coletados forem incompletos ou não representativos, é provável que tenhamos uma potencialização nos erros e uma diminuição na confiabilidade dos resultados. Isso pode levar a decisões equivocadas, com reflexos negativos em eficiência, orçamento e, em casos mais extremos, na integridade e na segurança do ser humano. 

Nesse sentido, surge o impasse sobre quem deve ser o responsável pelas decisões tomadas por sistemas automatizados. Enquanto os desenvolvedores e operadores dos sistemas têm de ter o compromisso de garantir que os modelos sejam rigorosamente testados e monitorados, os usuários devem também assumir a responsabilidade de como utilizam essa ferramenta. Em situações onde a máquina é um mero contribuinte na tomada de decisão, oferecendo ideias ou sugestões, mas em que o ser humano se mantém como agente encarregado do veredito, essa não deve ser interpretada como uma decisão automatizada. Em contrapartida, caso o humano seja meramente uma figura que rubrica uma escolha da máquina, então essa decisão é automatizada e imprudente.

    É necessário que engenheiros apliquem seu conhecimento para promover padrões rígidos de segurança para as aplicações de IA, sobretudo nas áreas mais críticas, como saúde, infraestrutura e transporte, da mesma forma que os sistemas de inteligência artificial precisam ser transparentes e auditáveis. Além do mais, é primordial que o processo de aprendizagem e especialização seja contínuo para todos os profissionais do ramo, para que se mantenham atualizados quanto aos avanços nas tecnologias e na ética da IA, pois somente assim será possível desenvolver uma integração responsável entre homem e máquina.

    A implementação de IA precisa ser vista como uma responsabilidade compartilhada. Trata-se de uma ferramenta suplementar, usada para acrescentar, e não substituir a inteligência humana.

Fonte: Archibalttttt - stock.adobe.com

REFERÊNCIAS:

ANJOS, Roberta Maas dos; BASTOS, Rogério Cid. Inteligência Artificial e a Engenharia: dos Oráculos ao ChatGPT. Revista Unicrea, Florianópolis, v. 1, n. 2, p. 94-116, mai-ago. 2023. Disponível em: https://revistaunicrea.crea-sc.org.br/index.php/revistaunicrea/article/download/29/44/45. Acesso em: 9 out. 2024.

MOHAGHEGH, Shahab. Ethics of Artificial Intelligence Plays a Role in Engineering. Journal of Petroleum Technology, 2021. Disponível em: https://jpt.spe.org/ethics-of-artificial-intelligence-plays-a-role-in-engineering. Acesso em: 19 out. 2024.

NATIONAL SOCIETY OF PROFESSIONAL ENGINEERS. Artificial Intelligence. Disponível em: https://www.nspe.org/resources/issues-and-advocacy/professional-policies-and-position-statements/artificial-intelligence. Acesso em: 23 out. 2024.

REIS, Nazareno César Moreira; FURTADO, Gabriel Rocha. Decisões automatizadas: definição, benefícios e riscos. Civilistica.com, v. 11, n. 2, 2022. Disponível em: https://civilistica.emnuvens.com.br/redc/article/download/763/627. Acesso em: 9 out. 2024.

Declaração de IA e tecnologias assistidas por IA no processo de escrita: durante a preparação deste trabalho, os autores utilizaram ferramentas de IAG (Exemplos: ChatGPT, Claude, outros) no processo de planejamento, para aperfeiçoamento do texto e melhoria da legibilidade. Após o uso destas ferramentas, os textos foram revisados, editados e o conteúdo está em conformidade com o método científico. O(s) autor(es) assume(m) total responsabilidade pelo conteúdo da publicação.