O Desafio Ético da Aplicação da IA na Engenharia

Disciplina: Redes Sociais e Virtuais

Aluna: Ana Livia Meira Pereira

Matrícula: 23100380

O desenvolvimento tecnológico vem, cada vez mais, transformando a maneira como interagimos uns com os outros e exercemos nossas atividades cotidianas, e o advento da Inteligência Artificial (IA) é a continuação dessa tendência já bem estabelecida. 

Sua capacidade de processar grandes volumes de dados de maneira quase instantânea, atuando como suporte na tomada de decisões, tem revolucionado áreas como saúde, educação, agricultura, indústria, comércio, entre outras.

A engenharia, que tem bases complexas, sustentadas na matemática, física e química, não é exceção disso, e vem se rendendo cada vez mais à miríade de benefícios que a IA traz consigo. Contudo, apesar da ampla gama de vantagens, o uso dessa tecnologia vem acompanhado de muitos dilemas, e é essencial que sejam feitas as devidas considerações éticas para garantir que seja resguardada a responsabilidade e a transparência em todos os seus processos.

Fonte: phonlamaiphoto - stock.adobe.com

Para entender melhor sobre mais sobre o que é machine learning, você pode clicar aqui. Todavia, de maneira resumida, o processo ocorre através da coleta e análise de dados, identificando parâmetros e estabelecendo correlações, em aprimoramento constante, com o intuito de melhorar sua assertividade. Ao refletirmos acerca desse modo de construção da informação, não é difícil reconhecer que, à medida que os dados são apanhados, também são incorporadas interpretações, simplificações, suposições e vieses tradicionalistas que podem se manifestar de múltiplas maneiras na resposta do algoritmo, influenciando não apenas na precisão das respostas, mas também criando um ciclo onde a informação se retroalimenta, propagando erros e distorcendo a realidade.

Tendo como exemplo a modelagem de fenômenos físicos através de dados obtidos em análises de campo - uma das maiores contribuições da inteligência artificial para a engenharia - podemos inferir que os dados usados para desenvolver o modelo controlam completamente a qualidade do “output” da ferramenta. Se os dados coletados forem incompletos ou não representativos, teremos uma potencialização nos erros e diminuição na confiabilidade dos resultados. Isso pode levar a decisões equivocadas, com reflexos negativos em eficiência, orçamento e, em casos mais extremos, na integridade e na segurança do ser humano. 

Nesse sentido, surge o impasse sobre quem deve ser o responsável pelas decisões tomadas por sistemas automatizados. Enquanto os desenvolvedores e operadores dos sistemas têm de ter o compromisso de garantir que os modelos sejam rigorosamente testados e monitorados, os usuários devem também assumir a responsabilidade de como utilizam essa ferramenta. Em situações onde a máquina é um mero contribuinte na tomada de decisão, oferecendo ideias ou sugestões, mas em que o ser humano se mantém como agente encarregado do veredito, essa não deve ser interpretada como uma decisão automatizada. Em contrapartida, caso o humano seja meramente uma figura que rubrica uma escolha da máquina, então essa decisão é automatizada e imprudente.

É necessário que engenheiros apliquem seu conhecimento para promover padrões rígidos de segurança para as aplicações de IA, sobretudo nas áreas mais críticas, como saúde, infraestrutura e transporte, da mesma forma que os sistemas de inteligência artificial precisam ser transparentes e auditáveis. Além do mais, é primordial que o processo de aprendizagem e especialização seja contínuo para todos os profissionais do ramo, para que se mantenham atualizados quanto aos avanços nas tecnologias e na ética da IA, pois somente assim será possível desenvolver uma integração responsável entre homem e máquina.

Fonte: Archibalttttt - stock.adobe.com

REFERÊNCIAS:

ANJOS, Roberta Maas dos; BASTOS, Rogério Cid. Inteligência Artificial e a Engenharia: dos Oráculos ao ChatGPT. Revista Unicrea, Florianópolis, v. 1, n. 2, p. 94-116, mai-ago. 2023. Disponível em: https://revistaunicrea.crea-sc.org.br/index.php/revistaunicrea/article/download/29/44/45. Acesso em: 9 out. 2024.

MOHAGHEGH, Shahab. Ethics of Artificial Intelligence Plays a Role in Engineering. Journal of Petroleum Technology, 2021. Disponível em: https://jpt.spe.org/ethics-of-artificial-intelligence-plays-a-role-in-engineering. Acesso em: 19 out. 2024.

NATIONAL SOCIETY OF PROFESSIONAL ENGINEERS. Artificial Intelligence. Disponível em: https://www.nspe.org/resources/issues-and-advocacy/professional-policies-and-position-statements/artificial-intelligence. Acesso em: 23 out. 2024.

REIS, Nazareno César Moreira; FURTADO, Gabriel Rocha. Decisões automatizadas: definição, benefícios e riscos. Civilistica.com, v. 11, n. 2, 2022. Disponível em: https://civilistica.emnuvens.com.br/redc/article/download/763/627. Acesso em: 9 out. 2024.

Declaração de IA e tecnologias assistidas por IA no processo de escrita: durante a preparação deste trabalho, os autores utilizaram ferramentas de IAG (Exemplos: ChatGPT, Claude, outros) no processo de planejamento, para aperfeiçoamento do texto e melhoria da legibilidade. Após o uso destas ferramentas, os textos foram revisados, editados e o conteúdo está em conformidade com o método científico. O(s) autor(es) assume(m) total responsabilidade pelo conteúdo da publicação.