Programas de inteligência artificial, como ChatGPT e Gemini, têm se tornado cada vez mais integrados à sociedade, apresentando avanços significativos em sua funcionalidade. Pesquisa recente da Harvard Business Review indica que, no último ano, a principal aplicação desses modelos de linguagem foi voltada para terapia e organização pessoal, áreas que tradicionalmente exigiam interação humana.
Entretanto, a pesquisa revela um movimento oposto a essa perspectiva, evidenciando a dificuldade em estabelecer limites para o uso da IA. A pesquisadora Graça Nunes, do Instituto de Ciências Matemáticas e de Comunicação da USP, destaca que a ausência de diretrizes claras favorece práticas inadequadas.
e receba no seu e-mail o melhor do que rolou na semana na CH.
Cadastro efetuado com sucesso!
Você receberá este conteúdo por email em breve.
“A utilização responsável da IA em contextos educacionais depende de decisões individuais e coletivas. A falta de um entendimento claro sobre como e quando aplicar essa tecnologia pode gerar problemas. O primeiro passo para evitar essas dificuldades é informar alunos e educadores sobre as formas adequadas de uso da inteligência artificial,” afirma Nunes.
Um exemplo ilustrativo vem de uma situação ocorrida na Northeastern University, EUA, onde um professor foi denunciado por uma aluna após utilizar o ChatGPT para a criação de slides para uma aula. A aluna reivindicou o reembolso da mensalidade, alegando que o docente proibia o uso de IA pelos alunos, enquanto ele mesmo a utilizava.
Apesar de reconhecer a importância de regras claras para evitar problemas, Graça Nunes não desconsidera os riscos associados ao uso inadequado da IA. “Muitos dos efeitos negativos atribuídos à IA resultam de um uso excessivo ou impróprio”, afirma Nunes.
Como identificar o uso excessivo da IA? Assim como em qualquer comportamento, o uso inadequado ou excessivo da IA pode levar à ausência de benefícios. A regra se aplica à inteligência artificial da mesma forma. Uma análise sobre a IA do Google, por exemplo, mostra como ela pode auxiliar no resumo e estudo de textos complexos, porém não substitui o aprendizado real.
Existem usos da inteligência artificial que devem ser evitados, seja por ultrapassarem os limites da tecnologia, seja por distorcerem a realidade. Com a colaboração de Graça Nunes e de Fernando Ozório, membro do Centro de Inteligência Artificial do ICMC da USP, foram elencadas atividades que podem trazer sérios malefícios.
- Usar a IA para ‘estudar’ em vez de ser um auxílio
Solicitar que a IA resolva exercícios ou elabore trabalhos resulta em um aprendizado superficial. É fundamental considerar que, no dia do vestibular, não haverá uma IA para auxiliar com as questões. Dessa forma, depender dessa tecnologia pode ser prejudicial.
- Usar por longos períodos, criando dependência
O uso excessivo de IA, especialmente em formas generativas, pode levar ao isolamento social e comprometer a saúde mental. A desconexão da vida real pode resultar em estresse, baixa autoestima e outros problemas psicológicos.
Embora a IA possa gerar imagens de alta qualidade, a manipulação e disseminação de conteúdo falso podem levar à desinformação e danos a terceiros.
- Substituir o contato humano por IA
Utilizar IA para terapias pode acarretar sérios problemas à saúde mental, uma vez que tratamentos eficazes exigem elementos como empatia e interação humana, os quais não são atendidos pelas IAs.
- A IA pode fazer quase tudo, mas não tudo
Especialistas reconhecem que a IA é uma ferramenta em evolução e não pode substituir totalmente a interação humana ou resolver todos os problemas. Sua utilização deve ser vista como um meio de aprimorar a vida, e não como uma solução definitiva.
- Desconsiderar direitos autorais na utilização da IA
Recentemente, surgiram controvérsias em relação à utilização de IA para gerar artes inspiradas no estilo do Studio Ghibli. Essa prática infringir os direitos autorais do estúdio, que já se manifestou contra essa abordagem. Vale ressaltar que plágio é crime.
Em um cenário onde a tecnologia está em constante desenvolvimento, muitos efeitos e riscos da IA ainda são desconhecidos. A aplicação dessa tecnologia deve ser feita com parcimônia. É crucial validar os resultados obtidos por meio dela, especialmente em contextos educacionais.
