China propõe regras inéditas para IA que simula humanos, visando proteger usuários e evitar dependência emocional
China Avança na Regulação de IA: Novas Regras para Inteligência Artificial que Simula Humanos
O governo chinês deu um passo significativo na regulamentação da inteligência artificial ao divulgar, neste sábado (26), um conjunto de sugestões de normas para consulta pública. O objetivo é fortalecer a supervisão de serviços de IA projetados para simular personalidades humanas e engajar os usuários em interações que podem gerar laços emocionais.
Esta iniciativa demonstra o empenho das autoridades locais em lidar com a rápida disseminação de tecnologias de IA voltadas ao consumidor. A proposta busca estabelecer requisitos mais rigorosos em termos de ética e segurança, garantindo que o desenvolvimento e uso dessas ferramentas ocorram de maneira responsável.
As novas diretrizes se aplicariam a produtos e serviços de IA disponíveis ao público na China que exibem traços simulados de personalidade humana, padrões de pensamento e estilos de comunicação. Essas ferramentas interagem com os usuários por meio de texto, imagem, áudio, vídeo ou outros formatos, buscando criar uma experiência mais imersiva e pessoal. Conforme informação divulgada pelo órgão regulador cibernético da China, o foco é mitigar riscos associados a esse tipo de interação.
Supervisão e Responsabilidade dos Provedores de IA
A minuta regulatória estabelece uma abordagem que exige dos provedores de serviços de IA a responsabilidade por alertar os usuários sobre o uso excessivo das ferramentas. Além disso, eles deverão intervir ativamente quando for detectado que os usuários demonstram sinais de dependência emocional ou psicológica em relação à inteligência artificial.
De acordo com a proposta, os provedores de serviços serão legalmente obrigados a assumir a responsabilidade pela segurança de seus produtos durante todo o ciclo de vida. Isso inclui a implementação de sistemas robustos para a revisão contínua de algoritmos, a garantia da segurança dos dados coletados e a proteção rigorosa das informações pessoais dos usuários.
Prevenção de Riscos Psicológicos e Conteúdo Seguro
A proposta também visa abordar os potenciais riscos psicológicos associados à interação com IAs que simulam personalidades. Espera-se que os provedores sejam capazes de identificar o estado emocional dos usuários e avaliar seu nível de dependência do serviço. Caso sejam identificadas emoções extremas ou comportamentos viciantes, os provedores deverão tomar as medidas necessárias para intervir, conforme detalhado no documento.
As medidas propostas também definem limites claros para o conteúdo gerado e a conduta dos serviços. É estipulado que os serviços de IA não devem, sob nenhuma circunstância, gerar conteúdo que represente um risco à segurança nacional, que espalhe boatos ou que promova a violência ou a obscenidade, garantindo um ambiente digital mais seguro para todos.
Inovação brasileira contra o diabetes Rapha da UnB usa curativo de látex e LED
Incêndio destrói prédio do Colégio Marista em Santa Maria, fogo começou em sala de aula, imóvel vazio e sem feridos; veja vídeo e posição da escola e dos bombeiros
Lentidão na descida da serra para o litoral de SP, saiba quais kms evitar na Anchieta e Imigrantes, operação 7x3 ativada pela Ecovias Imigrantes
Jurassic World Recomeço, Scarlett Johansson lidera expedição secreta em ilhas isoladas para extrair DNA de dinossauros gigantes e reinventar a franquia
Como o Instituto Ponte uniu gestão profissional com propósito, baixou evasão a 2% e multiplicou renda dos alunos, mirando 650 jovens até 2029 com metas claras