China divulga minuta de regras para regulamentar IA com interação semelhante à humana, obrigando alertas contra dependência, revisão algorítmica e proteção de dados
O órgão regulador cibernético da China divulgou neste sábado, para consulta pública, uma minuta com sugestões de regras voltadas a serviços de inteligência artificial que simulam traços de personalidade humana e interagem emocionalmente com usuários.
A proposta amplia a supervisão sobre a rápida implantação da IA de consumo, com exigências que vão desde alertas contra uso excessivo até intervenções quando houver sinais de dependência do serviço.
As medidas também cobram responsabilidades de segurança durante todo o ciclo de vida do produto, incluindo revisão de algoritmos, proteção de dados e salvaguarda de informações pessoais, conforme informação divulgada pela Reuters.
O que a minuta estabelece
A minuta, divulgada para consulta pública, se aplica a produtos e serviços oferecidos ao público que apresentem padrões de pensamento, estilos de comunicação ou outros traços que simulem personalidade humana, e que interajam com usuários por texto, imagem, áudio ou vídeo.
Entre as exigências, estão a obrigação de avisar os usuários sobre o risco de uso excessivo, implantar sistemas de monitoramento para identificar sinais de dependência e adotar processos formais de revisão de algoritmos. A proposta também determina medidas de segurança de dados e proteção de informações pessoais.
Riscos psicológicos e dever de intervenção
A minuta mira riscos psicológicos, ao pedir que os provedores identifiquem o estado emocional dos usuários e avaliem seu nível de dependência do serviço. Caso sejam detectadas emoções extremas ou comportamento viciante, os provedores deverão tomar as medidas necessárias para intervir.
Essas intervenções podem incluir alertas, limitações de uso e encaminhamento para suporte humano, com o objetivo de reduzir impactos negativos sobre a saúde mental dos usuários e evitar dependência em serviços de IA.
Limites de conteúdo e segurança nacional
O texto também impõe limites ao tipo de conteúdo gerado por essas IAs, afirmando que os serviços não devem produzir material que ponha em risco a segurança nacional, espalhe rumores, promova violência ou contenha obscenidade.
As regras sinalizam a intenção de Pequim de equilibrar inovação e controle, diante da expansão rápida de assistentes e personagens virtuais capazes de engajar emocionalmente o público.
Reportagem de Liangping Gao e Ryan Woo, conforme informação divulgada pela Reuters.
Veja Também:
Como a campanha de Trump contra a Venezuela uniu interesse pelo petróleo, combate às drogas e políticas de imigração e levou a ataques navais e pressão econômica
Rússia afirma ter abatido 111 drones ucranianos em três horas, incluindo oito sobre Moscou, e outros 11 derrubados em rota para a capital, diz Ministério da Defesa
Como as lontras marinhas usam kelp, dar as mãos e formar jangadas para não se perder no oceano enquanto dormem, táticas sociais e ecológicas essenciais
Putin diz que Ucrânia não tem pressa para resolver pacificamente o conflito na Ucrânia, e afirma que Rússia cumprirá objetivos da 'operação militar especial' pela força
Stitch live-action, a fofura e a bagunça do alienígena que conquista gerações, entre CGI realista, atores nas ilhas do Havaí e a mensagem de família da Disney+