China propõe regras detalhadas para IAs que imitam humanos, obrigando plataformas a monitorar vínculos emocionais, intervir em casos de dependência e limitar conteúdo perigoso
China propõe regras para IAs que imitam humanos, obrigando plataformas a informar riscos, monitorar o estado emocional dos usuários e intervir em situações de dependência
A proposta, divulgada em consulta pública pelo regulador de cibersegurança, mira serviços que simulam traços de personalidade e criam vínculos afetivos com pessoas.
As medidas visam equilibrar a expansão das tecnologias de IA com segurança, ética e proteção dos consumidores diante do crescimento de assistentes virtuais e chatbots avançados.
O texto detalha obrigações desde a revisão de algoritmos até limites de conteúdo, com foco em evitar exploração de vulnerabilidades emocionais.
conforme informação divulgada pela Reuters.
O que muda para produtos e plataformas
O projeto regula especificamente IAs que imitam humanos, incluindo sistemas que interagem por texto, imagem, áudio ou vídeo, e que adotam padrões de raciocínio e estilos comunicativos humanos.
As empresas seriam obrigadas a informar os usuários sobre os riscos do uso excessivo, e a implementar mecanismos para monitorar sinais de dependência, estresse ou reações emocionais extremas.
Responsabilidades ao longo do ciclo de vida
O documento amplia a responsabilidade das companhias durante todo o ciclo de vida do produto, exigindo revisão de algoritmos, medidas de segurança de dados e proteção de informações pessoais.
Plataformas teriam de avaliar, durante a interação, níveis de estresse e apego, e, caso identifiquem comportamentos problemáticos, deveriam intervir para reduzir riscos psicológicos.
Limites ao conteúdo e segurança pública
As regras propõem também restrições claras sobre o que pode ser gerado por essas IAs, vedando respostas que ameacem a segurança nacional, disseminem desinformação, estimulem violência ou promovam conteúdo obsceno.
O objetivo é evitar que IAs que imitam humanos explorem vulnerabilidades emocionais ou incentivem padrões de uso prejudiciais.
Contexto e próximos passos
A iniciativa integra a estratégia de Pequim para orientar a rápida expansão da IA no mercado consumidor, buscando consolidar um modelo de governança mais rígido, conciliando inovação com controle estatal e proteção ao usuário.
O projeto está em consulta pública, e deve receber comentários antes de virar norma, enquanto o país enfrenta crescimento acelerado no setor de IA e em tecnologias de robótica humanoide.
Veja Também:
Receita desmente imposto sobre Pix e esclarece isenção e monitoramento
Oferta monitor gamer LG 24MS500-B, 24 polegadas, 100 Hz
Brasil envia equipamentos de diálise e medicamentos à Venezuela após ataque dos EUA, Padilha mobiliza apoio técnico e monitora fronteira por possível migração
Saúde monitora fronteira com a Venezuela e amplia vigilância em Roraima
Como monitorar AI Overviews, menções, citações e cliques