Grammarly é processada por simular autores sem permissão
Grammarly é processada por simular autores sem permissão
A Grammarly, conhecida ferramenta de correção gramatical e de estilo, está no centro de uma polêmica após lançar um recurso de inteligência artificial que simulava o feedback editorial de figuras proeminentes. A iniciativa, chamada "Expert Review", permitia aos usuários receber sugestões de escrita como se fossem feitas por nomes como Stephen King, Carl Sagan ou Kara Swisher.
O problema reside no fato de que a Grammarly não obteve consentimento dos centenas de especialistas cujos nomes e estilos foram utilizados. Essa prática levanta sérias questões sobre direitos de imagem, privacidade e o uso indevido de reputação profissional sem autorização.
Uma das autoras afetadas, a jornalista Julia Angwin, decidiu tomar medidas legais, movendo uma ação coletiva contra a Superhuman, empresa-mãe da Grammarly. Angwin argumenta que a empresa violou os direitos de privacidade e publicidade dela e de outros escritores cujas personas foram imitadas pela IA. Conforme informação divulgada pela imprensa especializada em tecnologia.
O recurso "Expert Review" e a polêmica gerada
O recurso "Expert Review" era oferecido como um diferencial para assinantes premium do Grammarly, com um custo anual de US$ 144. A proposta era fornecer um feedback de alta qualidade, simulando a expertise de críticos e autores renomados. No entanto, a eficácia e a ética por trás dessa simulação foram rapidamente questionadas.
A jornalista Julia Angwin, que possui uma carreira dedicada a investigar o impacto das empresas de tecnologia na privacidade, expressou sua indignação. Ela declarou que dedicou décadas a aprimorar suas habilidades como escritora e editora, e se sente perturbada ao descobrir que uma empresa de tecnologia está comercializando uma versão impostora de sua expertise.
Outros críticos da tecnologia e da IA, como a renomada ética em IA Timnit Gebru, também foram incluídos no "Expert Review" sem terem dado permissão. A situação se torna ainda mais irônica considerando o histórico de Angwin em defender a privacidade contra abusos corporativos.
A experiência de Casey Newton com a IA da Grammarly
Casey Newton, fundador e editor da newsletter de tecnologia Platformer, foi um dos autores cujas contribuições foram analisadas pela IA do Grammarly, simulando a voz da jornalista de tecnologia Kara Swisher. A "opinião" gerada pela IA foi descrita como genérica, levantando dúvidas sobre a real necessidade de usar a imagem de escritores famosos para tal funcionalidade.
A sugestão apresentada pela IA, emulando Kara Swisher, foi: "Você poderia comparar brevemente como os usuários diários de IA versus os céticos de IA articulam o risco, criando um fio condutor que os leitores possam seguir?". Essa solicitação demonstra a superficialidade do feedback oferecido.
Ao ser informada sobre o feedback da IA, a verdadeira Kara Swisher reagiu com humor e indignação. Ela enviou uma mensagem a Newton dizendo: "Seus ladrões vorazes de informação e identidade, é melhor se prepararem para que eu vá com tudo contra vocês. Além disso, vocês são péssimos." A declaração de Swisher reflete o sentimento de muitos que se sentiram representados de forma inadequada e sem consentimento.
Ação judicial e resposta da Grammarly
Julia Angwin iniciou uma ação coletiva contra a Superhuman, buscando representar outros autores e especialistas cujos direitos foram supostamente violados. A ação visa responsabilizar a empresa pelo uso não autorizado de suas identidades e reputações.
Em resposta à controvérsia, Shishir Mehrotra, CEO da Superhuman, anunciou o desativamento temporário do recurso "Expert Review". Em uma postagem no LinkedIn, Mehrotra pediu desculpas, mas também tentou defender a premissa do recurso.
Ele descreveu o objetivo da ferramenta como uma forma de "imaginar seu professor aprimorando sua redação, seu líder de vendas reformulando uma proposta ao cliente, um crítico pensativo desafiando seus argumentos, ou um especialista líder elevando sua proposta". Mehrotra argumentou que a funcionalidade seria uma oportunidade para que especialistas "construíssem esse mesmo vínculo onipresente com os usuários, assim como o Grammarly fez".
Impacto na indústria de tecnologia e para consumidores
Este incidente expõe um dilema ético crescente na indústria de tecnologia, especialmente no campo da inteligência artificial generativa. O uso de dados de treinamento, incluindo textos e estilos de escrita de indivíduos, sem consentimento explícito, levanta preocupações sobre a propriedade intelectual e a exploração comercial da identidade alheia.
Para as empresas, o caso serve como um alerta sobre os riscos legais e de reputação associados a inovações que não consideram os direitos individuais. A confiança do consumidor pode ser abalada se as ferramentas de IA forem percebidas como predatórias ou desrespeitosas com o trabalho e a imagem de criadores de conteúdo.
Para os consumidores, a situação levanta questões sobre a autenticidade e a transparência dos produtos de IA. A promessa de um feedback "personalizado" ou "especializado" pode ser ilusória se for baseada em simulações não autorizadas, minando o valor percebido do serviço.
Tendências futuras e a ética da IA
O caso Grammarly é um reflexo de uma tendência mais ampla na evolução da IA. À medida que as ferramentas se tornam mais sofisticadas em emular vozes e estilos humanos, a necessidade de regulamentação e diretrizes éticas claras se torna mais premente.
É provável que vejamos um aumento em litígios semelhantes e um debate mais intenso sobre os direitos de imagem e voz na era digital. Empresas que desenvolvem IA precisarão ser mais transparentes sobre suas fontes de dados e obter consentimento explícito quando utilizarem a persona de indivíduos reais.
A inovação em IA não deve ocorrer à custa dos direitos fundamentais. A busca por novas funcionalidades e modelos de negócios deve ser equilibrada com o respeito à privacidade, à propriedade intelectual e à dignidade dos criadores de conteúdo.
Perguntas e respostas sobre a ação judicial contra Grammarly
O que motivou a ação judicial contra o Grammarly?
A ação judicial foi motivada pelo lançamento do recurso "Expert Review" pela Grammarly, que utilizou inteligência artificial para simular o feedback editorial de autores e especialistas renomados sem obter o consentimento deles. A jornalista Julia Angwin, uma das afetadas, alega que a empresa violou os direitos de privacidade e publicidade dela e de outros.
A preocupação central é que a Grammarly estaria comercializando uma versão impostora da expertise de profissionais, baseada em simulações de suas vozes e estilos de escrita, o que configura um uso indevido de suas identidades e reputações construídas ao longo de anos de trabalho.
Quais são as implicações éticas e legais do uso de IA para simular personalidades?
As implicações éticas incluem a exploração da imagem e reputação de indivíduos sem permissão, a disseminação de informações potencialmente enganosas sobre a autoria do feedback e a desvalorização do trabalho intelectual original. Legalmente, isso pode infringir leis de direitos autorais, direitos de imagem, privacidade e publicidade.
Empresas que desenvolvem e implementam IA precisam navegar em um complexo cenário legal e ético, garantindo que suas inovações respeitem os direitos individuais e promovam transparência. O caso Grammarly destaca a necessidade urgente de um debate regulatório sobre IA generativa e o uso de dados de treinamento.
O que o desativamento do recurso "Expert Review" indica sobre o futuro de ferramentas de IA semelhantes?
O desativamento temporário do recurso "Expert Review" indica que a Grammarly reconheceu a gravidade da controvérsia e os potenciais riscos legais e de reputação. Isso sinaliza que empresas estão mais cautelosas quanto à implementação de funcionalidades que envolvam a simulação de personalidades sem consentimento explícito.
É provável que futuras ferramentas de IA que visem emular estilos ou vozes de indivíduos exijam processos mais rigorosos de obtenção de licenças e autorizações. A indústria tende a se mover em direção a modelos mais transparentes e éticos para evitar litígios e manter a confiança do público e dos criadores de conteúdo.
O cenário em torno da inteligência artificial e o uso de dados de treinamento está em constante evolução, e casos como o da Grammarly servem como importantes marcos para moldar as práticas futuras da indústria, equilibrando inovação com responsabilidade ética e legal. Acompanharemos os desdobramentos deste processo e suas repercussões no mercado de tecnologia.
Veja Também:
Advogado alerta para risco de massacres impulsionados por IA
US Army: Contrato de US$ 20 bilhões com Anduril revoluciona defesa
Meta discute demissões em massa impactando 20% de sua força de trabalho
upGrad adquire Unacademy em fusão que revoluciona edtech na Índia
Bilionários Desistem de Promessa de Doação: O Fim do Giving Pledge?