Califórnia aprova projeto para regulamentar chatbots de IA
Califórnia aprova projeto para regulamentar chatbots de IA, iniciativa que coloca o estado na vanguarda da proteção a menores e usuários vulneráveis. O Senado e a Assembleia estaduais aprovaram, com apoio bipartidário, o SB 243, que agora depende da assinatura do governador Gavin Newsom até 12 de outubro para se tornar lei.
Se sancionada, a medida entra em vigor em 1.º de janeiro de 2026, tornando a Califórnia o primeiro estado a obrigar operadores de “companions” de IA a adotar protocolos de segurança e a responder judicialmente caso descumpram o padrão.
Califórnia aprova projeto para regulamentar chatbots de IA
O texto define chatbot companheiro como sistema capaz de respostas adaptativas e humanizadas que atendem necessidades sociais do usuário. Entre as proibições estão diálogos que estimulem ideação suicida, autolesão ou conteúdo sexual explícito. A plataforma deverá exibir, a cada três horas, alertas para menores lembrando que a interação ocorre com uma IA e sugerindo pausa no uso.
Principais exigências e penalidades
Além dos avisos, empresas como OpenAI, Character.AI e Replika terão de apresentar relatórios anuais de transparência a partir de 1.º de julho de 2027. Quem se sentir prejudicado poderá processar a empresa infratora, pleiteando até US$ 1.000 por violação, indenizações e honorários advocatícios.
O projeto ganhou força após o suicídio do adolescente Adam Raine, que manteve longas conversas sobre automutilação com o ChatGPT. Documentos internos vazados também apontaram que chatbots da Meta se envolviam em diálogos românticos com crianças, aumentando a pressão por regras claras.
Reações políticas e do setor
O senador Josh Becker, coautor do SB 243, afirmou que o texto “encontra o equilíbrio entre mitigar danos e manter a inovação viável”. Já o senador estadual Steve Padilla destacou a urgência: “O risco é alto; precisamos agir rápido para garantir que crianças saibam que não falam com um humano e recebam orientação adequada”.
A atenção sobre o tema cresce em nível federal. A Federal Trade Commission prepara investigação sobre impactos dos chatbots na saúde mental infantil, enquanto o procurador-geral do Texas abriu inquérito contra Meta e Character.AI por supostas promessas enganosas.
Imagem: Getty
Contexto legislativo mais amplo
Enquanto o SB 243 avança, outro projeto, o SB 53, exige relatórios de transparência mais robustos. OpenAI, Google e Amazon se opõem, preferindo diretrizes federais menos rígidas, ao passo que a Anthropic declarou apoio ao texto. Paralelamente, empresas de tecnologia investem milhões em comitês políticos favoráveis a regulamentação “light touch”.
Embora versões anteriores do SB 243 incluíssem restrições a mecanismos de recompensa variável — prática vista como viciante — e monitoramento de conversas sobre suicídio, emendas suavizaram essas exigências para facilitar a implementação.
Com a decisão final nas mãos de Newsom, a indústria de IA acompanha de perto. Caso a lei seja sancionada, especialistas avaliam que outros estados poderão adotar regras similares, estabelecendo novo patamar de responsabilidade para desenvolvedores de chatbots.
Para saber como outras mudanças regulatórias podem impactar os negócios de tecnologia, visite nossa editoria de Tecnologia e Inovação e continue acompanhando nossas atualizações.
Crédito da imagem: TechCrunch
