A Califórnia está prestes a se tornar o primeiro estado a regular os chatbots de companhia com Inteligência Artificial. O Projeto de Lei 243 (SB 243) foi aprovado pelo Senado da Califórnia na última quinta-feira e agora segue para a mesa do governador Newsom para sanção.
Se sancionado, o SB 243 exigirá que os operadores implementem protocolos de segurança específicos para esses companheiros de IA. A legislação também responsabilizará legalmente as empresas caso seus chatbots não consigam cumprir os padrões estabelecidos.
A medida surge em um momento de crescente popularidade e complexidade dos sistemas de IA, com preocupações sobre seu impacto potencial na saúde mental e bem-estar dos usuários. Os defensores do projeto de lei argumentam que a regulamentação é crucial para proteger os indivíduos de possíveis danos causados por interações inapropriadas ou inseguras com chatbots.
Aprovada, a lei estabeleceria diretrizes claras para o desenvolvimento e operação desses sistemas, visando garantir a segurança e a privacidade dos usuários. O escopo exato dos protocolos de segurança exigidos ainda não foi totalmente detalhado, mas espera-se que inclua medidas para prevenir discursos de ódio, assédio e outros conteúdos nocivos. A lei representa um passo significativo na regulamentação da IA e poderá servir de modelo para outros estados nos Estados Unidos.
