Há uma geração, vimos as redes sociais passarem da novidade à necessidade, sem barreiras de proteção adequadas para os mais afetados por elas: os adolescentes. Ainda estamos contando as consequências nas salas de aula, nas salas de estar e nas estatísticas de saúde mental dos adolescentes.
Agora, as novas tecnologias estão se tornando parte da vida cotidiana ainda mais rapidamente. Mais uma vez, não existem regras aplicáveis a todo o setor para garantir a segurança dos jovens utilizadores.
As ferramentas de IA podem ajudar os alunos a aprender, ajudar as famílias a resolver problemas e ajudar-nos a fazer mais com menos. Os adolescentes de hoje são a primeira geração a crescer com a IA desde o início e têm a oportunidade de maximizar os benefícios económicos da Era da Informação. Isto representa uma enorme oportunidade – e uma responsabilidade – de repetir os erros que cometemos com as redes sociais, para que os adolescentes possam desenvolver uma verdadeira literacia em IA e uma relação saudável com esta tecnologia.
O governador mostrou a Gavin Newsom, repetidamente, que a Califórnia pode e irá liderar tanto a IA quanto as medidas de segurança para adolescentes. Agora, há uma nova oportunidade de desenvolver a liderança da Califórnia – e estabelecer um padrão regulatório nacional de fato para IA – ao promover a Lei de IA para Pais e Filhos Seguros.
A legislação – que esperamos que seja replicada noutros estados – começou na Califórnia, onde a OpenAI fez parceria com a Common Sense Media, uma organização que há muito ajuda as famílias a ligarem-se às novas tecnologias, para redigir e divulgar a medida.
A ideia básica é simples: a IA sabe muito, mas os pais entendem melhor. A proposta exigiria sistemas de IA que simulem conversas para preservar a privacidade, para que as configurações de proteção infantil se apliquem a utilizadores com menos de 18 anos. Capacitaria os pais, exigindo controlos parentais fáceis de usar e implementando proteções mais fortes para crianças com menos de 13 anos. Também apela a inspeções independentes da segurança infantil com responsabilização através da aplicação.
Valorizamos o direito dos adultos à privacidade ao usar ferramentas de IA. Mas quando se trata de adolescentes, devemos colocar a segurança em primeiro lugar. Os menores precisam de proteção significativa para que possam aproveitar todo o potencial da IA, e os pais merecem a confiança de que as salvaguardas corretas estão implementadas. Este pacote fornece ambos.
O projeto também apoiaria o compromisso do governador Newsom de tornar a segurança online dos adolescentes uma prioridade exclusiva. Ele apoiou medidas para prevenir o vício em mídias sociais e fortalecer as proteções de privacidade, e pressionou por um aprendizado sem distrações nas escolas por meio de limites estaduais ao uso de smartphones pelos alunos.
Recentemente, a Califórnia promoveu novas salvaguardas para a segurança online dos adolescentes – incluindo uma verificação mais forte da idade e novas proteções para chatbots de IA utilizados por menores – juntamente com esforços mais amplos para expandir o acesso à formação e aos recursos de saúde mental dos jovens.
A Califórnia está combinando essas medidas de segurança para adolescentes com um investimento pragmático em capacidades de pesquisa de IA que as universidades e pesquisadores de interesse público precisam para estudar a IA e ajudar a desenvolvê-la de forma responsável. Através do CalCompute, o estado está a lançar as bases para um cluster de computação pública concebido para expandir o acesso à computação avançada, para que a capacidade de avaliar e construir IA segura não se limite a um punhado de intervenientes com bons recursos.
O quadro limítrofe de transparência da IA da Califórnia já está a começar a tornar-se um ponto de referência fora do estado. Nova Iorque alinhou a sua Lei RAISE com o marco SB 53 da Califórnia, harmonizando as regras das duas maiores economias de IA do país e movendo o país em direcção a um padrão nacional de facto.
Se a Califórnia e Nova Iorque conseguirem alinhar-se nas protecções da IA para os jovens, poderemos criar expectativas claras para a indústria, ferramentas reais para os pais e incumprimentos mais seguros para os jovens em todo o país.
Como pai, não consigo pensar em nada mais importante. O governador ajudou. Newsom à Califórnia para ser líder em IA e segurança de adolescentes. A Lei de IA para Pais e Filhos Seguros – desenvolvida pela primeira vez na Califórnia – foi o próximo passo e proporcionaria o tipo de liderança que o país precisa neste momento.
Chris Lehane é diretor de assuntos globais da OpenAI.
