Quem vai regulamentar a IA?

Em seu depoimento ao Congresso em 16 de maio, o executivo-chefe da OpenAI, Sam Altman, disse que era hora de os reguladores começarem a estabelecer limites para os poderosos sistemas de TI. "À medida que essa tecnologia avança, entendemos que as pessoas estão ansiosas sobre como ela pode mudar a maneira como vivemos. Nós também estamos", disse Altman a um comitê do Senado. "Se essa tecnologia der errado, pode dar muito errado", disse ele, alegando que poderia causar "danos significativos ao mundo". Ele concordou com os legisladores que a supervisão do governo será fundamental para mitigar os riscos. Um tópico que mal aparecia nos radares dos legisladores há um ano, agora os governos de todo o mundo estão debatendo ferozmente os prós e os contras de regulamentar ou até mesmo proibir alguns usos das tecnologias de inteligência artificial. No entanto, a questão em que os líderes empresariais devem se concentrar neste momento não é como ou mesmo quando a IA será regulamentada, mas por quem. O fato de o Congresso, a Comissão Europeia, a China ou até mesmo os estados ou tribunais dos EUA assumirem a liderança determinará a velocidade e a trajetória da transformação da economia global pela IA, possivelmente protegendo alguns setores ou limitando a capacidade de todas as empresas de usar a tecnologia para interagir diretamente com os consumidores. Desde o lançamento, em novembro de 2022, do ChatGPT da OpenAI, seu chatbot de IA generativa baseado em uma rede neural de modelo de linguagem grande (LLM) autoaperfeiçoada, o uso da IA generativa explodiu. De acordo com os dados compilados pela Statista, o ChatGPT atingiu um milhão de usuários em cinco dias, superando os lançamentos de produtos da Internet em velocidade acelerada, incluindo Facebook, Spotify e Netflix. O Midjourney e o DALL-E, LLMs que criam ilustrações personalizadas com base nas informações do usuário, também explodiram em popularidade, gerando milhões de imagens todos os dias. A TI generativa certamente atende aos critérios do que um de nós definiu anteriormente como "agente de disrupção Big Bang": uma nova tecnologia que, desde o momento do lançamento, oferece aos usuários uma experiência melhor e mais barata do que aquelas com as quais concorre. Uma aceitação tão notável é naturalmente motivo de entusiasmo e, para as empresas estabelecidas, de alarme. O potencial dos LLMs parece ilimitado, talvez revolucionando tudo, da pesquisa à geração de conteúdo, do atendimento ao cliente à educação, enfim, o que o senhor quiser. Diferentemente dos Big Bang Disruptions mais direcionados, o ChatGPT e outros LLMs são agentes de disrupção, quebrando regras de longa data não apenas em um setor, mas em todos eles. Ao mesmo tempo. Dada a escala potencial dessa disrupção - bem como questões como privacidade, preconceito e até mesmo segurança nacional - é razoável que os legisladores prestem atenção. Pense no poema de Goethe "The Sorcerer's Apprentice" (O Aprendiz de Feiticeiro), animado no clássico filme Fantasia, da Disney, em que o feiticeiro retorna à sua oficina e descobre que seu aprendiz liberou forças que rapidamente saíram do controle, ameaçando destruir tudo o que estiver à vista até que o mágico restabeleça a ordem. Muitos dos que se preocupam com as possíveis consequências não intencionais da IA, incluindo desenvolvedores como Altman, estão procurando os legisladores para preencher o papel do feiticeiro. Aí vem todo mundo Nos Estados Unidos, vários atores estão lutando para liderar a regulamentação da IA. Em primeiro lugar, temos o Congresso, onde o líder da maioria no Senado, Chuck Schumer, está pedindo uma legislação preventiva para estabelecer "grades de proteção" regulatórias para produtos e serviços de IA. As grades de proteção se concentram na transparência do usuário, nos relatórios do governo e no "alinhamento desses sistemas com os valores americanos e na garantia de que os desenvolvedores de IA cumpram sua promessa de criar um mundo melhor". A indefinição dessa proposta, no entanto, não é promissora. Em segundo lugar, temos o governo Biden, onde há alguma competição entre os órgãos federais para implementar um projeto da Casa Branca para uma Declaração de Direitos de IA, que foi apresentado em outubro passado. O projeto é igualmente genérico, exigindo que os desenvolvedores garantam sistemas "seguros e eficazes" que não discriminem ou violem as expectativas de privacidade e que expliquem quando um usuário está se envolvendo com um sistema automatizado e ofereçam "fallbacks" humanos para os usuários que os solicitarem - sem, pelo menos até agora, definir qualquer um desses termos-chave. No Departamento de Comércio, a Administração Nacional de Telecomunicações e Informações (NTIA) abriu uma investigação sobre a utilidade de auditorias e certificações para sistemas de IA. A agência solicitou comentários sobre dezenas de perguntas sobre a responsabilidade dos sistemas de IA, incluindo se, quando, como e por quem os novos aplicativos devem ser avaliados, certificados ou auditados e que tipo de critérios devem ser incluídos nessas análises. Aqui, a especificidade da consulta parece estar indo na direção certa. Enquanto isso, a presidente da Comissão Federal de Comércio, Lina Kahn, está adotando uma abordagem diferente, alegando que sua agência já tem jurisdição sobre os LLMs e agitando os sabres anticompetitivos e de proteção ao consumidor da agência na direção da nova tecnologia. Kahn especula que a IA poderia exacerbar os problemas existentes na tecnologia, incluindo "conluio, monopolização, fusões, discriminação de preços e métodos injustos de concorrência". A TI generativa, acredita também a presidente da FTC, "corre o risco de turbinar a fraude" com sua capacidade de criar conteúdo falso, mas convincente. E, segundo ela, os LLMs poderiam - intencionalmente ou não - violar as leis de privacidade e antidiscriminação existentes, elaborando respostas às solicitações dos usuários com base em conjuntos de dados tendenciosos. Além disso, há mais esforços provinciais: A legislação relacionada à IA já foi apresentada em pelo menos 17 estados. Algumas dessas leis propostas incentivariam o desenvolvimento local de produtos de TI, enquanto outras limitariam seu uso em aplicações como assistência médica e contratação. Muitos estados já criaram ou estão pensando em criar suas próprias forças-tarefa para recomendar legislações futuras. Até o momento, há poucos detalhes específicos em qualquer uma dessas propostas, sendo que os tipos de danos hipotéticos da IA se enquadram em categorias existentes, incluindo desinformação e abuso de direitos autorais e marcas registradas. De qualquer forma, os órgãos reguladores provavelmente terão pouco impacto sobre o desenvolvimento da tecnologia no curto prazo. Muitas das regulamentações propostas exigiriam que o Congresso concedesse autoridade legal adicional às agências, o que parece improvável no atual clima político. Mesmo assim, a aplicação de novas regras será de competência dos tribunais, o que se traduz em anos de processo de moagem. E, historicamente, os governos têm tido dificuldade em atrair o tipo de conhecimento técnico necessário até mesmo para definir os tipos de novos danos que os LLMs e outros aplicativos de IA podem causar. Entre as propostas federais, o senhor pode dar crédito ao Departamento de Comércio por fazer as perguntas certas. Mas não está claro se a Secretária Gina Raimondo tem a autoridade legal para criar um processo de certificação sustentável, ou a influência política para fazer com que o setor de tecnologia apoie os esforços da NTIA. Além disso, como o Departamento reconhece, sua investigação é apenas parte de um esforço maior da Casa Branca para criar um ambiente confiável para serviços de TI, um objetivo que exigiria níveis nunca antes vistos de coordenação e cooperação em vários silos governamentais. Essas discussões também estão ocorrendo em um cenário de mudanças monumentais na legislação americana que provavelmente determinarão quem acabará ganhando o papel de principal regulador da IA. As recentes decisões da Suprema Corte alteraram drasticamente o cenário jurídico do direito comercial, transferindo o poder dos órgãos reguladores federais para os tribunais e os estados, acrescentando ainda mais fragmentação, incerteza e atraso às ações de aplicação. A Suprema Corte deu sinal verde para as empresas que esperam contestar a criação de regras pelas agências, por exemplo, exigindo instruções mais específicas do Congresso, terceirizando efetivamente para os juízes federais a decisão final sobre se as regras adotadas entrarão em vigor. Enquanto isso, é claro, a tecnologia continuará a evoluir em seu próprio ritmo acelerado. Juntas, essas limitações sugerem que é mais provável que as principais regulamentações venham primeiro de fora dos EUA. Com relação à lei de concorrência e sua aplicação às empresas de tecnologia em particular, o ímpeto das últimas décadas já se deslocou dos EUA para a Europa. Enquanto a UE continua a aprovar uma nova e substancial legislação sobre a Internet, o Congresso se retrai, deixando a FTC e outras agências federais em grande parte sem as ferramentas ou os recursos para competir com suas contrapartes europeias. O Parlamento Europeu aprovou recentemente o AI Act, um estatuto de 100 páginas que proibiria preventivamente aplicativos considerados com níveis de risco "inaceitáveis", exigiria que outros obtivessem pré-aprovação e licenças antes do uso na UE e imporia multas substanciais aos desenvolvedores por uma série de violações. Os órgãos reguladores da China também estão agindo rapidamente, tanto para incentivar produtos e serviços de IA desenvolvidos internamente quanto para definir como eles podem ou não operar. Isso não apenas poderia limitar a forma como as empresas não chinesas interagem com mais de um bilhão de usuários chineses em potencial, mas também poderia, por ser o primeiro, tornar-se o regime legal de fato para aplicativos futuros. O que as empresas devem fazer agora Está longe de ser claro que qualquer combinação de ação governamental - legislativa, regulatória ou judicial - possa realmente alcançar o equilíbrio entre maximizar o valor da TI e minimizar seu possível dano à economia ou à sociedade de forma mais ampla. Como acontece com todas as tecnologias revolucionárias, é quase certo que a capacidade dos governos de regulamentar os LLMs de forma eficaz não será suficiente. Isso não é uma crítica aos legisladores e reguladores, mas um efeito colateral do fato básico de que a lei avança de forma incremental, enquanto a tecnologia evolui exponencialmente. Nesse ínterim, os líderes empresariais e acadêmicos devem seguir o exemplo da iniciativa em andamento do Departamento de Comércio e começar a desenvolver reguladores não governamentais, auditorias e processos de certificação que identifiquem e forneçam incentivos de mercado para a compra de produtos e serviços de IA éticos e confiáveis, deixando claro quais aplicativos são e quais não são confiáveis. Há, é claro, uma longa história de órgãos autorreguladores bem-sucedidos (e malsucedidos), que remonta à Idade Média e aos "tribunais" mercantis que aplicavam as normas dos mercados medievais. Hoje, vários grupos, inclusive a Organização Internacional de Padrões, desenvolvem e certificam a conformidade corporativa com uma variedade notavelmente ampla de padrões, práticas recomendadas e classificações. Na era da informação, esforços semelhantes abordaram tudo, desde padrões corporativos para lidar com regimes autoritários até o desenvolvimento do software e dos protocolos que compõem a própria Internet. Algumas regulamentações governamentais são inevitáveis. Ainda assim, a maneira mais promissora de não provocar o feiticeiro seria evitar fazer uma bagunça muito grande em primeiro lugar.

Quem vai regulamentar a IA?

Resumo.

Partner Center