we must regulate AI: here's how

Resumo

É emocionante e inquietante ter uma conversa realista com um computador . Graças ao rápido avanço da inteligência artificial generativa, muitos de nós já experimentamos essa tecnologia potencialmente revolucionária com vastas implicações para como as pessoas vivem, trabalham e se comunicam ao redor do mundo. A extensão total do potencial da IA ​​generativa ainda está em debate, mas há pouca dúvida de que será altamente disruptiva .

A última vez que nos vimos diante de uma mudança social tão ampla provocada pela tecnologia foi no início da era da Web 2.0 , em meados dos anos 2000. Empresas novas e inovadoras como Facebook e Google revolucionaram as comunicações e entregaram serviços populares a uma base de usuários em rápido crescimento.

Esses serviços inovadores, no entanto, tiveram um custo alto. O que inicialmente concebemos como serviços gratuitos foi monetizado por meio de vigilância extensiva das pessoas e empresas que os usavam. O resultado foi uma economia online onde o acesso a serviços cada vez mais essenciais é condicionado à acumulação e venda generalizadas de nossos dados pessoais.

Esses modelos de negócios levaram as empresas a desenvolver maneiras infinitamente invasivas de nos rastrear , e a Federal Trade Commission mais tarde encontraria motivos para acreditar que várias dessas empresas haviam infringido a lei. Juntamente com estratégias agressivas para adquirir ou bloquear empresas que ameaçavam sua posição, essas táticas solidificaram o domínio de um punhado de empresas. O que começou como um conjunto revolucionário de tecnologias acabou concentrando enorme poder privado sobre serviços essenciais e bloqueando modelos de negócios que têm um custo extraordinário para nossa privacidade e segurança.

A trajetória da era da Web 2.0 não era inevitável — em vez disso, foi moldada por uma ampla gama de escolhas políticas. E agora enfrentamos outro momento de escolha. À medida que o uso da IA ​​se torna mais difundido, os funcionários públicos têm a responsabilidade de garantir que essa história aprendida com muito esforço não se repita.

À medida que as empresas correm para implantar e monetizar a IA, a Federal Trade Commission está analisando de perto como podemos melhor atingir nosso duplo mandato de promover a concorrência justa e proteger os americanos de práticas injustas ou enganosas. À medida que essas tecnologias evoluem, estamos comprometidos em fazer a nossa parte para manter a longa tradição dos Estados Unidos de manter os mercados abertos, justos e competitivos que sustentaram tanto as inovações revolucionárias quanto o sucesso econômico da nossa nação — sem tolerar modelos de negócios ou práticas que envolvam a exploração em massa de seus usuários. Embora essas ferramentas sejam novas, elas não estão isentas das regras existentes, e a FTC aplicará vigorosamente as leis que somos encarregados de administrar, mesmo neste novo mercado.

Embora a tecnologia esteja se movendo rapidamente, já podemos ver vários riscos. A adoção crescente de IA corre o risco de bloquear ainda mais o domínio de mercado de grandes empresas de tecnologia estabelecidas. Um punhado de empresas poderosas controla as matérias-primas necessárias nas quais startups e outras empresas confiam para desenvolver e implementar ferramentas de IA. Isso inclui serviços de nuvem e poder de computação, bem como vastos estoques de dados.

Os executores e reguladores devem estar vigilantes. As empresas dominantes podem usar seu controle sobre essas entradas-chave para excluir ou discriminar rivais a jusante, escolhendo vencedores e perdedores de maneiras que fortaleçam ainda mais seu domínio. Enquanto isso, as ferramentas de IA que as empresas usam para definir preços para tudo, desde sabão em pó até reservas de pistas de boliche, podem facilitar comportamentos colusivos que inflacionam preços injustamente — bem como formas de discriminação de preços precisamente direcionadas. Os executores têm a dupla responsabilidade de observar os perigos representados pelas novas tecnologias de IA, ao mesmo tempo em que promovem a concorrência justa necessária para garantir que o mercado dessas tecnologias se desenvolva legalmente. A FTC está bem equipada com jurisdição legal para lidar com as questões trazidas à tona pelo setor de IA em rápido desenvolvimento, incluindo conluio, monopolização, fusões, discriminação de preços e métodos injustos de concorrência.

E a IA generativa corre o risco de turbinar a fraude . Ela pode não estar pronta para substituir escritores profissionais, mas já pode fazer um trabalho muito melhor de elaborar uma mensagem aparentemente autêntica do que o seu vigarista médio — equipando golpistas para gerar conteúdo de forma rápida e barata. Os chatbots já estão sendo usados ​​para gerar e-mails de spear-phishing projetados para enganar pessoas, sites falsos e avaliações falsas de consumidores — os bots estão até mesmo sendo instruídos a usar palavras ou frases direcionadas a grupos e comunidades específicos. Os golpistas, por exemplo, podem redigir e-mails de spear-phishing altamente direcionados com base em postagens de mídia social de usuários individuais. Junto com ferramentas que criam vídeos deep fake e clones de voz, essas tecnologias podem ser usadas para facilitar fraudes e extorsões em grande escala.

Ao aplicar a proibição legal de práticas enganosas, não analisaremos apenas os golpistas que usam essas ferramentas, mas também as empresas que as permitem.

Por fim, essas ferramentas de IA estão sendo treinadas em enormes quantidades de dados de maneiras que são amplamente descontroladas. Como podem ser alimentadas com informações cheias de erros e vieses, essas tecnologias correm o risco de automatizar a discriminação — bloqueando injustamente as pessoas de empregos, moradia ou serviços essenciais. Essas ferramentas também podem ser treinadas em e-mails privados, chats e dados confidenciais, expondo detalhes pessoais e violando a privacidade do usuário. As leis existentes que proíbem a discriminação serão aplicadas, assim como as autoridades existentes que proíbem a coleta ou uso exploratório de dados pessoais.

A história do crescimento das empresas de tecnologia duas décadas atrás serve como um conto de advertência sobre como devemos pensar sobre a expansão da IA ​​generativa. Mas a história também tem lições sobre como lidar com a disrupção tecnológica para o benefício de todos. Enfrentando o escrutínio antitruste no final dos anos 1960, a titã da computação IBM desvinculou o software de seus sistemas de hardware, catalisando a ascensão da indústria de software americana e criando trilhões de dólares de crescimento. A ação do governo exigiu que a AT&T abrisse seu cofre de patentes e, da mesma forma, desencadeou décadas de inovação e estimulou a expansão de inúmeras empresas jovens.

O compromisso nacional de longa data dos Estados Unidos em promover uma competição justa e aberta tem sido uma parte essencial do que tornou esta nação uma potência econômica e um laboratório de inovação. Mais uma vez nos encontramos em um ponto de decisão importante. Podemos continuar a ser o lar da tecnologia líder mundial sem aceitar modelos de negócios de corrida para o fundo e controle monopolista que bloqueiam produtos de maior qualidade ou a próxima grande ideia? Sim — se fizermos as escolhas políticas certas.