Como os casos de uso de IA generativa têm uma adaptação explosiva, a China assumiu um papel de liderança na definição de como a tecnologia em rápida mudança deve ser usada, incluindo um regime de licenciamento para provedores de serviços.
Na quinta-feira, o principal regulador do ciberespaço da China revelado um conjunto de regras provisórias para governar serviços de IA generativos, incluindo provedores de API, que atendem usuários baseados na China.
A questão então é se a resposta rápida da China para controlar a IA generativa e suas regras rígidas sufocarão a inovação. Os decisores políticos estão bem cientes da preocupação, sublinhando no documento que as regras visam “equilibrar desenvolvimento e segurança”.
Em primeiro lugar, as regras exigem que os provedores de IA generativa adiram aos valores socialistas centrais, que proíbem tudo, desde pornografia e terrorismo até racismo e conteúdo que ameace a segurança nacional da China.
Algoritmos que podem influenciar a opinião pública, dizem as regras, devem ser registrados junto à autoridade competente. Os provedores de serviços de IA generativa também devem obter uma licença administrativa de acordo com a lei, embora o documento não especifique quem é obrigado a fazer isso.
Quando se trata de proteção do usuário, as regras estipulam que os algoritmos não devem ser discriminatórios com base em fatores como etnia, sexo, idade, ocupação ou saúde, e não devem ser usados para comportamento anticompetitivo. Os provedores de serviços são incentivados a criar um sistema anti-vício para usuários menores de idade, semelhante aos usados em videogames.
Os provedores de serviços são responsáveis por identificar e interromper o processo gerador de conteúdo ilegal e, posteriormente, corrigir os algoritmos e relatar o incidente à autoridade competente. Isso significa que as solicitações em um gerador de imagens ou chatbot podem levar a problemas legais para os indivíduos.
Além disso, os reguladores têm o direito de conhecer as especificidades de um modelo de IA generativa, incluindo seus dados de treinamento, tamanho, tipo, regras de marcação e algoritmos.
Por fim, o desenvolvimento da IA na China tem sido um esforço de cima para baixo. O documento pede a criação de uma plataforma de treinamento de dados públicos e o compartilhamento do poder de computação. Regras concretas já foram propostas em Pequim para uma plataforma centralizada apoiada pelo estado que aloca recursos de nuvem pública com base nas necessidades do cliente
Assim como em outras indústrias críticas, a China está pedindo “inovação autossuficiente” em algoritmos, estruturas, chips, plataformas de software e outras infraestruturas de IA, ao mesmo tempo em que incentiva a cooperação internacional “igual e mutuamente benéfica”.