A inteligência artificial (IA) está a transformar todos os aspectos das nossas vidas. Influencia a forma como trabalhamos e nos divertimos.

Promete ajudar a resolver desafios globais como as alterações climáticas e o acesso a cuidados médicos de qualidade. No entanto, a IA também traz desafios reais para os governos e os cidadãos, desde a geração de desinformação e desinformação até deepfakes e alucinações, tornando difícil diferenciar entre o que é verdadeiro e o que não é.

À medida que a IA permeia as economias e as sociedades, que tipo de quadros políticos e institucionais devem orientar a sua concessão e utilização e como podemos garantir que beneficia a sociedade no seu conjunto?

Foi com estas questões em mente que a OCDE trabalha desde 2016 para implementar recomendações ou princípios sobre IA.

Nessa linha, para acompanhar os progressos na implementação dos Princípios de IA da OCDE, a OCDE desenvolveu o OECD.AI Policy Observatory [Observatório de Políticas de IA da OCDE], um hub central para dados, análises e relatórios de IA em tempo real ou quase real, que se tornaram recursos oficiais para muitas decisões. Hoje, o OCDE documenta mais de 1.000 iniciativas de IA em quase 70 jurisdições.

Paralelamente a isto, a OCDE instituiu o Grupo de Trabalho sobre a Governança da IA que revê as recomendações/princípios emitidos para se certificar de que elas permanecem relevantes, atualizadas e de acordo com a inovação acelerada da IA.

Por fim, a OCDE também criou a OCDE.AI Network of experts, uma rede de peritos experts, composta por mais de 350 dos principais especialistas em IA a nível mundial — para ajudar a explorar a sua inteligência coletiva para informar a análise política. Esta rede está organizada em seis grupos temáticos:

1. Futuros da IA;
2. Riscos e responsabilidade da IA;
3. Incidentes de IA;
4. Índice de IA;
5. IA, Dados e privacidade; e
6. Computação e clima

Em 21 de maio de 2019, os Estados-Membros da OCDE adotaram a recomendação do Conselho Ministerial da OCDE sobre IA. Essa recomendação do Conselho inclui os dez princípios de IA da OCDE e contém definições que sustentam e incentivam a interoperabilidade internacional. As definições da recomendação de um sistema de IA e do seu ciclo de vida são utilizadas em todo o mundo, incluindo Chile, Japão, Nova Zelândia, Estados Unidos, dentre outros.

Os dez princípios de IA da OCDE, inicialmente adotados em 2019 e atualizados em maio de 2024, são:

1. Crescimento inclusivo, desenvolvimento sustentável e bem-estar
2. Valores centrados no ser humano e equidade;
3. Transparência e “explicabilidade”;
4. Robustez, segurança e proteção;
5. Responsabilidade;
6. Investir na investigação e desenvolvimento da IA;
7. Promover um ecossistema digital para a IA;
8. Criar um ambiente político favorável à IA;
9. Reforçar as capacidades humanas e preparar a transformação do mercado de trabalho;
10. Cooperação internacional para uma IA confiável.

Nas palavras do secretário-geral da OCDE, Mathias Cormann, “os Princípios de IA da OCDE são um ponto de referência mundial para a elaboração de políticas em matéria de IA facilitando a interoperabilidade das políticas a nível mundial e promovendo a inovação com os seres humanos no centro”.

Tais princípios orientam os atores da IA nos seus esforços para desenvolver uma IA confiável e fornecem aos reguladores recomendações para políticas eficazes de IA. Os países usam os princípios da OCDE e ferramentas relacionadas para moldar políticas e criar estruturas de risco de IA construindo uma base para a interoperabilidade global entre jurisdições.

Atualmente, a União Europeia, o Conselho da Europa, os Estados Unidos, as Nações Unidas e outras jurisdições utilizam a definição de sistema de IA da OCDE e o ciclo de vida abaixo indicado nos seus quadros legislativos e regulamentares e nas suas orientações. Os princípios, a definição e o ciclo de vida fazem todos parte da recomendação da OCDE sobre inteligência artificial.

O Brasil se comprometeu “indiretamente” com os Princípios da IA da OCDE. Isto porque não aderiu diretamente, mas, como membro do G-20, comprometeu-se com os princípios do G-20 sobre IA que, por sua vez, foram inspirados nos Princípios da OCDE.

A atualização da 1ª norma intergovernamental sobre IA do mundo

No dia 2 de maio de 2024, na última reunião de seu Conselho Ministerial, a OCDE adotou as revisões propostas a seus princípios sobre inteligência artificial (IA).

Spacca
Com esta atualização, os Princípios de IA da OCDE fornecerão um modelo para a interoperabilidade global da política de IA e para que as decisões políticas acompanhem o ritmo da tecnologia, abordando a IA de uso geral e generativa e os seus efeitos nas nossas economias e sociedades.

Com 47 aderentes, incluindo o bloco europeu [que recentemente publicou a Lei de Inteligência Artificial da UE], e uma amplitude que se estende à aplicabilidade aos desenvolvimentos da IA em todo o mundo, os Princípios da IA da OCDE fornecem um modelo para os quadros políticos sobre a forma de abordar os riscos da IA e moldar as políticas de IA.

Neste contexto, os Princípios da OCDE sobre IA são a primeira norma intergovernamental sobre inteligência artificial, que busca respeitar os direitos humanos e os valores democráticos.

O crescimento de IA desde os princípios originários da OCDE
Desde que os Princípios da OCDE foram adotados pela primeira vez em 2019, o Observatório de Políticas de IA da OCDE mostra que:

• os investimentos de capital de risco em startups de IA generativa aumentaram nove vezes,
  a procura de competências de IA disparou 130% e
  a percentagem de grandes empresas que utilizam IA, em média na OCDE, quase duplicou para mais de quatro vezes as suas congéneres menores.
• Este crescimento no desenvolvimento de IA coincide com uma atenção significativa e uma escalada de ações políticas, evidenciadas por mais de 1 000 iniciativas em mais de 70 países e jurisdições.

Uma resposta aos recentes desenvolvimentos de IA
Não há dúvidas de que é imperativo desenvolver e implantar sistemas de IA para aumentar a produtividade, acelerar a investigação científica, promover a sustentabilidade ambiental e melhorar os cuidados de saúde e a educação, defendendo simultaneamente os direitos humanos e os valores democráticos.

No entanto, do mesmo modo que os benefícios da inteligência artificial nos surpreendem, também os riscos para a privacidade, a segurança, a equidade e o bem-estar surgem a uma velocidade e escala sem precedentes, transformando-se em danos reais, como a perpetuação de preconceitos e discriminação, a criação e divulgação de informações erradas e a distorção do discurso público e dos mercados.

Por isso, ao atualizar seus princípios sobre IA, a OCDE busca dar um resposta aos recentes desenvolvimentos nas tecnologias de IA, principalmente ao aparecimento da IA generativa e de uso geral.

Dessa forma, os princípios atualizados da OCDE sobre IA abordam mais diretamente os desafios associados à IA que envolvem a privacidade, os direitos de propriedade intelectual, a segurança e a integridade da informação.

Principais elementos da atualização da OCDE
Os principais elementos da revisão da OCDE, que garantem que os Princípios sobre IA permanecem relevantes, sólidos e adequados à sua finalidade, incluem:

• questões de segurança: se os sistemas de IA correrem o risco de causar danos indevidos ou apresentarem um comportamento indesejado, mecanismos e salvaguardas sólidas são necessárias para os anular, reparar e/ou desativar em prol da segurança;
• o combate à desinformação e a salvaguarda da integridade da informação no contexto da IA generativa
  conduta empresarial responsável ao longo do ciclo de vida do sistema de IA: o que envolve a cooperação com fornecedores de conhecimentos e recursos de IA, utilizadores de sistemas de IA e outras partes interessadas;
  transparência e divulgação responsável das informações relativas aos sistemas de IA;
  a sustentabilidade ambiental: uma preocupação que cresceu consideravelmente em importância nos últimos cinco anos.
• Além disso, alguns dos títulos dos princípios e recomendações originários da OCDE sobre IA foram ampliados para maior clareza, e o texto sobre rastreabilidade e gestão de riscos foi mais elaborado e transferido para o princípio da “responsabilidade” por ser o princípio mais adequado para estes conceitos.

Próximos passos
Agora, o Comité de Política Digital da OCDE, através do seu Grupo de Trabalho sobre a Governança da IA, prosseguirá seu trabalho com base nas recém-aprovadas recomendações de atualização dos princípios sobre IA.

O texto completo dos Princípios da OCDE sobre IA precisará ser confirmado pelos respectivos Parlamentos, antes da adoção formal pelos países integrantes da OCDE.

Fonte: Conjur