Os Princípios de IA da OCDE são um conjunto de diretrizes internacionais para o desenvolvimento e uso responsável de inteligência artificial. Adoptados pelos países membros da Organização para a Cooperação e o Desenvolvimento Económico (OCDE) em maio de 2019, foram o primeiro padrão intergovernamental sobre IA. Os princípios visam promover uma IA inovadora e confiable que respeite os direitos humanos e os valores democráticos, fornecendo uma estrutura para que governos e organizações desenvolvam políticas e práticas em torno dos sistemas de IA.
Os princípios foram desenvolvidos através de um processo de múltiples partes interessadas que envolveu expertos de governos, academia, empresas e sociedade civil. Complementam os padrões existentes da OCDE e influenciaram iniciativas internacionais subsequentes, incluindo os Princípios de IA do G20 adoptados em junho de 2019. A OCDE também estabeleceu um Observatório de Políticas de IA para ajudar os países a implementar os princípios e compartilhar boas práticas.
Valores Fundamentais e Princípios
Os Princípios de IA da OCDE baseiam-se em cinco princípios complementares baseados em valores. O primeiro é que a IA deve beneficiar as pessoas e o planeta, impulsionando o crescimento inclusivo, o desenvolvimento sustentável e o bem-estar. O segundo princípio enfatiza que os sistemas de IA devem ser projetados de forma que respeitem o estado de direito, os direitos humanos, os valores democráticos e a diversidade, incluindo salvaguardas apropriadas para garantir uma sociedade justa e equitativa.
O terceiro princípio exige transparencia e divulgación responsável em torno dos sistemas de IA, garantizando que as pessoas entendam quando estão interagindo com IA e possam contestar os resultados. O quarto princípio foca-se na robustez, segurança e proteção, exigindo que os sistemas de IA funcionem de forma confiable e que os riscos sejam avaliados e geridos continuamente. O quinto princípio responsabiliza organizações e indivíduos pelo funcionamento adequado dos sistemas de IA, de acordo com seus papéis e normas aplicáveis.
Implementação e Políticas Nacionais
Para traduzir estes princípios em prática, a OCDE emitiu cinco recomendações para os governos. Estas incluyen investir em pesquisa e desenvolvimento de IA, fomentar um ecossistema digital para IA, moldear um ambiente político propício, construir capacidade humana e preparar-se para a transformação do mercado de trabalho, e promover a cooperação internacional para uma IA confiable.
Muitos países têm usado os princípios como base para suas estratégias nacionais de IA. Por exemplo, as Diretrices de Ética para IA Confiable da União Europeia, publicadas em abril de 2019, alinean-se estrechamente com o marco da OCDE. De forma similar, estratégias nacionais em países como Japón, Corea del Sur e Canadá referenciam os princípios da OCDE como padrões orientadores para suas próprias abordagens de governança da IA.
O Observatório de Políticas de IA da OCDE
Em fevereiro de 2020, a OCDE lançou o Observatório de Políticas de IA, uma plataforma online que fornece análise baseada em evidências e dados sobre políticas de IA. O observatório rastrea a implementação dos princípios nos países membros, oferecendo uma base de datos completa de iniciativas nacionais de IA, documentos de políticas e tendências. Serve como recurso para formuladores de políticas, pesquisadores e o público para entender como a governança da IA está evoluindo globalmente.
O observatório também publica os Informes de Políticas de IA da OCDE, que analizan aspectos específicos da governança da IA, como o uso da IA no setor público, a IA e o meio ambiente, e o impacto da IA na produtividade. Estes informes ajudan os países a identificar lacunas e oportunidades em seus marcos de políticas, fomentando a melhora contínua e o diálogo internacional.
Influência e Impacto Global
Os Princípios de IA da OCDE tiveram uma influência significativa na governança global da IA. Foron a base dos Princípios de IA do G20, que estenderon o marco aos membros não-OCDE do G20, incluindo China e India. Os princípios também informaron o trabalho do Conselho da Europa sobre IA e direitos humanos, e a Recomendação da UNESCO sobre Ética da IA, adoptada em novembro de 2021.
No setor privado, os princípios guiaron os marcos de ética de IA corporativos. Empresas como Google DeepMind, OpenAI e Anthropic publicaron suas próprias diretrices de segurança e ética de IA que ecoan o ênfase da OCDE na transparencia, robustez e responsabilidade. Os princípios também foron referenciados na literatura académica e por organizações da sociedade civil como um referente para o desenvolvimento responsável da IA.
Desafíos e Direções Futuras
A pesar de sua adopción generalizada, os Princípios de IA da OCDE enfrentan desafíos na implementación. Son não vinculantes, dependendo da conformidade voluntária dos países membros. O ritmo rápido do desenvolvimento da IA, incluindo avanços em modelos de linguagem de grande escala e IA generativa, plantea novas preguntas sobre responsabilidade e segurança que os princípios originais podem não abordar completamente. A partir de 2024, a OCDE tem estado atualizando suas orientações para abordar estas questões emergentes, incluindo o despliegue de IA em infraestructura crítica e o uso de IA em procesos democráticos.
Outro desafío é garantir que os princípios sejam aplicados de forma consistente em diferentes contextos legales e culturais. A OCDE fomenta a cooperação internacional e o diálogo para harmonizar abordagens, mas diferenças nas leyes de proteção de datos, mercados de trabalho e valores sociais podem levar a interpretações divergentes. O futuro dos princípios provavelmente envolverá refinamento iterativo e participação expandida de países não membros e partes interessadas.