Guia essencial sobre listas de materiais de IA (AIBOMs)

James Govenor afirma que a abordagem You Only Live Once (YOLO) por trás do ChatGPT, da OpenAI, “não vai oferecer aos usuários finais a confiança necessária para adotar modelos de IA em iniciativas estratégicas.” 

Em outras palavras: se você quer que sua ferramenta baseada em IA seja confiável, dê suporte a ela com uma lista de materiais de IA (AIBOM).  

Hoje, a IA e o aprendizado de máquina (ML) atendem a muitos casos de uso práticos — como assistentes de voz, assistentes de programação, chatbots de atendimento ao cliente, ferramentas de escrita etc. — todos criados para simplificar o dia a dia. No entanto, essa adoção generalizada acontece, em grande parte, sem mecanismos de proteção. A necessidade de mais segurança, transparência e rastreabilidade na IA é justamente o que torna essencial desenvolver AIBOMs.  

Neste guia, você vai descobrir o que é uma AIBOM e quais são os benefícios de implementá-la. Além disso, vai conhecer oito dicas práticas para criar uma AIBOM e proteger seu modelo diante de futuras mudanças regulatórias.

O que é uma AIBOM?

Uma AIBOM é uma lista abrangente de todos os modelos de IA, ferramentas e dados usados em um aplicativo de software. Ela viabiliza a governança e a adoção responsável da IA. Essa lista pode incluir os pipelines de dados, os modelos, os procedimentos de treinamento e o desempenho operacional de um sistema de IA.

As AIBOMs aumentam a transparência, a responsabilização e a governança dos sistemas de IA ao criar um inventário detalhado de seus componentes e do processo de desenvolvimento.

Pense em uma AIBOM como um mapa ou esquema que registra todos os componentes individuais que formam seu sistema de IA. Entre eles, podem estar: 

• A arquitetura relacionada aos dados de treinamento do seu modelo

• Os tipos de entradas e saídas permitidos

• Os usos previstos para o modelo e possíveis áreas de risco ou uso indevido

• As implicações ambientais ou éticas do modelo

• O nome, a versão, o tipo e o criador do modelo

Além disso, uma AIBOM exige uma declaração de autenticidade do criador do modelo. 

AIBOMs e SBOMs

Você tem razão se está pensando que uma AIBOM parece muito com uma lista de materiais de software (SBOM). 

As duas seguem o mesmo conceito, mas as SBOMs são específicas para software, enquanto as AIBOMs são específicas para modelos de IA. Assim, embora as SBOMs abordem os motivos e princípios gerais por trás do software, um esquema de SBOM é semelhante a um esquema de AIBOM. Em alguns casos, um esquema de SBOM pode servir de referência para criar uma AIBOM. 

Benefícios das AIBOMs

Em essência, uma AIBOM permite que o público em geral tome decisões bem informadas sobre sistemas de IA.

• Transparência. As AIBOMs esclarecem as fontes de dados, as ferramentas, os métodos logísticos, o hardware e todos os outros elementos que permitem o funcionamento correto de um sistema de IA.  

• Reprodutibilidade. Como qualquer outra lista de materiais, uma AIBOM deve fornecer informações suficientes para que outras pessoas possam recriar o sistema de IA e obter resultados semelhantes. 

• Responsabilização. Uma AIBOM oferece transparência, permitindo que outras pessoas conheçam a origem e as métricas do seu sistema de IA.

IA responsável. As informações de uma AIBOM também abordam possíveis questões éticas, incluindo dados de treinamento que permitem avaliar vieses e limitações de forma responsável.

AIBOMs para segurança e confiança

Uma AIBOM é essencial para proteger os dados dos usuários e ajudar setores regulamentados a cumprir exigências legais em áreas como cibersegurança, privacidade de dados e direitos autorais. 

No início, o público em geral via a IA generativa como uma novidade, e ela ainda é usada, em grande parte, sem regulamentação. Como resultado, órgãos reguladores correm para lidar adequadamente com questões de privacidade e segurança.

Governos do mundo todo também começam a perceber que a IA veio para ficar e que as regulamentações precisam acompanhar a demanda crescente. Em outubro de 2023, o presidente dos EUA, Joe Biden, publicou uma abrangente ordem executiva (EO, na sigla em inglês) para aumentar a responsabilização dos modelos de IA de ponta. 

Na ordem executiva, o presidente Biden determina que órgãos do governo dos EUA estabeleçam áreas específicas de regulamentação no ano seguinte. Embora não tenha força de lei, a ordem vai orientar as prioridades dos órgãos reguladores e servir de referência para futuras leis sobre IA. 

O espectro das AIBOMs

Dada a amplitude dos algoritmos de IA e a rapidez com que eles mudam, há alguns desafios que você precisa considerar antes de criar uma AIBOM:

• Abrangência: dependendo da complexidade do seu modelo de IA, avalie as necessidades do seu inventário — você pode optar por compartilhar um inventário básico ou uma documentação mais completa.  

• Necessidades de privacidade e segurança: considere as implicações éticas do seu modelo de IA e avalie a necessidade de ser transparente em relação à proteção da sua propriedade intelectual. 

• Licenciamento: avalie se o seu modelo de IA deve usar código aberto ou licenças proprietárias para facilitar a otimização do modelo e o registro das alterações.

Padronização: ao criar qualquer lista de materiais, o objetivo é oferecer um esquema fácil de acompanhar. Como as AIBOMs são um conceito recente, seu trabalho agora pode ajudar a orientar a padronização de futuros modelos de AIBOM.    

Oito dicas práticas para criar uma AIBOM

Uma AIBOM bem elaborada é essencial para reduzir riscos, manter a conformidade e dar transparência à composição do seu aplicativo de IA. Se você está pronto para criar sua própria AIBOM, confira estas oito dicas para começar: 

1. Comece com um inventário. O primeiro passo para criar qualquer lista de materiais é fazer um inventário básico dos componentes essenciais dos seus sistemas de IA. Eles podem incluir: 

   1. Dados de treinamento

   2. Fontes de dados

   3. Modelos

   4. Frameworks de software, como PyTorch ou TensorFlow

   5. Hardware

   6. Dependências

   7. Gerenciadores de pacotes, como LangChain

2. Identifique riscos e limitações. Transparência é fundamental. Por isso, é essencial documentar problemas conhecidos, vieses, considerações éticas e quaisquer outros fatores limitantes relacionados aos dados ou ao design dos seus sistemas de IA.

3. Formalize a linhagem do modelo. À medida que seu modelo evolui, mantenha registros claros. Isso permite que outras pessoas rastreiem a origem e a evolução dos seus modelos de IA e registrem as versões, os novos treinamentos e quaisquer modificações.

4. Avalie frameworks. As AIBOMs ainda são uma novidade. Sempre que possível, analise AIBOMs existentes antes de criar a sua. Assim, você pode descobrir se algum framework de AIBOM já atende às suas necessidades. Ao criar a sua própria, você também contribui para desenvolver padrões que outras pessoas poderão seguir.

5. Automatize a coleta. Integre a geração de AIBOMs aos pipelines de criação e implantação dos seus modelos para ganhar eficiência.

6. Adote de forma seletiva. Identifique os modelos prioritários ou de alto risco nos quais concentrar os esforços iniciais com AIBOMs para gerar o maior impacto possível na sua ferramenta com IA.

7. Esteja em conformidade com as regulamentações. Em essência, uma AIBOM foi criada para apoiar a conformidade. As regras, leis e regulamentações sobre IA estão sempre mudando. Faça a devida diligência e entenda os requisitos regulatórios aplicáveis aos sistemas de IA do seu setor. Considere também a localização geográfica de cada parte do sistema de IA para garantir a conformidade com as regulamentações pertinentes a cada região. Isso inclui onde os dados de treinamento são obtidos, onde a infraestrutura está hospedada e onde o modelo está disponível para uso.

8. Melhore a reprodutibilidade. Forneça os scripts, os pesos do modelo e os detalhes de configuração necessários para que outras pessoas possam reconstruir seus modelos e obter resultados semelhantes.

Como a Snyk ajuda com listas de materiais

É essencial considerar as implicações éticas, ambientais e sociais de qualquer avanço tecnológico, inclusive da IA. AIBOMs bem elaboradas permitem uma adoção de IA mais bem informada.

A Snyk sempre apoiou os princípios das SBOMs, semelhantes aos das AIBOMs: transparência, mais conformidade e segurança. Para gerar uma SBOM com a Snyk, comece pela linha de comando do Snyk Open Source ou use nossa API. A Snyk pode analisar todo o seu aplicativo e fornecer SBOMs nos formatos CycloneDX e SPDX, facilitando o consumo dos dados.

Na Snyk, entendemos a importância da segurança, da governança e da confiança. Crie uma conta gratuita na Snyk e dê o primeiro passo para incorporar protocolos de segurança diretamente ao seu processo de desenvolvimento de software. Ou agende uma demonstração ao vivo para saber como adaptar a Snyk às suas necessidades.