1. Objetivo
1.1. Este glossário contém a terminologia e conceitos relacionados à Inteligência Artificial (IA). O objetivo do documento é esclarecer o significado desses termos e conceitos complexos para aqueles que são novos no campo da IA ou que estão tentando entender conceitos específicos em maior profundidade. O glossário pode ser usado como um recurso de referência para clientes, empregados em geral, empregados com interesse no tema e profissionais que trabalham com IA.
1.2. As definições constantes deste documento são listadas a seguir:
| Termo | Definição | |
|---|---|---|
| ACCOUNTABILITY | Ato de responsabilizar-se pelas consequências de suas ações e decisões, respondendo pelos seus impactos na sociedade, na economia e no meio ambiente, prestando contas aos órgãos de governança e demais partes interessadas declarando os seus erros e as medidas cabíveis para remediá-los. | |
| ACURÁCIA | Refere-se a quão próximo da realidade são os resultados encontrados de forma automatizada ou com soluções de IA. Refere-se a uma métrica de avaliação de modelos supervisionados de classificação, sendo definida como a fração de acertos frente a uma base de referência corretamente rotulada. | |
| AGENTES DE IA | Agentes de desenvolvimento e operação respondem legalmente pelas decisões tomadas por um sistema de inteligência artificial, assegurando que os dados utilizados estão em conformidade com leis, regulamentos e a garantia de privacidade e proteção de dados durante todo o ciclo de vida do sistema de IA. Agente de Desenvolvimento é aquele que desenvolve e implanta um sistema de IA e Agente de Operação o que opera um sistema de IA. | |
| RELATÓRIO DE IMPACTO DE IA | Um documento elaborado pelos agentes de IA com a descrição da tecnologia e medidas de gerenciamento e contenção de riscos. | |
| ALGORITMO | Conjunto de rotinas automatizadas que seguem um procedimento pré-estabelecido, ordenado e finito, inserido em um programa de computador. | |
| ALGORITMOS INTELIGENTES | Algoritmo inteligente, ou de inteligência artificial, é todo algoritmo (vide definição de algoritmo) cujo processo de decisão é baseado em estruturas de aprendizado, ou seja, algoritmos que não são explicitamente programados para a realização de uma ação ou tarefa, a qual deverá aprender a realizar. | |
| ALGORITMOS GENÉTICOS | Técnica baseada na Teoria da Evolução para a solução de problemas de otimização combinatorial. Cabe ressaltar que existem diversas outras técnicas, tais como algoritmos genéticos, programação genética, estratégias evolucionárias, algoritmos coevolucionários, ant-colony optimization, particle-swarm optimization, etc. | |
| AUDITABILIDADE | Capacidade de qualquer entidade, ou de determinada atividade, prestar contas que sejam capazes de demonstrar a boa e regular aplicação dos recursos públicos por ele administrados, com vistas a possibilitar que seja obtida evidências de auditoria apropriadas e suficientes, a fim de suportar a emissão de opinião sobre o objeto auditado, dado um nível de risco de auditoria aceitável. | |
| AVALIAÇÃO DE IMPACTO ALGORÍTMICO | Relatório que busca analisar as repercussões que o sistema de IA terá sobre as pessoas, isto é, os efeitos sociais a partir de sua aplicação. Dentre os tópicos que podem ser objetivo da avaliação estão riscos, benefícios, pessoas impactadas, consequências adversas, funcionamento interno do sistema, testes realizados, medidas para tratar riscos, medidas de transparência e nível de capacitação da equipe. Sistemas considerado de alto risco, tem obrigatoriedade de realizar este tipo de avaliação. | |
| BASE DE TREINO | Conjunto de dados utilizados por um algoritmo de treinamento para criar um modelo de Machine Learning. | |
| CHATBOTS | Software capaz de manter uma conversa com um usuário humano em linguagem natural, por meio de aplicativos de mensagens, sites, e outras plataformas digitais. | |
| CICLO DE VIDA DA IA | O ciclo de vida da IA abrange os estágios envolvidos no desenvolvimento e implantação de sistemas de Inteligência Artificial através de um processo iterativo. As fases são compostas por a) design, dados e modelos; b) verificação e validação; c) implantação e d) operação e monitoramento. | |
| COMPUTAÇÃO COGNITIVA | Os avanços que permitem que computadores aprendam, desenvolvam raciocínios e tomem decisões são todos enquadrados sob esse termo. | |
| DATA SCIENCE (CIÊNCIAS DE DADOS) | É uma área interdisciplinar voltada para o estudo e a análise de dados que visa a extração de conhecimento e insights para tomadas de decisão. | |
| DIGNIDADE DA PESSOA HUMANA | Qualidade intrínseca e distintiva atribuída a cada ser humano, ligada à centralidade da pessoa humana, propiciando, por exemplo, o livre desenvolvimento da personalidade, e que implica em direitos e deveres fundamentais, sendo a dignidade da pessoa humana princípio e valor fundamental expressa na Constituição da República Federativa do Brasil (CRFB) e em tratados internacionais. | |
| DIREITOS FUNDAMENTAIS | Conjunto de direitos e de garantias dos cidadãos, reconhecidos pela Constituição da República Federativa do Brasil (CRFB) e por tratados internacionais, com eficácia direta e imediata em relação ao próprio Estado e aos particulares. | |
| DISCRIMINAÇÃO ALGORÍTMICA | Qualquer distinção, exclusão, restrição ou preferência realizada por algoritmo, em qualquer área da vida pública ou privada, cujo propósito ou efeito seja anular ou restringir o reconhecimento, gozo ou exercício, em condições de igualdade, de um ou mais direitos ou liberdades previstos no ordenamento jurídico, em razão de características pessoais como origem geográfica, raça, cor ou etnia, gênero, orientação sexual, classe socioeconômica, idade, deficiência, religião ou opiniões políticas. | |
| DISCRIMINAÇÃO INDIRETA | Discriminação que ocorre quando normativa, prática ou critério aparentemente neutro tem a capacidade de acarretar desvantagem para pessoas pertencentes a um grupo específico, ou as coloquem em desvantagem, a menos que essa normativa, prática ou critério tenha algum objetivo ou justificativa razoável e legítima à luz do direito à igualdade e dos demais direitos fundamentais. | |
| ÉTICA | Ramo do conhecimento ou teoria que investiga as razões para considerar algo como correto. Ética são diretrizes de conduta que ajudam as pessoas a fazerem um julgamento sobre o que é certo ou errado. Valores morais e éticos podem ser diferentes de acordo com grupos de pessoas, regiões ou países. (Ex. Um sistema pode ser ético ou antiético no sentido de que carrega disposições de valor para atender à criação de valor positivo ou proibição de valor negativo.) | |
| ÉTICA BY DESIGN | Abordagem usada para garantir que os requisitos éticos sejam devidamente tratados durante cada etapa do desenvolvimento do sistema de IA. | |
| REQUISITOS ÉTICOS EM IA | São condições que devem ser atendidas para que o sistema de IA atinja seus objetivos de forma ética. Podem ser instanciados de várias maneiras: por meio de funcionalidade, nas estruturas de dados, no processo pelo qual o sistema é construído, com salvaguardas organizacionais etc. | |
| VALORES ÉTICOS | É o valor no contexto da cultura humana que apoia um julgamento sobre o que é certo ou errado. | |
| ÉTICA DE DADOS | É um ramo emergente da ética aplicada que estuda e avalia problemas morais e descreve os julgamentos de valor relacionados a dados (incluindo geração, registro, curadoria, processamento, disseminação, compartilhamento e uso), algoritmos (incluindo inteligência artificial, agentes artificiais, aprendizado e robôs) e práticas correspondentes (incluindo inovação responsável, programação e códigos profissionais), a fim de formular e apoiar soluções moralmente boas (por exemplo, condutas corretas ou valores corretos). | |
| EXPLICABILIDADE | No contexto de sistemas de IA, está relacionada à capacidade que esses sistemas têm de prover explicações racionais para suas saídas e decisões. Nem sempre é requisito imposto e pode ter diversos níveis, dependendo do contexto de negócio. | |
| FORNECEDOR DE SISTEMA DE INTELIGÊNCIA ARTIFICIAL | Pessoa natural ou jurídica, de natureza pública ou privada, que desenvolva um sistema de inteligência artificial, diretamente ou por encomenda, com vistas à sua colocação no mercado ou à sua aplicação em serviço por ela fornecido, sob seu próprio nome ou marca, a título oneroso ou gratuito. | |
| GOVERNANÇA DE DADOS | Exercício de autoridade, controle e poder decisório sobre as demais funções de gestão de dados. O propósito da governança de dados é assegurar que os dados estão gerenciados adequadamente de acordo com as políticas e melhores práticas. | |
| GOVERNANÇA DE INTELIGÊNCIA ARTIFICIAL | A governança de IA considera aspectos jurídicos e técnicos. Prioriza a responsabilização, transparência e garantias técnicas. A escolha da abordagem de governança pode basear-se em fatores tais como a natureza do algoritmo, o contexto em que ele existe e análise de risco. | |
| INTELIGIBILIDADE | Capacidade do produto de software de possibilitar ao usuário compreender se o software é apropriado e como ele pode ser usado para tarefas e condições de uso específicas. | |
| INTELIGÊNCIA ARTIFICIAL | É o conjunto de tecnologias que possuem propriedades que exigem inteligência, por vezes simulando características humanas, como conhecimento, raciocínio, resolução de problemas, percepção, aprendizado e planejamento. Dependendo do modelo de IA, produz uma saída ou decisão (como uma previsão, recomendação e/ou classificação). As tecnologias de IA dependem de algoritmos de IA para gerar modelos. | |
| INTELIGÊNCIA ARTIFICIAL RESPONSÁVEL | Um conceito que representa uma mudança de paradigma na forma de enxergar a IA. Em vez de apenas pensar no desempenho de um modelo, os profissionais devem pensar também no compromisso ético e nas implicações desses sistemas em um contexto real, prático. (Também: Desenvolvimento, implantação e uso responsável da inteligência artificial através da observação da a) legislação; b) ética; c) transparência e d) governança de ia, além dos princípios existentes). | |
| MACHINE LEARNING (Aprendizado de Máquina) | É um ramo da inteligência artificial que estuda e desenvolve métodos de aprendizado em sistemas inteligentes baseados em dados (ou experiências) para melhoria do desempenho, baseado na ideia de que sistemas podem aprender com dados e tomar decisões com o mínimo de intervenção humana. | |
| MATRIZ DE CONFUSÃO | Tabela onde facilmente identificamos todos os quatro tipos de classificação do modelo de classificação binária. | |
| MODELO DE IA | Representação lógica ou matemática da estrutura de aprendizado e decisão que implementa o sistema de inteligência artificial, entidade, processo ou dados. | |
| MODELO DE IA OPACO | Modelo matemático, oriundo de um sistema de IA, que não é interpretável e possui baixa ou nenhuma explicabilidade. Ex: Modelos de redes neurais profundas. | |
| MODELO DE IA TRANSPARENTE | Modelo matemático, oriundo de um sistema de IA, que é interpretável por si só ou foram adotadas medidas de explicabilidade. | |
| NÍVEIS DE TRANSPARÊNCIA | São definidos tanto para proteger a propriedade intelectual dos softwares quanto para definir informações que as partes interessadas devem ter acesso. Devem ser diretamente proporcionais aos riscos que oferecem, mas também de acordo com o conhecimento técnico do destinatário da informação. | |
| ON-PREMISES | Um servidor on-premise é aquele em que a própria empresa tem a responsabilidade de processar suas aplicações de hardware e software. | |
| OPERADOR DE SISTEMA DE INTELIGÊNCIA ARTIFICIAL | Pessoa natural ou jurídica, de natureza pública ou privada, que empregue ou utilize, em seu nome ou benefício, sistema de inteligência artificial, salvo se o referido sistema for utilizado no âmbito de uma atividade pessoal de caráter não profissional. | |
| PRINCÍPIOS | Conjunto de diretrizes que devem ser observadas durante o desenvolvimento de um sistema de IA. | |
| PRINCÍPIOS ÉTICOS | Respeito pela Pessoa Humana, Privacidade e governança de dados, Equidade, Bem-estar individual, social e ambiental, Transparência, Responsabilidade e Supervisão. | |
| PADRÕES ÉTICOS PARA IA | Criação de conselhos, comitês ou força-tarefa para elaborar normas e regulamentos para fundamentar o uso ético e o desenvolvimento da IA. | |
| PRINCÍPIOS PARA O DESENVOLVIMENTO, IMPLEMENTAÇÃO E USO DE SISTEMAS DE INTELIGÊNCIA ARTIFICIAL | I – crescimento inclusivo, desenvolvimento sustentável e bem-estar; II – autodeterminação e liberdade de decisão e de escolha; III – participação humana no ciclo da inteligência artificial e supervisão humana efetiva; IV – não discriminação; V – justiça, equidade e inclusão; VI – transparência, explicabilidade, inteligibilidade e auditabilidade; VII – confiabilidade e robustez dos sistemas de inteligência artificial e segurança da informação; VIII – devido processo legal, contestabilidade e contraditório; IX – rastreabilidade das decisões durante o ciclo de vida de sistemas de inteligência artificial como meio de prestação de contas e atribuição de responsabilidades a uma pessoa natural ou jurídica; X – prestação de contas, responsabilização e reparação integral de danos XI – prevenção, precaução e mitigação de riscos sistêmicos derivados de usos intencionais ou não intencionais e efeitos não previstos de sistemas de inteligência artificial; e XII – não maleficência e proporcionalidade entre os métodos empregados e as finalidades determinadas e legítimas dos sistemas de inteligência artificial. | |
| PRINCÍPIOS PARA GESTÃO RESPONSÁVEL DOS SISTEMAS DE IA | • Crescimento inclusivo, desenvolvimento sustentável e bem-estar • Valores centrados no ser humano e na equidade • Transparência e explicabilidade • Robustez, segurança e proteção • Responsabilização ou a prestação de contas (accountability) |
|
| PROCESSAMENTO DE LINGUAGEM NATURAL (PLN) | É um ramo da inteligência artificial que ajuda os computadores a entender, interpretar e manipular a linguagem humana. O PLN se baseia em muitas disciplinas, incluindo ciência da computação e linguística computacional, em sua busca por preencher a gaps entre a comunicação humana e a compreensão do computador. | |
| QUALIDADE DE DADOS | Característica de uma base de dados que reflete o quanto as fontes de dados são confiáveis e atendem ao objetivo proposto para o uso da tecnologia. A identificação de dados enviesados na base, prejudica a qualidade de dados. | |
| REDES NEURAIS | Uma técnica de Aprendizado de Máquina para solucionar problemas através da simulação do funcionamento do cérebro humano, incluindo seu comportamento, ou seja, aprendendo, errando e fazendo descobertas. São técnicas computacionais que apresentam um modelo inspirado na estrutura neural de organismos inteligentes. Podem adquirir conhecimento em tempo de treinamento e, por vezes, através da experiência. | |
| REQUISITOS ÉTICOS | São condições que devem ser atendidas para que o sistema de IA atinja seus objetivos de forma ética. Podem ser instanciados de várias maneiras: por meio de funcionalidade, nas estruturas de dados, no processo pelo qual o sistema é construído, com salvaguardas organizacionais, etc. | |
| ROBUSTEZ | Capacidade do sistema funcionar mesmo em condições anormais. | |
| RESPONSABILIDADE | Obrigação perante a sociedade em geral de respeitar os valores estabelecidos e de agir de acordo com os valores da organização, incluindo responsabilidades legais, éticas, organizacionais e financeiras. Podem ser atribuídas diferentes responsabilidades para cada parte envolvida na definição, construção, implantação e uso do sistema de IA. | |
| RISCOS DE SISTEMAS DE INTELIGÊNCIA ARTIFICIAL | Combinação das consequências que podem seguir após a ocorrência de um evento indesejado e da probabilidade da ocorrência deste em Sistemas de IA. Dentre os riscos mais conhecidos estão preconceito, discriminação ou viés que viole direitos fundamentais da pessoa humana. | |
| SISTEMA DE INTELIGÊNCIA ARTIFICIAL | É um sistema de informação que implementa técnicas de IA. Ou seja, sistema com graus diferentes de autonomia, desenhado para inferir como atingir um dado conjunto de objetivos, utilizando abordagens baseadas em aprendizagem de máquina e/ou lógica e representação do conhecimento, por meio de dados de entrada provenientes de máquinas ou humanos, com o objetivo de produzir previsões, recomendações ou decisões que possam influenciar o ambiente virtual ou real. | |
| INTELIGÊNCIA ARTIFICIAL EXPLICÁVEL | Qualquer ação ou procedimento aplicado em um modelo com a intenção de esclarecer ou detalhar suas funções internas, ou seja, o quanto um humano pode compreender uma decisão tomada por um modelo. | |
| INTELIGÊNCIA ARTIFICIAL INTERPRETÁVEL | Nível em que o resultado de um determinado modelo é previsível por um humano e pode ser caracterizado também pelo quanto este algoritmo é transparente por si só. Exemplo: Modelos de arvore de decisão. | |
| INTELIGÊNCIA ARTIFICIAL RESPONSÁVEL | Desenvolvimento, implantação e uso responsável da inteligência artificial através da observação da a) legislação; b) ética; c) transparência e d) governança de ia, além dos princípios existentes. | |
| TRANSPARÊNCIA | Característica de um modelo, oriundo de um sistema de IA, que é compreensível e possua informações relevantes e úteis ao destinatário. | |
| NÍVEIS DE TRANSPARÊNCIA | São definidos tanto para proteger a propriedade intelectual dos softwares quanto para definir informações que as partes interessadas devem ter acesso. Devem ser diretamente proporcionais aos riscos que oferecem, mas também de acordo com o conhecimento técnico do destinatário da informação. | |
| TIPOS DE TRANSPARÊNCIA | As informações a serem dadas sobre o sistema podem se referir ao próprio emprego da IA nos processos de tomada de decisão (transparência quanto ao uso), como também aos resultados e procedimentos dos sistemas de IA para tomada de decisão (transparência quanto à operação). | |
| TRANSPARÊNCIA QUANTO AO USO | Requer daqueles que empregam o sistema de IA que informem não só que o usuário interage direta ou indiretamente com um sistema de IA ou que estão sujeitos a um processo de tomada de decisão, que é influenciado por um sistema de IA, mas também que indiquem qual o grau de influência da IA no resultado da decisão. | |
| TRANSPARÊNCIA QUANTO À OPERAÇÃO | Composto pela transparência quanto aos dados utilizados para treinamento e transparência quanto ao funcionamento do modelo e suas inferências. | |
| VALORES ÉTICOS SOCIAIS | Transparência, sustentabilidade, privacidade, justiça e responsabilidade. | |
| VIÉS ALGORÍTMICO | Definido como um fenômeno que ocorre quando um sistema de IA impede resultados amplamente inclusivos ou produz resultados inerentemente ou sistematicamente prejudicados devido a suposições errôneas ou omissões no ciclo de vida da IA. Esse viés geralmente é causado por vieses subjacentes no conjunto de dados de treinamento. Vide Discriminação Algorítmica, deste glossário. |
2. Referências
- ABNT. ABNT NBR ISO/IEC 27005. Gestão de Riscos de Segurança da Informação, 2019.
- ANSI/CTA. 2096 - Standard Guidelines for Developing Trusthworthy Artificial Intelligence Systems, 2021.
- ARRIETA, Alejandro Barredo et al. Explainable Artificial Intelligence (XAI): Concepts, taxonomies, opportunities and challenges toward responsible AI. Information Fusion, v. 58, 2020.
- TCU – Tribunal de Contas da União. Acórdão 1174 (2019).
- Comissão Europeia: Regulamento do parlamento europeu e do conselho que estabelece regras harmonizadas em matéria de inteligência artificial (regulamento inteligência artificial) e altera determinados atos legislativos da união, {SEC (2021) 167 final} - {SWD (2021) 84 final} - {SWD (2021) 85 final}
- DONEDA, Danilo; ALMEIDA, Virgílio AF. O que é a governança de algoritmos. Tecnopolíticas da vigilância: Perspectivas da margem, 2018.
- EVEX; ENAP. Regulação da Inteligência Artificial – Benchmarking de Países Selecionados, 2022.
- IEEE. 7000 - IEEE Standard Model Process for Addressing Ethical Concerns during System Design, 2021.
- ISO/IEC 22989, 2022.
- ISO/IEC 9126-1 - Software engineering - Product quality - Part 1: Quality model Descriptors: Software. Quality. Information technology. Evaluation, 2003.
- GOV.UK. A guide to using artificial intelligence in the public sector. Disponível em https://www.gov.uk/government/publications/understanding-artificial-intelligence/a-guide-to-using-artificial-intelligence-in-the-public-sector. 2019. Acesso em março de 2023.
- GUNNING, David; AHA, David. DARPA’s explainable artificial intelligence (XAI) program. AI magazine, v. 40, n. 2, 2019.
- OECD. Recommendation of the Council on Artificial Intelligence. Disponível em https://legalinstruments.oecd.org/en/instruments/OECD-LEGAL-0449. 2019. Acesso em: março de 2023.
- SENADO FEDERAL. Relatório Final da Comissão de Juristas responsável por subsidiar a elaboração de substitutivo sobre Inteligência Artificial. 2022, p. 19.
- STAIR, Ralph M.; REYNOLDS, George W. Princípios de Sistemas de Informação. São Paulo: Thomson, 2006.
- Stuart RUSSELL, Peter NORVIG; tradução Regina Célia Simille. – Rio de Janeiro: Elsevier, 2013. Tradução de: Artificial intelligence, 3rd ed.