A IA responsável lhe dará uma vantagem competitiva

Não há dúvidas de que a IA está a mudar o cenário empresarial e a proporcionar vantagens competitivas àqueles que a adotam. É tempo, no entanto, de ir além da simples implementação da IA ​​e de garantir que a IA é aplicada de forma segura e ética. Isso é chamado AI responsável e servirá não apenas como proteção contra consequências negativas, mas também como uma vantagem competitiva por si só.

O que é IA responsável?

A IA responsável é uma estrutura de governança que cobre questões éticas, legais, de segurança, privacidade e responsabilidade. Embora a implementação de IA responsável varie de acordo com a empresa, a necessidade dela é clara. Sem práticas responsáveis ​​de IA, uma empresa fica exposta a sérios riscos financeiros, de reputação e legais. Do lado positivo, as práticas responsáveis ​​de IA estão a tornar-se pré-requisitos para a licitação de determinados contratos, especialmente quando os governos estão envolvidos; uma estratégia bem executada ajudará muito na conquista dessas licitações. Além disso, adotar uma IA responsável pode contribuir para um ganho de reputação para a empresa em geral.

Valores por design

Grande parte do problema da implementação de IA responsável se resume à previsão. Esta previsão é a capacidade de prever quais problemas éticos ou legais um sistema de IA poderia ter durante o seu ciclo de vida de desenvolvimento e implantação. No momento, a maioria das considerações responsáveis ​​sobre IA acontecem depois que um produto de IA é desenvolvido – uma forma muito ineficaz de implementar IA. Se quiser proteger sua empresa contra riscos financeiros, jurídicos e de reputação, você deve iniciar projetos tendo em mente uma IA responsável. Sua empresa precisa ter valores desde o design, e não por aquilo que você obtém no final de um projeto.

Implementando valores desde o design

A IA responsável abrange um grande número de valores que precisam ser priorizados pela liderança da empresa. Embora cobrir todas as áreas seja importante em qualquer plano de IA responsável, a quantidade de esforço que sua empresa despende em cada valor depende dos líderes da empresa. Tem de haver um equilíbrio entre a verificação da IA ​​responsável e a implementação efetiva da IA. Se você despender muito esforço em uma IA responsável, sua eficácia poderá ser prejudicada. Por outro lado, ignorar a IA responsável é ser imprudente com os recursos da empresa. A melhor maneira de combater esse trade-off é começar com uma análise minuciosa no início do projeto, e não como um esforço posterior.

A melhor prática é estabelecer um comitê de IA responsável para revisar seus projetos de IA antes de começarem, periodicamente durante os projetos e após a conclusão. O objetivo deste comitê é avaliar o projeto em relação aos valores de IA responsável e aprovar, desaprovar ou desaprovar ações para colocar o projeto em conformidade. Isso pode incluir a solicitação de obtenção de mais informações ou coisas que precisam ser alteradas fundamentalmente. Tal como um Conselho de Revisão Institucional utilizado para monitorizar a ética na investigação biomédica, este comité deve conter tanto especialistas em IA como membros não técnicos. Os membros não técnicos podem vir de qualquer formação e servir como uma verificação da realidade dos especialistas em IA. Os especialistas em IA, por outro lado, podem compreender melhor as dificuldades e as soluções possíveis, mas podem tornar-se demasiado habituados às normas institucionais e industriais que podem não ser suficientemente sensíveis às preocupações da comunidade em geral. Este comitê deverá ser convocado no início do projeto, periodicamente durante o projeto e no final do projeto para aprovação final.

Que valores o Comitê Responsável de IA deve considerar?

Os valores nos quais focar devem ser considerados pela empresa para se adequarem à sua declaração de missão geral. Sua empresa provavelmente escolherá valores específicos para enfatizar, mas todas as principais áreas de preocupação deverão ser abordadas. Existem muitas estruturas que você pode escolher para usar como inspiração, como Google e Facebook. Para este artigo, no entanto, basearemos a discussão nas recomendações estabelecidas pelo Grupo de Peritos de Alto Nível em Inteligência Artificial, criado pela Comissão Europeia na Lista de Avaliação de Inteligência Artificial Confiável. Estas recomendações incluem sete áreas. Exploraremos cada área e sugeriremos perguntas a serem feitas sobre cada área.

1. Agência humana e supervisão

Os projetos de IA devem respeitar a agência humana e a tomada de decisões. Este princípio envolve como o projeto de IA influenciará ou apoiará os humanos no processo de tomada de decisão. Envolve também a forma como os sujeitos da IA ​​serão informados da IA ​​e confiarão nos seus resultados. Algumas perguntas que precisam ser feitas incluem:

• Os usuários estão cientes de que uma decisão ou resultado é resultado de um projeto de IA?
• Existe algum mecanismo de detecção e resposta para monitorar os efeitos adversos do projeto de IA?

2. Robustez técnica e segurança

A robustez técnica e a segurança exigem que os projetos de IA abordem preventivamente as preocupações em torno dos riscos associados ao desempenho não confiável da IA ​​e minimizem o impacto disso. Os resultados do projeto de IA devem incluir a capacidade da IA ​​para funcionar de forma previsível e consistente e deve cobrir a necessidade de a IA estar protegida contra preocupações de cibersegurança. Algumas perguntas que precisam ser feitas incluem:

• O sistema de IA foi testado por especialistas em segurança cibernética?
• Existe um processo de monitoramento para medir e acessar os riscos associados ao projeto de IA?

3. Privacidade e governança de dados

A IA deve proteger a privacidade individual e de grupo, tanto nas suas entradas como nas suas saídas. O algoritmo não deve incluir dados que foram recolhidos de uma forma que violem a privacidade, e não deve fornecer resultados que violem a privacidade dos sujeitos, mesmo quando maus actores tentam forçar tais erros. Para fazer isso de forma eficaz, a governança de dados também deve ser uma preocupação. As perguntas apropriadas a serem feitas incluem:

• Algum dos dados de treinamento ou inferência usa dados pessoais protegidos?
• Os resultados deste projeto de IA podem ser cruzados com dados externos de uma forma que viole a privacidade de um indivíduo?

4. Transparência

A transparência abrange preocupações sobre a rastreabilidade em resultados individuais e a explicabilidade geral dos algoritmos de IA. A rastreabilidade permite ao usuário entender por que uma decisão individual foi tomada. Explicabilidade refere-se ao usuário ser capaz de compreender os fundamentos do algoritmo que foi usado para tomar a decisão. Também se refere à capacidade do usuário de compreender quais fatores estavam envolvidos no processo de tomada de decisão para sua previsão específica. As perguntas a serem feitas são:

• Você monitora e registra a qualidade dos dados de entrada?
• Um usuário pode receber feedback sobre como uma determinada decisão foi tomada e o que ele poderia fazer para mudar essa decisão?

5. Diversidade, não discriminação

Para ser considerado uma IA responsável, o projeto de IA deve funcionar da melhor forma possível para todos os subgrupos de pessoas. Enquanto Viés de AI raramente pode ser totalmente eliminado, pode ser gerido de forma eficaz. Esta mitigação pode ocorrer durante o processo de recolha de dados — para incluir um contexto mais diversificado de pessoas no conjunto de dados de formação — e também pode ser utilizada no momento da inferência para ajudar a equilibrar a precisão entre diferentes grupos de pessoas. Perguntas comuns incluem:

• Você equilibrou seu conjunto de dados de treinamento tanto quanto possível para incluir vários subgrupos de pessoas?
• Você define justiça e depois avalia quantitativamente os resultados?

6. Bem-estar social e ambiental

Um projeto de IA deve ser avaliado em termos do seu impacto nos sujeitos e utilizadores, juntamente com o seu impacto no ambiente. As normas sociais, como a tomada de decisões democráticas, a defesa de valores e a prevenção do vício em projetos de IA, devem ser mantidas. Além disso, os resultados das decisões do projeto de IA sobre o ambiente devem ser considerados, quando aplicável. Um fator aplicável em quase todos os casos é a avaliação da quantidade de energia necessária para treinar os modelos necessários. Perguntas que podem ser feitas:

• Você avaliou o impacto do projeto sobre seus usuários e sujeitos, bem como sobre outras partes interessadas?
• Quanta energia é necessária para treinar o modelo e quanto isso contribui para as emissões de carbono?

7. Prestação de contas

Alguma pessoa ou organização precisa ser responsável pelas ações e decisões tomadas pelo projeto de IA ou encontradas durante o desenvolvimento. Deverá existir um sistema que garanta possibilidades adequadas de reparação nos casos em que sejam tomadas decisões prejudiciais. Também deve ser dedicado algum tempo e atenção à gestão e mitigação de riscos. As perguntas apropriadas incluem:

• O sistema de IA pode ser auditado por terceiros quanto a riscos?
• Quais são os principais riscos associados ao projeto de IA e como podem ser mitigados?

A linha inferior

Os sete valores da IA ​​responsável descritos acima fornecem um ponto de partida para a iniciativa de IA responsável de uma organização. As organizações que optarem por uma IA responsável descobrirão que terão cada vez mais acesso a mais oportunidades – como licitações em contratos governamentais. As organizações que não implementam estas práticas expõem-se a riscos legais, éticos e de reputação.

David Ellison é cientista sênior de dados de IA na Lenovo.

Fonte: https://venturebeat.com/2022/01/15/responsible-ai-will-give-you-a-competitive-advantage/