Conheça Counterfit, uma ferramenta de código aberto para auditar IA, criada pela Micorsoft para avaliar sua inteligência artificial e sistemas de aprendizado de máquina.
Há cada vez mais desenvolvimentos de inteligência artificial, a complexidade desta IA está aumentando, e também o campo de aplicação. Já está sendo utilizado no setor saúde, administrações públicas, pesquisa, serviços, etc.
Mas esses algoritmos não são à prova de falhas quando se trata de segurança; também há ameaças em potencial para eles. Na verdade, à medida que a IA avança, mais e mais ameaças estão sendo detectadas. É por isso que a importância de ferramentas como o counterfit.
Counterfit, uma ferramenta de código aberto para auditar IA
Por serem sistemas bastante críticos, são necessários sistemas de inteligência artificial seguros. E para isso é necessário desenvolver uma série de padrões de auditorias e ferramentas para poder auditar com mais facilidade.
Um exemplo é essa ferramenta da Microsoft que mencionei no parágrafo anterior.
A Microsoft desenvolveu esta ferramenta que irá facilitar muito o trabalho, e tem feito isso sob uma licença open source (licença MIT) e através de sua plataforma GitHub, para que seja acessível a todos aqueles que desejam utilizá-la, e também ser capaz de participar do seu desenvolvimento.
O counterfit permitirá que os desenvolvedores testem a segurança dos sistemas de inteligência artificial em um estágio inicial de desenvolvimento, garantindo assim que não haja falhas críticas.
Se você estiver interessado em aprender sobre ele, pode acessar seu repositório no GitHub a partir deste link. Lá você encontrará o código-fonte, informações ou você pode fazer o download e testá-lo em várias plataformas.
Além disso, como foi escrito em Python, você também pode usá-lo no Linux sem problemas.
A ferramenta nasceu dentro da Microsoft, devido à necessidade própria de avaliar sua inteligência artificial e sistemas de aprendizado de máquina em busca de vulnerabilidades.
Ele foi originalmente planejado para sistemas de teste, mas agora também pode ser usado durante o estágio de desenvolvimento de IA.
Como você pode ver no site, você precisará instalar o Anaconda Python localmente para usar o script Python. Outra opção é usá-lo por meio do Azure Shell em um navegador da web.
