A FRISS está compromissada com seguro equitativo. Dedica-se ao fornecimento de evidências de que suas previsões são diligentemente corretas, e justas.
Entre os especialistas, não há dúvida de que muito em breve a Inteligência Artificial (IA) fará parte do nosso cotidiano. Veículos autônomos sem qualquer atuação humana, estarão circulando em nossas estradas. Ao invés de humanos no controle, uma poderosa IA será aplicada ao nosso mutável e complexo niverso permitindo-nos dirigir de maneira mais segura que hoje, fazendo decisões instantâneas sobre o futuro das nossas vidas.
Inovações de IA também estão chegando em outras áreas. Muitos de nós já estão interagindo com elas sob a forma de assistentes inteligentes. Como Siri da Apple Duplex do Google ou Alexa da Amazon.
As interações que temos com essas máquinas se tornarão indistinguíveis das ocorridas entre seres humanos. Então precisamos poder confiar nas suas decisões. Confiar numa máquina é fácil se você consegue entender que suas previsões são corretas.
Por exemplo, podemos ver que um carro autodirigível faz uma curva suave e chega a frear dentro do tempo devido. Há sempre a possibilidade de assumirmos o volante quando as condições são mais arriscadas. Quando um sistema complexo está sendo utilizado na previsão do tempo vemos que está normalmente correto.
Mesmo quando não for, o pior que pode acontecer é que você se molhe. A confiança é mais difícil quando não conseguimos ver diretamente as previsões. Uma desaprovação automatizada de um pedido de apólice baseado num modelo guiado por IA.
Observe que em tais casos é mais difícil julgar se sua decisão é correta ou justificável. É imperativo quando essas decisões afetam vidas. Como nos casos de elegibilidade de vale-refeição ou benefícios de seguro-saúde.
Precisamos ser capazes de justificar nossas decisões. À medida que os modelos se tornam melhores e os dados se tornam maiores os algoritmos se tornam cada vez mais complexos. Como em conexões neurais biológicas profundas. Com centenas de profundas camadas e milhares de nós.
O preço que pagamos por tal complexidade é sua ausência de interpretabilidade. A resposta para a tomada de determinadas decisões. Máquinas acionadas através de IA são muito boas na captação de tendências de dados e na utilização dos mesmos para promover suas previsões. Se coletados de modo apropriado, os dados irão refletir a sociedade.
Toda sociedade tem seus desafios e suas falhas que ficam ocultos dentro dos dados. Se não tomarmos cuidado, as máquinas de codificarão preconceitos. Levando por exemplo ao fenômeno de ‘redlining’. Negação automática de assistência médica e outros serviços financeiros a pessoas que vivem em determinadas áreas associadas a minorias étnicas ou a uma determinada raça.
A FRISS está compromissada com seguro equitativo. O fornecimento de evidências de que suas previsões são diligentemente corretas e justas. Através da junção da mais moderna tecnologia de aprendizado de máquina com técnicas de interpretação e explicação, como o modelo LIME ou substitutos globais.
IA equitativa é o mesmo que IA transparente. Onde se pode verificar os dados utilizados para cada previsão e poder-se imediatamente alterá-los se acreditar que estiver fazendo alguma previsão de modo injusto.
A história da humanidade é de automação. Mas, a confiança não deve ser automatizada. Ela á adquirida através da equidade e da transparência. Se você não entende o processo como você sabe se ele é imparcial e correto?
