A Palqee, startup anglo-brasileira de tecnologia, lança o Prisma, uma ferramenta projetada para governança e monitoramento de riscos em tempo real de sistemas de inteligência artificial em grandes empresas. Com o objetivo de atender à crescente demanda por responsabilidade e ética no uso de IA, o Prisma garante que as decisões automatizadas sejam mais transparentes e confiáveis.
O primeiro cliente da solução no Brasil é a KPMG Brasil, uma das maiores consultorias globais. A empresa está utilizando o Prisma para reforçar sua estratégia de governança e controle de IA, garantindo mais segurança e precisão em seus processos internos. Em apenas três meses de monitoramento, o Prisma identificou pontos críticos, como uma taxa de 13,89% de alucinação nos outputs da IA, além de uma influência de 6% do tom de entrada e 5% da clareza de entrada nos resultados da IA. Esses dados permitiram que a KPMG formulasse estratégias de mitigação e ajustasse seus processos de governança para reduzir riscos críticos, aumentando a precisão nas interações e confiança nos resultados.
Outro cliente é a Osprey Flight Solutions, uma das principais empresas do Reino Unido do segmento de gestão de riscos na aviação, que escolheu o Prisma para aumentar a confiança e a segurança nas operações, monitorando riscos em tempo real e assegurando decisões confiáveis em suas soluções para o setor.
Até o final de 2025, a Palqee espera alcançar a marca de 100 empresas utilizando a solução no Brasil. Por modelo de assinatura baseada em volume de interações, a empresa prevê arrecadar com o novo produto R$120 milhões nos próximos cinco anos.
Além da consultoria global, o Prisma chega ao Brasil testado e aprovado na Europa, onde já foi utilizado para monitoramento de sistema de IA para hospitais e planos de saúde, prevenção de fraudes, além de algoritmos voltados à educação superior, e recrutamento. No velho continente a startup é referência para levar além os códigos de inteligência artificial e na adoção das melhores práticas internacionais.
A busca por mais transparência é uma demanda das empresas e de toda a sociedade. Um estudo da empresa norte-americana PagerDuty revelou que 98% dos executivos de grandes companhias decidiram pausar iniciativas de IA generativa devido a preocupações com segurança e a necessidade de criar políticas apropriadas. No Brasil, um estudo do MIT Sloan Management Review Brasil apontou motivos para empresas não utilizarem IA variaram entre desconhecimento (41%), preocupação com privacidade (39%) e falta de confiança nos resultados (33%).
“O Prisma oferece um ganho significativo para grandes empresas ao permitir que times de tecnologia consigam monitorar milhões de interações em tempo real, proporcionando governança e transparência nas operações de IA, e apontando riscos de maneira eficiente e confiável”, comenta Andre Quintanilha, um dos fundadores da Palqee. “Vale ressaltar que a ferramenta compreende o contexto e viés nas interações IA-humanos em larga escala, ajudando a resolver o problema da ‘caixa-preta’ dos sistemas de inteligência artificial, o que traz benefícios importantes ao garantir maior confiabilidade e ética no uso dessas tecnologias”, diz.
“No mundo tecnologicamente avançado de hoje, a importância de analisar consistência, robustez e imparcialidade em soluções de IA não pode ser subestimada, especialmente para uma empresa pioneira como a KPMG Brasil”, afirma um dos executivos da empresa. “É a consistência que assegura que as decisões da IA sejam confiáveis e sustentáveis ao longo do tempo, estabilizando as várias aplicações estratégicas dentro da empresa. Na KPMG Brasil, temos a sorte de contar com o Prisma, que nos apoia em nosso próprio desenvolvimento e no dos nossos clientes rumo a uma IA confiável”, comenta Leandro Marco Antonio, sócio e Líder de Cibersegurança e Privacidade na KPMG.
PRISMA NA PRÁTICA
O Prisma oferece uma implementação flexível e totalmente personalizável para cientistas de dados e executivos de tecnologia monitorarem IA em grandes empresas. Com foco em governança, gestão de riscos e ética, o Prisma transforma qualquer elemento da interação com os sistemas de IA em um item observável, como por exemplo a complexidade do input ou o tom de voz usado, facilitando a avaliação contínua de como o contexto da interação afeta os outputs dos sistemas de IA em ambiente produtivo.
Com uma interface intuitiva, o Prisma permite criar “expedições de monitoramento” para rastrear métricas de desempenho, prever inconsistências e resolver possíveis problemas antes que impactem o sistema. A integração com a API do Prisma também permite ajustes customizados para atender às necessidades específicas de cada empresa, garantindo um monitoramento contínuo e adaptado.
O sistema oferece monitoramento em tempo real com alertas instantâneos, análise preditiva para evitar não conformidades e relatórios detalhados com dados valiosos para a tomada de decisões.
Outra funcionalidade destaque é a detecção de preconceitos contextuais em sistemas de inteligência artificial, indo além dos métodos tradicionais usados por cientistas de dados. Ele ajuda a monitorar vieses como racismo geográfico, demográfico etc, oferecendo alertas em tempo real para garantir maior equidade e transparência em decisões automatizadas.
