• La empresa EXPAI trabaja por una inteligencia artificial más comprensible, segura y justa, y su metodología permite detectar algoritmos racistas, machistas o LGTBIfóbicos.
• Sus socios fundadores son jóvenes profesores y estudiantes de la UPF del los ámbitos de las TIC y el emprendimiento.
• EXPAI permitirá que los algoritmos dejen de ser opacos y que cualquier persona sea capaz de entender cómo están tomando las decisiones

cientifico de datos

UPF, peligros de la inteligencia artificial

El equipo emprendedor está formado por cuatro socios: Javier Rando, estudiante de último curso del grado en Ingeniería Matemática en Ciencia de Datos (UPF); Pablo Vitoria, estudiante del último curso del grado en  International Business Economics (UPF); Daniel Hormigo y Carles Soler, profesores asociados de la Escuela de Ingeniería de la UPF.

Inteligencia artificial transparente al servicio de las empresas

La inteligencia artificial está siendo cada vez más utilizada, pero existen pocas técnicas para asegurar que se trata de una herramienta justa y segura. EXPAI ofrece a las empresas una solución que permite entender cómo funcionan sus modelos de inteligencia artificial sin necesidad de programar. Se trata de una herramienta visual que puede ser utilizada por cualquier persona dentro de una empresa sin importar sus conocimientos técnicos.

Lider de negocios

“Vimos la oportunidad de crear una solución que permita a las empresas evaluar y entender sus modelos de aprendizaje automático de una forma intuitiva y visual. EXPAI permitirá que los algoritmos dejen de ser opacos y que cualquier persona sea capaz de entender cómo están tomando las decisiones. Esta transparencia mejorará la adopción de la inteligencia artificial en las empresas porque facilita la comprensión del proceso y ayuda a tomar mejores decisiones”, explica Rando, co-CEO y responsable de TIC en EXPAI.

Los algoritmos son “cajas negras”

Hoy en día, las empresas ponen en manos de la inteligencia artificial los procesos de contratación, la concesión de préstamos o la estrategia de ventas. El peligro de dejar estas decisiones a merced de los algoritmos es su falta de transparencia. “Se suele decir que los algoritmos son cajas negras: sabes lo que entra, sabes lo que sale, pero nunca sabes lo que pasa dentro. Desde EXPAI, hemos desarrollado una metodología para explicar lo que sucede en su interior y conocer detalladamente los motivos que han llevado al algoritmo a tomar cada una de sus decisiones”, señala Rando.

Tomador de decisiones

La metodología de EXPAI permite a las empresas y las administraciones verificar que sus modelos matemáticos funcionan correcta o incorrectamente e identificar errores o sesgos, pero también potencialidades para sacar el máximo partido a los algoritmos.

Una startup en proceso de validación de la idea de mercado

El equipo de emprendedores ha contado con el apoyo del Servicio de Emprendimiento de la UPF que les ha facilitado el acceso a los recursos para statups como 4YFN y del  Hacklab de la UPF. “En este momento, estamos en el proceso de validación de la idea de mercado, con unos resultados muy buenos, por lo que esperamos conseguir nuestros primeros clientes de manera inmediata. Gracias a la UPF estaremos en el 4YFN, lo que estamos convencidos que será una gran plataforma para darnos visibilidad”, afirman los socios de EXPAI.

Correo electrónico: info@expai.io                Página web: https://expai.io/LinkedIn: www.linkedin.com/company/expai-io/                      Explainable AI: https://expai.io/explainable-ai