Una tesis de Deusto enseña a la Inteligencia Artificial a decir 'no lo sé' cuando se enfrenta a imprevistos

BILBAO 28 Sep. (EUROPA PRESS) -

Una tesis de la Universidad de Deusto ha enseñado a la Inteligencia Artificial a decir 'no lo sé' cuando se enfrenta a imprevistos mediante algoritmos capaces de detectar situaciones desconocidas en tiempo real y evitar así "el exceso de confianza" de la IA.

Este desafío es abordado en su tesis doctoral por Marcos Barcina Blanco, que ha elaborado esta investigación titulada 'Open-World Machine Learning and the Management of the Unknown: A Review and New Perspectives'.

La tesis sienta las bases conceptuales y metodológicas para dotar a la IA de la capacidad de gestionar lo desconocido, mediante un marco conceptual denominado 'Managing the Unknown in Machine Learning' (MUML), que establece una base para que los sistemas de IA puedan detectar lo que desconocen y adaptarse a entornos cambiantes.

En un comunicado, han explicado desde la Universidad que, hasta ahora, cuando un programa de clasificación se enfrenta a un entorno abierto y le llega una información inédita, el programa la interpreta erróneamente como si perteneciera a su base de conocimiento previa.

Según ha precisado, este fenómeno se agrava cuando la información no se analiza en bloques estáticos, sino en flujos continuos de datos en tiempo real (en 'streaming'). En estos escenarios dinámicos, las reglas del entorno pueden cambiar constantemente y el riesgo de mala clasificación aumenta.

Para solucionar esta limitación, la primera aportación técnica de la tesis desarrolla un marco híbrido de trabajo en tiempo real. Este algoritmo delimita estrictamente el espacio que ocupan los datos conocidos utilizando técnicas de agrupamiento (clustering) y una medida matemática basada en la entropía (el grado de incertidumbre).

Gracias a este mecanismo, cuando el sistema procesa información que cae fuera de sus zonas de certeza, no intenta adivinar a ciegas, sino que la marca al instante como una 'clase desconocida', reduciendo así las clasificaciones erróneas por exceso de confianza.

La tesis doctoral investiga además un dilema habitual en el análisis de datos en directo como es la confusión entre distintas formas de anomalías. En la práctica, cuando una IA detecta un dato extraño, la causa no siempre es la misma, ya que puede tratarse de un simple error aleatorio en un sensor, de la aparición de una categoría completamente nueva que conviene aprender, o de una deriva progresiva de los datos debido a cambios en el entorno.

Según la investigación, los métodos tradicionales suelen confundir estos fenómenos entre sí, pero en esta tesis, el investigador ha diseñado un sistema basado en estructuras de grafos flexibles que analiza la topología local de los datos.

Esta herramienta permite a la IA discernir entre tres tipos de fenómenos anómalos. Por un lado, los "valores atípicos (outliers)", que son observaciones aisladas o alejadas del comportamiento habitual que el sistema debe ignorar para no contaminar su aprendizaje. Por otro, las "nuevas clases desconocidas", es decir, categorías inéditas pero coherentes que el sistema debe aislar y caracterizar para aprenderla progresivamente y, por último, la "deriva de características (Feature Drift)" o cambios graduales o persistentes en los datos que recibe el sistema debido a una evolución de las condiciones del entorno a los que el modelo debe reajustarse.

Los experimentos empíricos presentados en la investigación, realizados sobre decenas de conjuntos de datos sintéticos y complejos casos de prueba reales, han mostrado ventajas de estos nuevos algoritmos frente a los convencionales. Los métodos desarrollados obtienen mejores tasas de acierto y reducen de forma notable la confusión ante situaciones inesperadas.

En el plano práctico, las aportaciones de esta tesis doctoral contribuyen al desarrollo de soluciones de IA "más fiables, capaces de gestionar situaciones nuevas y cambiantes en el mundo real". Al reducir la necesidad de que el software tenga que ser apagado y reentrenado manualmente desde cero cada vez que surge una novedad, se avanza hacia una nueva generación de tecnologías autónomas, robustas y, sobre todo, capaces de reconocer cuándo se encuentran ante algo que no conocen.