Pablo Martínez Olmos, el ingeniero que propone una Inteligencia Artificial "humilde"
Figura como uno de los beneficiarios de las becas científicas otorgadas por el Banco BBVA a investigadores con iniciativas innovadoras en el área de la computación. Propone un desarrollo más consciente de la Inteligencia Artificial, orientado a funciones que le permitan arrojar respuestas más fiables, con menos errores y sesgos. Dirige el proyecto "Hacia una inteligencia artificial humilde y trazable"
El doctor en ingeniería de telecomunicaciones, Pablo Martínez Olmos, se convirtió este 2024 en uno de los beneficiarios del programa "Becas Leonardo", para la investigación científica y técnica, otorgada a él por el Banco BBVA para el desarrollo de su proyecto “Hacia una inteligencia artificial humilde y trazable (THAI)”.
Martínez plantea que el paradigma actual de la Inteligencia Artificial va mal encaminado, porque herramientas como Dall-E (generador de imágenes) o ChatGPT (modelo texto), están calibradas de manera que ofrecen respuestas detalladas aunque no tengan una base sólida o consistente de información verificada para darlas, lo que se manifiesta en un "exceso de confianza", en el que la máquina proporciona falsedades muy bien elaboradas como si fuesen verdades.
Aclaró que no es algo intencional, porque esta tecnología no piensa, ni razona, pero resaltó la importancia de resolverlo y propuso el desarrollo de una Inteligencia Artificial "humilde", que tenga capacidad para declarar el grado de incertidumbre de sus resultados, de modo que se lo haga saber al usuario.
El ingeniero realizó una prueba con Dall-E y le ordenó recrear el mapa de España en dos ocasiones distintas, al comparar los resultados encontró que ambos presentaban notables diferencias entre sí, además de varios errores.
La forma del país está bien captada, pero luego el mapa incluye aspectos muy pormenorizados de la geografía, como montañas, ríos o nombres de regiones, que son totalmente falsos", declaró Martínez.
Su proyecto "Hacia una inteligencia artificial humilde y trazable (THAI)", se enmarca en una línea de investigación orientada a la construcción de métodos que restrinjan la capacidad de los modelos IA para elaborar respuestas detalladas basadas en información sin fiabilidad, con el objetivo de volverla más útil, confiable y segura.
Una de las ideas que proponemos es hacerle la vida más complicada a la red neuronal durante su entrenamiento, utilizando ataques malintencionados y contradictorios”, comentó.
De esta forma planea adecuar a la Inteligencia Artificial a situaciones donde tenga que poner a prueba su capacidad para salvaguardar la veracidad de la información.