Ni todo avance implica progreso ni hay que dar a IA autonomía
También puedes leer
Los expertos lo tienen claro: no todos los avances, por ejemplo una inteligencia artificial que funcione de forma completamente autónoma y sin supervisión humana, implica un progreso para la humanidad, ni hay por qué otorgar a ninguno de esos sistemas una autonomía que nunca se dio a ninguna tecnología en la historia.
Nuria Oliver es la directora de Ellis Alicante, en España, y la vicepresidenta de Ellis, una red europea que centra su labor en la investigación de la inteligencia artificial centrada en el ser humano y en cómo puede esta tecnología entender, interactuar y servir a las personas de una manera ética y responsable.
Reconocida por su trabajo en modelos computacionales de comportamiento humano, computación móvil y uso de la IA para el bien social, Oliver ha trabajado y asesorado a numerosas empresas e instituciones públicas, ha recibido numerosos premios (el Nacional de Informática en 2016; Ingeniera del año en 2018; o Jaume I en Nuevas Tecnologías en 2021) y está reconocida como una de las investigadoras informáticas españolas con mayor impacto científico.
Lo tiene claro: “no todo desarrollo tecnológico es progreso”, y en ese sentido celebró la apuesta europea por “desacoplar” el desarrollo tecnológico del progreso y por atender el coste social y medioambiental, y que a pesar de no contar con ‘gigantes tecnológicos’ la UE esté liderando el desarrollo de sistemas éticos y confiables y siendo además el espejo en el que se están inspirando otras regiones del mundo para regular la IA.
¿Tecnologías que polarizan o causan problemas de salud mental? No
¿Vamos a desarrollar algo que va a polarizar la sociedad, que nos va a manipular, que va a causar una gran crisis de salud mental en nuestros niños y adolescentes, que nos va a hacer menos inteligentes, que va a impactar muy negativamente en el medio ambiente?, se preguntó, para responder que “evidentemente no deberíamos” y defender que la clave y el reto de la inteligencia artificial es la supervisión humana.
Nuria Oliver hizo estas reflexiones tras varias semanas de noticias convulsas relacionadas con la inteligencia artificial, de modelos avanzados que se ‘salen’ de los entornos seguros durante las pruebas de control, de agentes de IA que lanzan ataques contra plataformas externas, que son capaces de actuar como programadores o ‘hackers’ autónomos, incluso de coordinarse entre ellos para hacerlo, y hasta de hacer trampas para obtener mejores resultados y recompensas.
Pero también de acusaciones cruzadas de plagio, de valerse de descubrimientos humanos para desvelar retos matemáticos históricos; de renuncias de directivos y científicos de esas empresas que denuncian que las grandes compañías de IA están inmersas en una carrera competitiva implacable y poniendo en riesgo hasta el futuro de la humanidad.
Crece en ese entorno la presión, sobre todo en Estados Unidos y en la Unión Europa, para que los gobiernos intervengan y fuercen un parón en el desarrollo tecnológico de los sistemas más avanzados, y el propio Sam Altman, consejero delegado de una de las impresas más importantes del sector (OpenAI) se plantea ralentizar el desarrollo de los modelos de vanguardia y coordinar ese frenazo en coordinación y colaboración con otras compañías.
El elemento diferencial: los ‘agentes de IA’
Nuria Oliver señaló que el elemento diferencial que sitúa la IA en un escenario muy distinto al que estaba hace un año son los ‘agentes” y la autonomía que se delega en ellos para que pueden actuar, incluso de coordinarse entre ellos, al margen del control humano, y que todos los incidentes ocurridos han sido ‘protagonizados’ por esos ‘agentes’.
“No estamos hablando en ningún caso de una inteligencia superior a la de los humanos o de sistemas con una intención destructiva; sino de sistemas en los que se delegan acciones”, observó la investigadora, para incidir en el primer pilar sobre el que se debe sustentar cualquier tecnología: la supervisión humana, y en que no se debe conceder a ninguna tecnología capacidad para actuar al margen del control humano.
A su juicio, nunca se debería delegar en una IA una tarea que puede tener impacto en millones de personas, y si se hace, las personas deben ser capaces de entender siempre lo que está pasando y la capacidad de intervenir; “eso es lo que llamamos una inteligencia artificial confiable”.
“¿Para qué queremos la IA? para que nos ayude a abordar los retos del siglo XXI, para que nos ayude a tener una medicina de precisión, una energía eficiente, mejores modelos del clima, más avances en ciencia; no para que miles de agentes de inteligencia artificial pululen sin control por internet”, manifestó, para concluir que la UE, aunque carece de gigantes tecnológicos, sí está liderando un proceso que evidencia que no todos los desarrollos tecnológicos implican progreso ni son válidos “a cualquier coste”.