La IA sigue avanzando y cada vez se hace más necesario poner orden….

En este post te cuento mis conclusiones del I Foro de IA y Sostenibilidad de la US y te invito a definir las reglas del uso de la IA junto a los principales expertos a nivel global (Expertos de Unesco, Naciones Unidas, Comisión Europea, la Universidad de Sevilla, U. Utrecht, Oxford etc.).

Los pasados 25 y 26 de Septiembre, Sevilla se convirtió en la capital global del debate sobre la IA y su uso responsable y sostenible para mejorar la sociedad y el planeta gracias al trabajo de la Universidad de Sevilla y el inestimable apoyo de Google en general, y Pilar Manchón y Miguel Escassi en particular (Ambos directivos de Google y egresados de la Universidad de Sevilla).

Con más de 1200 inscritos, tuve el gran privilegio de hacer de conductor, elaborar las conclusiones del evento y presentar a los principales referentes de la investigación, regulación e industria a nivel de España, Sevilla e Internacional en IA.

En el foro participaron las personas que están dibujando el presente y el futuro de la IA a nivel global. Tuvimos el privilegio de contar con personas de la talla de Pilar Manchón de Google (Directora Senior de Estrategia de Investigación en IA y mimbro del Comité Asesor de IA del Gobierno de España), Yossi Matias (Vicepresidente de Ingeniería e Investigación en Google), Ricardo Vinuessa (KTH en Estocolmo), Francisco Herrera (Universidad de Granada, líder en ciencia de datos y inteligencia computacional a nivel nacional e internacional), Aníbal Ollero (Catedrático de la U. Sevilla reconocido a nivel global por sus trabajos en robótica y tecnologías aeroespaciales), Juan Ignacio Cirac Sasturain (físico del Instituto Max Planck, pionero en computación cuántica), Pascale Fung (Catedrática de electronica e ingeniería de computadores y directora del Center for AI Research (CAiRE) en Hong Kong)… entre otros muchos todos de la misma relevancia en investigación en el área de biomedicina, medioambiente, ingeniería del software y responsables de primera línea de Airbus, Telefónica, Konecta, etc.

Además de las presentaciones, me asignaron el gran honor y el tremendo reto de realizar las conclusiones del evento junto al gran Aníbal Ollero (una referente a seguir para mí y toda la comunidad investigadora de la Universidad de Sevilla y global). Desde mi perspectiva y sesgo como fundador e impulsor del Instituto de Digitalización Humanista de la U. Sevilla, te cuento mis conclusiones y te invito a participar activamente en el futuro de la IA.

Ritmo exponencial de una tecnología muy diferente a todas la anteriores

Los avances en potencia de computación, almacenamiento, técnicas de IA, investigación y, en un futuro cercano, la computación cuántica, han desencadenado una nueva revolución que avanza exponencialmente a un ritmo sin precedentes en la historia. Parafraseando y extendiendo las ideas de Harari, esta tecnología tiene 3 características sin precedentes si la comparamos con otras ocurridas en la historia que nos colocan en una situación donde es extremadamente predecir que va a pasar en los próximos meses y años:

• Actúa: A diferencia de las armas nucleares, que requieren de un ser humano para activarlas, la IA tiene la capacidad de actuar por sí misma (autonomía), incluso de formas que no podemos explicar.
• Crea ideas: Mientras que la imprenta difundía ideas humanas, la nueva IA generativa es capaz de crear nuevas ideas y conocimientos por sí misma, lo que pude afectar a nuestra toma de decisiones o, por ejemplo, manipular nuestra opinión.
• Crece más rápido que el ritmo al que nos adaptamos a ella: A diferencia de otras tecnologías de rápido crecimiento como el teléfono móvil, que ha necesitado 50 años para llegar al uso generalizado, la IA se ha puesto al servicio de toda la humanidad en cuestión de semanas, no dando tiempo a que las leyes, instituciones, los empleos y por consiguiente las personas, tengamos tiempo para adaptarnos como en tecnologías anteriores.

Cada uno de los paneles y charlas me hacían reflexionar más sobre estas características y el potencial que tiene la IA para zarandear los pilares de nuestra sociedad como la educación, la democracia, el sistema económico, el empleo, las relaciones entre personas o cómo hacemos investigación. Para bien o para mal.

En el foro se aportaron numerosos avances positivos para hacer el planeta más sostenible y la vida de las personas mejor en áreas tan variadas como la salud, gestión de crisis (inundaciones, fuegos, etc.), reforestación o la optimización de las emisiones de CO2.

Pero también se trabajaron las preocupaciones y los esfuerzos regulatorios que se están llevando a cabo a nivel español, europeo e internacional en referencia a sus sesgos, uso ético o riesgos en sus usos para manipular y desestabilizar a la sociedad.

Así, vimos como investigadores Sevillanos, Andaluces, Nacionales e Internacionales están usando la IA para hacer del planeta algo mejor. Un gran ejemplo de las posibilidades positivas que puede tener el uso correcto de la IA, pero también reflexionamos sobre los riesgos que afrontamos.

El trabajo multidisciplinar se hace real por primera vez y tenemos que fomentarlo

Estamos ante una herramienta que se puede usar en cualquier ámbito donde profesionales de disciplinas técnicas, sociosanitarias, etc. se unen y colaboran para desarrollar aplicaciones de la IA para la sostenibilidad y mejorar la sociedad en áreas tan diversas como la ecología, la medicina, el transporte o la gestión de crisis.

Pero si pensamos en la incorporación de la IA en robots y la encarnación (embodiment) de la IA en estos, el impacto se hace mayor si cabe. Con el “embodiment” le damos a la IA la capacidad de conocer el mundo real (ver, escuchar, tocar, etc.) de manera directa y no a través de nuestros escritos, pero también de actuar de manera autónoma en el mundo físico y de llevar a la práctica esas nuevas ideas ideas que son capaces de generar.

Con este escenario cada vez más cercano, como vimos en el foro en los avances en robótica y drones presentados por Aníbal Ollero, o los últimos avances de los robots de Tesla o Google Deepmind. los desafíos de investigación y los riesgos se multiplican exponencialmente, abarcando desde IAs empáticas, la gestión de sesgos, la regulación, la seguridad, hasta la “coevolución” de humanos y máquinas lo que sin duda va a impactar frontalmente contra los pilares de la sociedad, aspectos donde las humanidades toman el primer plano.

En este evento es la primera vez que veo investigadores de distintas áreas de conocimiento colaborando y compartiendo en el mismo espacio un tema de trabajo común.

Sin duda la IA requiere la colaboración de investigadores y profesionales de distintas áreas de conocimiento haciendo totalmente obligatoria la multidisciplinariedad. Es necesario fomentar más foros, conferencias de investigación y entornos de trabajo donde profesionales e investigadores de distintas áreas puedan trabajar conjuntamente recibiendo reconocimiento por ello.

Pero eche en falta algo crucial que me lleva a mi última conclusión.

No basta con IA ética, los humanos necesitamos nuevas reglas y principios para diseñar y usar la IA.

En varios paneles de discusión se habló sobre el uso ético de la IA, de sus sesgos y de la obligación de desarrollar IAs que se “comporten bien”.

Para mí una de las conclusiones más relevantes fue que no existe un único rasero para toda la humanidad que permita definir las reglas dentro de las que se debe comportar las IAs que diseñamos, es dependiente de la cultura, el país o incluso el contexto personal de cada individuo.

La siguiente idea que saco en conclusión y que, quizás me parece la más relevante de todo lo discutido, puede ilustrarse reescribiendo una frase que se escucha mucho en redes sociales.

La original dice “La IA no te quitará el trabajo, lo harán los que aprendan a usarla primero”.

Pero si la reescribimos como sigue:

“La IA no te quitará el trabajo, lo hará un HUMANO que decidirá sustituirte por la IA”

Nos deja claro que no solo tenemos que diseñar la IA de manera correcta, sino que necesitamos nuevas reglas, valores y principios de uso para las personas que guíen la integración de la IA en la sociedad hacia los resultados correctos.

En el foro hubo una representación amplia de áreas de investigación aplicadas, pero algo menos de las humanidades (antropólogos, historiadores, legisladores, filósofos, etc.).

Bajo mi punto de vista, es imprescindible la participación de expertos en estas últimas ya que son las disciplinas que estudian la humanidad, cómo evoluciona, cómo funciona, las ventajas e inconvenientes de las distintas estructuras sociales y corrientes de pensamiento, como moldea el mundo la tecnología o las reglas, valores y principios que han guiado la evolución de la humanidad en el pasado.

Creo que estos expertos deben participar activamente en la conversación con los tecnólogos más allá de la “IA ética” para conjuntamente definir el rumbo hacia el que tenemos la obligación de dirigir estas tecnologías para que sus resultados sean positivos para la humanidad.

Desgraciadamente los sistemas de medición de la carrera investigadora no fomentan especialmente la multidisciplinariedad, pero sin duda, dada la relevancia y potencial de la IA, la Universidad de Sevilla ha dado un paso a imitar. Un paso para consolidar, fomentar y para conseguir dirigir la IA de manera holística hacia un impacto positivo en la humanidad.

Aun así, creo que para futuras ediciones debemos fomentar una participación más extensa y activa de las humanidades.

En esta línea, en el debate final del bloque de conclusiones, Pilar Manchón que destacó lo que creo que es el punto clave en el corto plazo: la importancia de la educación (canal por el que se transmite, no solo el potencial y avances de la IA, sino también las reglas, valores y principios de uso) para guiarnos hacia un mejor futuro.

La educación es la herramienta que debemos usar para hacernos evolucionar, en primer lugar, todos los que estamos investigando y participando activamente en el campo de la IA, y en segundo lugar la sociedad en general, hacia ser un poco más “hombres del renacimiento” donde combinemos la hiperespecialización que el sistema capitalista nos requiere con conocimientos más amplios en las áreas de aplicación de la IA y las implicaciones sociales de su desarrollo.

Estos valores, reglas y principios tienen nombre y precedente en la historia “el humanismo”, que resurge por 3 vez con el apellido Digital (Humanismo Digital), para seguir guiando la evolución de la sociedad para que la tecnología y las estructuras sociales estén al servicio de las personas.

Pero sus reglas están aún por definirse…

Si quieres participar en la definición de estas reglas, principios y valores sigue leyendo…

Participa en la definición de las nuevas reglas, principios y valores que deben guiar la IA: Proyecto internacional para definir el Humanismo Digital

Sin duda Sevilla se ha consolidado como un centro de referencia para una IA sostenible imbuida de valores humanistas, aportando su granito de arena para construir un mundo más sostenible.

Pero estoy convencido de que este no es el final. Dada la impresionante investigación multidisciplinar sobre IA que hemos presenciado, este es solo el comienzo de un camino exitoso hacia la sostenibilidad y el uso “positivo” de la IA que posicionará a la Universidad de Sevilla como un referente en Europa y el mundo.

Estos pasos hacia el futuro ya están ocurriendo con la actividad diaria de todos los investigadores que participaron en el foro y muchos más, la Semana de la IA foro multidisciplinar que tendrá lugar en Octubre impulsada por Fernando Llano (Decano de la facultad de Derecho de la US), o las actividades que estamos impulsando desde el instituto de digitalización humanista de la Universidad de Sevilla.

De todas las actividades que se están impulsando desde el Instituto de Digitalización Humanista (https://dighumi.org), quiero invitarte a participar en un proyecto que hemos arrancado en colaboración con la principal iniciativa de humanismo digital a nivel global, el Digital Humanism Initiative de Viena (https://caiml.dbai.tuwien.ac.at/dighum/) para definir los principios, valores, reglas y retos para la puesta en práctica del humanismo digital a nivel global.

En esta iniciativa participan expertos en digital humanism e investigadores de Naciones Unidas, Unesco, Comisión Europea, Exdirectivos de la NSF americana, el Future of Work Hub de Utreach, la Universidad de Sevilla o la de Oxford.

Si quieres participar en el workshop que tendrá lugar en la primera mitad de 2024 o en en el estudio que realizaremos para recopilar los retos de investigación, uso y desarrollo que la IA presenta, puedes ver más detalles y registrarte aquí:  https://www.dighumi.org/retos-para-la-implementacion-del-humanismo-digital-estudio-y-workshop/

No puedo ternimar sin felicitar la gran gestión del evento realizada por Carmen Barroso (Vicerectora del Planificación Estratégica de la US) e Ignacio Castro Abacens (Director del Secretariado de planificación Estratégica) y su equipo. Enhorabuena compañeros.

Podeís ver los dos días en la TV de la US.

Día 1: http://tv.us.es/media/1_5car2voc

Día 2: http://tv.us.es/media/1_dof8r267