La inteligencia artificial (IA) está transformando todos los sectores a medida que los líderes reconocen el potencial de la tecnología para mejorar la productividad, potenciar la creatividad, impulsar la calidad y generar nuevas soluciones. Esto ha creado un aumento de la demanda de IA y, en particular, de la IA generativa.

Desbloquear el valor de la IA generativa con una transformación responsable puede cambiar el juego. Los casos de uso de la IA generativa pueden encontrarse en diversas industrias, desde inspirar nuevos diseños de muebles y personalizar el marketing hasta acelerar el descubrimiento de fármacos en la industria farmacéutica.

Sin embargo, junto con el valor potencial de la IA, los líderes también están preocupados por sus riesgos, incluidos el sesgo, la seguridad, la protección y la pérdida de reputación en caso de que algo salga mal.

Por lo que expertos de las Naciones Unidas resalta la necesidad “irrefutable” de una regulación mundial de la inteligencia artificial (IA), para evitar la brecha digital y la desigualdad.

Y adoptar la tecnología ética y responsablemente se ha convertido en una consideración clave, lo que ha llevado al rápido surgimiento y adopción de la gobernanza de la IA.

Un nuevo informe de un grupo de expertos de la ONU afirma este jueves que es necesario regular a escala mundial el floreciente campo de la inteligencia artificial (IA), y añade que el desarrollo y uso de esta tecnología “no puede dejarse únicamente al capricho de los mercados”.

Mismas que han identificado siete medidas clave para establecer una gobernanza global de la IA. Estas medidas buscan garantizar que los beneficios de esta tecnología se distribuyan de manera equitativa y que se minimicen los riesgos asociados.

Panel científico internacional: Un grupo de expertos que proporcionará información objetiva sobre la IA.

Diálogo político: Fomentar la cooperación entre gobiernos, empresas y sociedad civil.

IA internacional: Garantizar la interoperabilidad de los sistemas de IA a nivel mundial.

Beneficios comunes: Promover el acceso a la IA para todos los países.

Fondo mundial: Financiar proyectos de investigación y desarrollo en IA.

Marco mundial de datos: Establecer normas claras para la gestión de datos en la IA.

Agencia de la IA: Crear una oficina dentro de la ONU para coordinar la implementación de estas medidas.

“La propia naturaleza de la tecnología, transfronteriza en su estructura y aplicación, hace necesario un enfoque global”, concluye el informe final del grupo nombrado por el Secretario General de la ONU.

La inteligencia artificial está transformando nuestro mundo, desde la apertura de nuevas áreas de investigación científica y la optimización de las redes de energía, hasta la mejora de la salud pública y la agricultura y la promoción del progreso en los 17 Objetivos de Desarrollo Sostenible (ODS).

Sin embargo, aunque existe un enorme potencial para el bien, si no se gobierna, los beneficios de la IA podrían limitarse a solo un puñado de Estados, empresas y particulares pioneros; y en un esfuerzo por mitigar estos riesgos, el informe propone varias recomendaciones para establecer un marco de gobernanza mundial de la IA.

Preocupación por los derechos humanos

En el informe también se expresa la máxima preocupación por las formas en que la IA puede utilizarse para transgredir los derechos humanos.

Las propias materias primas necesarias para las tecnologías de IA, incluidos los minerales críticos, se obtienen a nivel mundial, lo que conduce a una batalla por el poder y la riqueza sobre estos productos escasos a escala global.

Además, los sistemas de armas autónomas podrían tomar decisiones sin intervención humana, lo que plantearía cuestiones éticas y jurídicas sobre la rendición de cuentas y la protección de los civiles durante los conflictos. El creciente potencial de una carrera armamentística impulsada por los avances de esta tecnología también podría poner en peligro la seguridad humana.

El sesgo y la vigilancia de la IA es otro motivo de preocupación, ya que la creación y difusión de desinformación podría perjudicar a la población civil.

Surgen las brechas

Ya empiezan a aparecer disparidades. En términos de representación, partes enteras del mundo han quedado fuera de las conversaciones internacionales sobre gobernanza de la IA.

Por ejemplo, sólo siete países (Canadá, Francia, Alemania, Italia, Japón, Reino Unido y EE.UU.) participan en siete iniciativas destacadas de IA ajenas a la ONU, mientras que 118 países, principalmente del Sur Global, no participan en ninguna.

“La equidad exige que más voces desempeñen papeles significativos en las decisiones sobre cómo gobernar la tecnología que nos afecta”, afirma el informe.

“La concentración de la toma de decisiones en el sector tecnológico de la inteligencia artificial no puede justificarse; también debemos reconocer que históricamente muchas comunidades han sido totalmente excluidas de las conversaciones sobre la gobernanza de la IA que les afectan”, añade.

Arquitectura globalmente inclusiva

Para abordar estas preocupaciones, el grupo de expertos de la ONU propone varias recomendaciones para regular el uso de la IA.

Las recomendaciones del informe incluyen un panel científico internacional independiente sobre IA, un diálogo político intergubernamental y con múltiples partes interesadas sobre su gobernanza, que se celebre dos veces al año para compartir las mejores prácticas y un fondo mundial para la IA con el fin de reducir la brecha digital.

El grupo también subrayó que cualquier despliegue de IA en entornos militares debe cumplir el derecho internacional humanitario y las normas de derechos humanos, y recomendó que los Estados establezcan marcos jurídicos y mecanismos de supervisión sólidos.

En conjunto, estas recomendaciones instan a los Estados miembros de la ONU a sentar las bases de la primera arquitectura global inclusiva para la gobernanza de la IA basada en la cooperación internacional y la transparencia.

El desarrollo de la IA es inevitable y ofrece un gran potencial para mejorar nuestras vidas. Sin embargo, es fundamental que se haga de manera responsable y ética. El plan de la ONU representa un primer paso importante hacia la creación de un marco global para la gobernanza de la IA.

“Cada máquina tiene inteligencia artificial. Y cuanto más avanzada se pone una máquina, más avanzada será la inteligencia artificial. Pero una máquina no puede sentir lo que está haciendo. Solo sigue las instrucciones nuestras instrucciones de los seres humanos”. Abhijit Naskar