Visualización de inteligencia artificial que combina un esquema de cerebro humano con una placa de circuito. Expertos reunidos por las Naciones Unidas proponen medidas para minimizar los riesgos en el desarrollo de estas tecnologías y que puedan servir al progreso de toda la humanidad. Imagen: Dominio público

NACIONES UNIDAS – La tecnología de Inteligencia Artificial (IA) “no puede dejarse únicamente a los caprichos de los mercados” y se requiere de una gobernanza global que proteja los derechos humanos y beneficie a la sociedad, según han planteado expertos reunidos por las Naciones Unidas en un informe presentado esta semana.

El grupo de 39 expertos, formado en octubre de 2023 a instancias del secretario general de la ONU, António Guterres, señaló que existe en el mundo “un déficit de regulaciones, estándares e instituciones globales capaces de gestionar el uso de la IA, mejorar sus beneficios y minimizar sus riesgos”.

“La necesidad de una gobernanza global es irrefutable”, según el grupo, y por ello su primera propuesta es la creación de “un panel científico internacional independiente sobre IA, compuesto por expertos multidisciplinarios” que genere conocimientos imparciales y creíbles sobre la materia. El panel deberá ayudar a los Estados a desarrollar una visión compartida de la nueva tecnología, y abordar las asimetrías de información entre los laboratorios y el resto del mundo, con informes sobre capacidades, tendencias y riesgos de la IA.

Guterres ha destacado que “para las economías en desarrollo, la inteligencia artificial abre la posibilidad de superar tecnologías obsoletas y servir directamente a las personas que más lo necesitan, pero el potencial de transformación positiva que ofrece resulta todavía difícil de asimilar”.

La inteligencia artificial es un campo de la ciencia relacionado con la creación de computadoras y máquinas que pueden razonar, aprender y actuar de una manera que normalmente requeriría inteligencia humana.

“Sin entrar a considerar posibles escenarios catastróficos, es claro que el uso malintencionado de la IA puede socavar la confianza en las instituciones, debilitar la cohesión social y amenazar la democracia”, sostuvo Guterres.

En esa línea, el informe de los expertos apunta que “el desarrollo, la implementación y el uso de la tecnología no pueden dejarse únicamente a los caprichos de los mercados”, y aboga por regímenes globales de gobernanza de la IA para evitar carreras armamentistas y privaciones de derechos.

Uno de los argumentos que respalda la propuesta de gobernanza global es el hecho de que las materias primas de la IA, desde minerales hasta datos de entrenamiento, provienen de todas partes del mundo.

También se destaca que la tecnología se implementa más allá de las fronteras nacionales, con aplicaciones que se utilizan en varios países, y que el desarrollo de la IA se emplea para “concentrar poder y riqueza a escala global, con implicaciones geopolíticas y geoeconómicas”.

Según los expertos, los mercados de datos para la IA son actualmente una especie de “salvaje oeste”, que opera bajo la idea de “tomar lo que puedas y esconderlo bajo algoritmos opacos”, por lo que insiste en la necesidad de “un enfoque globalmente conectado, ágil y flexible, para gobernar la IA para la humanidad”.

Ante ese reto, los gobiernos y organizaciones nacionales y regionales serán cruciales, pero la naturaleza misma de la tecnología, que es “transfronteriza en estructura y aplicación”, requiere un enfoque global, según el informe.

Los autores advierten que «nadie actualmente comprende lo suficiente todas las capacidades y el funcionamiento interno de la IA para controlar completamente sus efectos o predecir su evolución».

Advierten que los sistemas de IA “rápidos, opacos y autónomos” pueden desafiar los sistemas regulatorios tradicionales, impactar cada vez más el mundo del trabajo y generar armas autónomas, elementos que plantean “graves problemas legales, humanitarios y de seguridad”.

Un enfoque colaborativo entre países sería beneficioso para “estimular el aprendizaje, fomentar la interoperabilidad y compartir los beneficios” de la IA, por lo que presentan siete recomendaciones, la primera de las cuales es crear el panel.

Luego, proponen un diálogo político intergubernamental y multilateral bianual sobre la gobernanza de la IA, al margen de las reuniones existentes de la ONU.

Asimismo, la creación de un mecanismo de intercambio de estándares de IA, que reúna a representantes de organizaciones y empresas de tecnología, nacionales e internacionales. Representantes de algunas de esas firmas ya participaron entre el grupo de expertos reunido por la ONU.

Luego, proponen la creación de una red de desarrollo de capacidades en IA, para conectar centros colaborativos sobre la materia, afiliados a la ONU, proporcionando experiencia, datos informáticos y capacitación en IA a las partes interesadas.

Proponen además crear una estructura de datos de inteligencia artificial y un fondo global para la IA, que evite la división y dispersión de recursos. Finalmente, la creación de una oficina de IA en la secretaría de la ONU, dependiente del secretario general.

A-E/HM - Fuente: IPS