La ONU propone un pacto mundial para controlar la IA

Un pacto mundial para gestionar las tecnologías digitales, incluido el rápido avance de la inteligencia artificial (IA) que puede traer amenazas difíciles de controlar, fue propuesto por el titular de la ONU, António Guterres.

• LEA TAMBIÉN: Darán taller sobre uso de Inteligencia Artificial en agronegocios y Turismo

La intención es que gobiernos, sector privado y sociedad civil puedan adoptar ese gran acuerdo en septiembre de 2024, durante la llamada Cumbre del Futuro convocada por la organización.

En 2021 Guterres planteó la idea que entonces ya pretendía la regulación de la IA, pero ahora es mucho más amplia ante el auge de esa tecnología en los últimos meses.

Para el secretario general de la ONU frente a la IA se asiste a su potencial disruptivo, tanto positivo como negativo, lo cual demanda unión para considerar los problemas y colaborar en la identificación de riesgos y formas ágiles de mitigarlos.

Resaltó que recientemente se superó un umbral digital, con el uso generalizado de IA generativa en la forma de ChatGPT y muchas otras aplicaciones, una tecnología que tendrá un gran impacto, aunque no está claro que vaya a ser bueno.

La perspectiva de un mayor progreso tecnológico ahora plantea más miedo que esperanza, incluso aquellos que han desarrollado IA se beneficiarían más de ella, expresan una profunda preocupación y han pedido acciones para su gobernanza, señaló.

También consideró necesario asegurar que el diseño y uso de la IA sea transparente, seguro y que esté bajo el control de humanos a los que se puedan pedir cuentas, por lo que se apuesta por combinar guías y normas internacionales, marcos regulatorios nacionales y estándares técnicos en un marco que facilite una gestión ágil.

Entre las acciones Guterres planteó la puesta en marcha urgente de una investigación junto a las empresas para asegurar que los sistemas de IA sean seguros y que se alineen con valores humanos, o el establecimiento de un grupo asesor de alto nivel con expertos que se reúnan regularmente para abordar estas cuestiones.