Aplicaciones de chatbots de IA - UNSPLASH/SALVADOR RIOS
MADRID, 14 Sep. (Portaltic/EP) -
La preocupación por el ritmo que está alcanzando el desarrollo de la inteligencia artificial (IA) ha llevado al Alto Comisionado de las Naciones Unidas para los Derechos Humanos, Volker Türk, ha hecho un llamamiento a Estados y empresas para gobernar una tecnología que ofrece muchos beneficios para la sociedad pero que también pone en riesgo los derechos humanos.
Türk ha pedido medidas urgentes y significativas para hacer frente a los riesgos sin precedentes de la IA en una carta abierta en la que se dirige a Estados y empresas responsables de la IA de frontera con el objetivo de "trazar un camino de acción para gobernar los modelos avanzados de IA de frontera, fundamentado en el derecho internacional de los derechos humanos".
"El verdadero reto hoy en día es cómo equiparar el ritmo de una gobernanza eficaz de la IA con el ritmo de su acelerado desarrollo", ha expuesto, insistiendo en que "necesitamos medidas urgentes adaptadas a los riesgos sin precedentes que plantea la IA de frontera".
Türk ha reconocido en su escrito los beneficios que ya ha demostrado tener esta tecnología, sobre todo en lo que respecta al conocimiento científico, el acceso a la información en múltiples idiomas y la producción agrícola.
Pero aborda también los daños que ya está haciendo: la discriminación, la erosión de la privacidad a gran escala, la automatización de servicios esenciales que excluyen a personas y colectivos, y las campañas de desinformación.
Daños a los que ya está expuesta la sociedad global y que se verán intensificados con los agentes de IA por su capacidad para "traducir objetivos en acciones, ejecutar flujos de trabajo complejos y operar con una supervisión humana limitada o nula", apunta.
Y ha recordado el 'hackeo' a Hugging Face, protagonizado por agentes autónomos de IA de OpenAI, al decir que "acontecimientos recientes han demostrado que los sistemas avanzados pueden generar comportamientos fuera de sus parámetros operativos previstos, eludir salvaguardas, ejercer el engaño y perseguir objetivos de forma autónoma de maneras que sus propios desarrolladores no anticiparon".
LOS DERECHOS HUMANOS, EN RIESGO
"Todos los derechos humanos están en riesgo", afirma contundente, al tiempo que insta a los Estados y a empresas de inteligencia artificial de frontera a colaborar para comprender y reforzar los controles que ya se aplican a esta tecnología y a aplicar una supervisión interna e independiente para aumentar la transparencia y la rendición de cuentas.
En los que respecta a los discurso hechos en los últimos días por los directos ejecutivos de los de los laboratorios de IA más importantes del mundo, OpenAI y Anthropic, sobre la necesidad de pausar o ralentizar el ritmo de desarrollo, Türk señala como paso importante limitar el uso de la automejora recursiva, un proceso por que una IA rediseña autónomamente su propio código para volverse más inteligente, en un bucle continuo y acelerado.
Un enfoque más colaborativo entre países --en referencia a la carrera de la IA que lideran Estados Unidos y China-- y una corregulación de la industria sin olvidar exigir a las empresas que actúen con responsabilidad y rindan cuentas si no lo hacen, completan las propuestas con las que Türk defiende un desarrollo de la IA que no comprometa los derechos humanos.
"La generación que ahora entra en la edad adulta heredará las consecuencias de las decisiones que se están tomando sobre esta materia sin haber tenido voz en ellas. Les debemos garantizar que esas decisiones se tomen de forma abierta, teniendo en cuenta sus derechos y con la humildad que exige la magnitud de este desafío", ha concluido Türk.