En un movimiento histórico, Israel ha firmado un tratado internacional destinado a abordar las crecientes preocupaciones sobre el uso ético y la gobernanza de la inteligencia artificial (IA). Este tratado, impulsado por el Consejo de Europa y respaldado por 57 países, incluidos Estados Unidos, Reino Unido y varios miembros de la Unión Europea, es el primer acuerdo internacional legalmente vinculante de su tipo. Su objetivo principal es mitigar los riesgos de que los sistemas de IA produzcan resultados dañinos y discriminatorios, al tiempo que garantiza la protección de los derechos humanos, la democracia y el estado de derecho.

Por qué la participación de Israel es importante

La decisión de Israel de unirse a este tratado posiciona al país como un actor clave en el diálogo internacional sobre la gobernanza de la IA. La ministra de Innovación, Ciencia y Tecnología, Gila Gamliel, destacó la importancia de la participación de Israel, señalando que el tratado subraya el compromiso del país con el avance tecnológico responsable y los valores de derechos humanos. Al convertirse en un socio pleno en la creación de políticas internacionales sobre IA, Israel busca asegurarse un lugar a la vanguardia del desarrollo de la inteligencia artificial en los próximos años.

Sin embargo, este avance llega en un momento en que Israel enfrenta dificultades para atraer inversiones en IA, particularmente tras el conflicto en curso con Hamas. Este tratado representa una oportunidad para que el país tranquilice a los inversores y partes interesadas globales sobre su dedicación a la innovación ética y su liderazgo tecnológico.

La importancia de un tratado global sobre IA

La creación de este tratado llega en un momento crítico, en medio de la rápida evolución de las tecnologías de IA. A medida que los sistemas de IA se integran cada vez más en diversos sectores—desde la atención médica hasta la seguridad nacional—crece el potencial de mal uso y consecuencias no deseadas. El principal objetivo del tratado es establecer principios, reglas y estándares fundamentales para garantizar que el despliegue de IA esté alineado con los valores democráticos y los derechos humanos.

La inteligencia artificial, definida como la tecnología que permite a las máquinas aprender y resolver problemas, ha avanzado significativamente en los últimos años, gracias a las mejoras en la potencia computacional y la gran cantidad de datos disponibles para análisis. Estos desarrollos han llevado al uso generalizado de la IA en aplicaciones como el reconocimiento facial, la detección de enfermedades y la estrategia militar global. Sin embargo, a medida que la IA se vuelve más sofisticada, los riesgos asociados con su mal uso se han vuelto más evidentes.

Los riesgos de una IA no regulada

Los expertos en el campo han sido claros sobre los peligros potenciales de la IA si no se regula adecuadamente. Aunque la IA ofrece un enorme potencial para el crecimiento económico y el avance tecnológico, su mal uso podría causar graves daños a la sociedad. Una de las principales preocupaciones es que la IA podría utilizarse para socavar las instituciones democráticas, infringir los derechos humanos y manipular la opinión pública.

La inteligencia artificial generativa, una rama de la IA que puede crear contenido que imita la creatividad humana, ya ha demostrado su potencial para causar daño. Herramientas como ChatGPT de OpenAI se han utilizado para crear deepfakes, difundir desinformación e incluso violar leyes de derechos de autor. Más preocupante aún es la posibilidad de que los sistemas de IA avanzados en el futuro manipulen a los seres humanos para que cedan el control, lo que representa una amenaza directa para la gobernanza democrática y la estabilidad social.

Sam Altman, CEO de OpenAI, ha sido un defensor de una mayor regulación en el campo de la IA. Ha propuesto la creación de un organismo internacional, similar a la agencia nuclear de las Naciones Unidas, para monitorear y controlar el uso de tecnologías de IA. Altman y otros advierten que sin la supervisión adecuada, la IA podría convertirse en una herramienta de explotación y daño, particularmente en áreas críticas como la infraestructura, la educación y la seguridad pública.

El panorama de IA en Israel: desafíos y oportunidades

Aunque Israel ha sido un líder en innovación de IA durante años, enfrenta una fuerte competencia de potencias mundiales como Estados Unidos y Europa. El ecosistema de IA del país, que incluye startups pioneras como AI21 Labs, está lidiando con el desafío de atraer inversiones en un mercado altamente competitivo y en rápida evolución. AI21 Labs, cofundada por el experto en IA israelí Prof. Amnon Shashua, es una empresa de procesamiento de lenguaje natural (NLP) centrada en llevar la IA generativa al público. La compañía compite directamente con OpenAI y sus innovaciones están ayudando a expandir los límites de lo que puede lograr la inteligencia artificial.

Sin embargo, Shashua ha advertido que, aunque la IA generativa puede producir resultados impresionantes, como la creación de imágenes y la mejora del análisis de datos, aún no ha alcanzado el nivel de la verdadera inteligencia humana. Cree que la actual ola de innovación en IA es solo el comienzo, con mucho más potencial en el horizonte.

“La IA tiene el potencial de imitar la inteligencia humana para resolver problemas complejos”, explicó Shashua durante una conferencia en Tel Aviv. Sugirió que dentro de unos años, los sistemas de IA podrían avanzar hasta el punto de no solo resumir artículos o responder preguntas, sino también resolver problemas como un experto humano. Esto, argumentó, cambiaría fundamentalmente la relación entre humanos y máquinas.

Las disposiciones del tratado y su aplicación

El tratado sobre IA del Consejo de Europa establece un marco legal integral para monitorear y mitigar los riesgos asociados con la IA. Obliga a las naciones firmantes a asegurarse de que los sistemas de IA no se utilicen para socavar las instituciones democráticas ni violar los derechos humanos. Los firmantes también deben monitorear los resultados de la IA para proteger la privacidad personal, la seguridad de los datos y la independencia de las instituciones judiciales.

Las principales disposiciones del tratado incluyen:

• Evaluación y mitigación de riesgos: Los países deben identificar, evaluar y minimizar los riesgos que plantean los sistemas de IA. Esto requiere una evaluación exhaustiva de los impactos potenciales de la IA sobre los derechos humanos, la democracia y el estado de derecho.
• Responsabilidad por resultados dañinos: Los gobiernos serán responsables de los resultados dañinos o discriminatorios producidos por los sistemas de IA dentro de su jurisdicción.
• Protección de la privacidad y los datos: El tratado impone directrices estrictas para proteger la privacidad individual y los datos personales del mal uso por parte de tecnologías de IA.
• Monitoreo de los procesos democráticos: Los sistemas de IA no deben utilizarse para interferir con la integridad de las instituciones democráticas, incluido el respeto por la separación de poderes y la independencia judicial.

A pesar de estas medidas integrales, algunos críticos han expresado preocupaciones sobre la aplicabilidad del tratado. El acuerdo no especifica sanciones ni multas en caso de incumplimiento, lo que lleva a algunos a cuestionar si será efectivo para responsabilizar a los países por sus políticas de IA. Además, la falta de consecuencias específicas podría debilitar la capacidad del tratado para garantizar una adherencia significativa a sus principios.

El camino a seguir: equilibrar la innovación y la regulación

A medida que la IA sigue dando forma al futuro de la tecnología, los gobiernos de todo el mundo están lidiando con cómo equilibrar la innovación con la gobernanza ética. La participación de Israel en el tratado de IA del Consejo de Europa demuestra el compromiso del país con ser parte de la solución. Colaborando con socios internacionales, Israel busca fomentar un desarrollo responsable de la IA que proteja los derechos humanos y la democracia, al tiempo que permite el progreso tecnológico.

Si bien el tratado representa un paso significativo hacia la gobernanza de la IA, también destaca los desafíos que se avecinan. El rápido ritmo de la innovación en IA significa que las regulaciones deberán evolucionar rápidamente para mantenerse al día con los nuevos desarrollos. A medida que naciones como Israel trabajen para implementar las disposiciones del tratado, la comunidad global estará atenta para ver cuán efectivo será este marco legal en mitigar los riesgos que plantea la IA.

En conclusión, la firma de Israel del primer tratado internacional sobre IA es un momento crucial en el esfuerzo continuo por garantizar que la tecnología de inteligencia artificial se desarrolle y despliegue de manera responsable. Aunque el tratado establece pautas importantes para el uso ético de la IA, el verdadero desafío será su aplicación y la capacidad de las naciones para colaborar de manera efectiva frente al rápido cambio tecnológico. Para Israel y la comunidad global, el camino a seguir requiere un equilibrio cuidadoso entre la innovación, la regulación y la protección de los derechos humanos fundamentales.

Fuente: https://www.shalomisrael.es/israel/israel-firma-tratado-global-para-abordar-los-riesgos-de-la-inteligencia-artificial/