El actual presidente de los Estados Unidos, Joe Biden, ha firmado una orden ejecutiva que se ha calificado como «la acción más significativa tomada por cualquier gobierno para avanzar en el campo de la seguridad de la Inteligencia Artificial (IA)».
Esta medida coloca a los Estados Unidos en el centro del debate global sobre la gobernanza de la IA. Al mismo tiempo, en el Reino Unido, el Primer Ministro Rishi Sunak ha organizado una cumbre sobre seguridad en IA, que comenzó el 1 de noviembre en Bletchley Park.
Estas acciones resaltan la creciente importancia de la seguridad de la IA a nivel mundial, y el papel que está jugando esta tecnología en todos los ámbitos de la economía, incluyendo las copias de llaves.
¿De qué trata la orden ejecutiva de Biden?
La orden ejecutiva de Biden implica que los desarrolladores de IA deben compartir los resultados de las pruebas de seguridad con el gobierno de los Estados Unidos. Establece nuevos estándares de seguridad y privacidad para la IA y busca garantizar que la tecnología avance de manera segura.
A su vez, se centra en la protección de la privacidad del consumidor y en la prevención de la discriminación en los algoritmos de IA. Además, promueve la cooperación internacional para implementar estándares de IA en todo el mundo.
Una parte importante de esta orden es la colaboración con socios internacionales para establecer directrices y regulaciones comunes en el campo de la IA. Esto demuestra el compromiso de los Estados Unidos en liderar la discusión sobre seguridad de la IA a nivel global.
¿Qué se discute en el Reino Unido?
Mientras en los Estados Unidos se lleva a cabo esta significativa orden ejecutiva, en el Reino Unido se celebra una cumbre sobre seguridad en IA, organizada por el Primer Ministro Rishi Sunak.
Esta cumbre, que ha sido programada en respuesta a las crecientes preocupaciones sobre los riesgos asociados con el avance de los sistemas de IA, se llevará a cabo en Bletchley Park durante dos días.
La cumbre reúne a líderes de la industria de la IA, tanto del Reino Unido como del extranjero, junto con representantes de los principales gigantes tecnológicos. Sin embargo, la cumbre en el Reino Unido ha sido objeto de críticas.
Algunos expertos argumentan que la agenda de la cumbre se enfoca excesivamente en los riesgos existenciales de una IA con una inteligencia superhumana, lo que podría distraer de problemas más inmediatos relacionados con la IA.
Temas urgentes en la seguridad de la IA
Mientras que la cumbre del Reino Unido se centra en los riesgos existenciales de la IA, muchos expertos destacan la importancia de abordar temas más urgentes y concretos. Uno de los problemas más apremiantes es el sesgo y la representación inadecuada en los sistemas de IA.
Los algoritmos de IA a menudo refuerzan sesgos existentes, como estereotipos de género o raciales, lo que plantea problemas significativos en áreas como la selección de imágenes generadas por IA.
El uso de la IA en aplicaciones de vigilancia y seguridad también suscita preocupaciones en relación con la discriminación y la falta de equidad.
La cuestión de cómo se implementa la IA en áreas como la justicia, el monitoreo de la población y el acceso a servicios es un tema fundamental que requiere atención inmediata.
Además, el impacto ambiental de la IA es una preocupación creciente. El alto consumo de energía de los sistemas de IA podría superar el de países enteros en cuestión de años, lo que representa una amenaza significativa para el medio ambiente. A pesar de esta preocupación, la discusión sobre la huella ecológica de la IA no ha recibido la atención que merece.
Cooperación internacional y regulación
La orden ejecutiva de Biden en los Estados Unidos refuerza la importancia de la cooperación internacional en la regulación de la IA. La creación de estándares y regulaciones comunes es esencial para abordar los desafíos globales que presenta la IA.
Además, el llamado a la colaboración con socios internacionales resalta la conciencia de que la IA es un asunto que trasciende las fronteras nacionales.
La IA tiene el potencial de transformar radicalmente nuestra sociedad, y es fundamental que se realicen esfuerzos concertados para garantizar que lo haga de una manera responsable y segura.