El rey Carlos III advierte sobre los riesgos existenciales de la inteligencia artificial ante líderes globales

El rey Carlos III de Inglaterra encabezó este jueves un encuentro de alto nivel en Dumfries House, Escocia, donde instó a los principales ejecutivos y líderes mundiales del sector tecnológico a establecer salvaguardas contra los «riesgos existenciales» de la inteligencia artificial (IA). Durante la cumbre, el monarca enfatizó la necesidad de evitar que esta tecnología caiga en «manos equivocadas», lo que podría derivar en consecuencias catastróficas para la seguridad global.

En su discurso de apertura, el soberano subrayó que la responsabilidad de los desarrolladores trasciende el simple avance técnico, orientándose hacia la garantía de que la tecnología sirva a la humanidad, a las comunidades y al mundo natural. El monarca recordó que los propios creadores de estos sistemas alertan con frecuencia sobre la posibilidad de que la IA desarrolle «capacidades siniestras» que podrían comprometer la vida humana si su desarrollo no se gestiona bajo criterios éticos estrictos.

La reunión contó con una representación de primer nivel que incluyó a directivos de firmas líderes como Nvidia, Google DeepMind, OpenAI y Anthropic. Asimismo, el evento adquirió una dimensión institucional y diplomática con la presencia de delegaciones de China y el Vaticano, además de la participación del secretario de Estado británico, Kanishka Narayan, reflejando la relevancia de la gobernanza de la IA en la agenda internacional actual.

A pesar de las advertencias del monarca, la visión regulatoria no fue compartida unánimemente por los asistentes. Jensen Huang, CEO de Nvidia, se posicionó en contra de una regulación restrictiva similar a la aplicada a las redes sociales. Huang argumentó que la IA debe ser tratada como una disciplina de ingeniería y no meramente como un producto, defendiendo que el control de seguridad debe realizarse en «laboratorios cerrados» mediante pruebas técnicas antes de cualquier lanzamiento al público general.

El directivo de Nvidia también señaló que ya existen leyes que regulan ámbitos donde la IA ya se aplica, como la salud, el transporte o el entretenimiento, sugiriendo que la intervención gubernamental solo debe producirse cuando el desarrollo tecnológico presente desviaciones claras. Esta postura alinea a Huang con otros empresarios del sector, como Mark Zuckerberg, quienes mantienen una distancia crítica frente a los llamamientos de «pausa» en el desarrollo tecnológico propuestos por líderes de otras compañías como SpaceX o Anthropic.

El debate en Escocia se enmarca en una creciente controversia geopolítica sobre la velocidad de la innovación. Mientras algunos sectores abogan por ralentizar el despliegue de modelos avanzados, figuras políticas como el presidente de Estados Unidos, Donald Trump, han manifestado su rechazo a frenar el avance de la IA, sosteniendo que cualquier limitación deliberada en el desarrollo occidental podría ser aprovechada por competidores estratégicos, específicamente China.