Primera cumbre global de seguridad de IA tiene lugar en Reino Unido

El tema de hacia dónde se dirige el desarrollo de la IA y cuáles serán sus consecuencias constituye una cuestión neblinosa. No es muy claro y es difícil de iluminar. El Reino Unido es lugar de acogida de la primera cumbre global de seguridad en Inteligencia Artificial en el Bletchley Park. Se reunieron más de 100 representantes que evaluarán los riesgos de esta tecnología que se desarrolla a paso veloz.

Este año destacó la polémica del uso de generadores de texto como ChatGPT, que pusieron en el filo a diversas instituciones educativas, destapando un problema latente: la falta de regulación en materia de Inteligencias Artificiales, así como dilemas éticos y la capacidad de contrarrestarla. Incluso se motivó a que expertos de diversas ramas firmaran una solicitud conjunta para detener su desarrollo en lo que encontraban maneras de resolver este problema.

La reunión en Bletchley Park fue una congregación multidisciplinaria de profesionales: académicos, políticos, ejecutivos de la industria tecnológica estarán presente, al igual que  representantes de alta escala como el secretario general de la ONU, António Guterres y la presidenta de la Comisión Europea, Ursula von der Leyen. El objetivo de esta primera cumbre es evaluar los riesgos que implica esta tecnología y dar soluciones a la necesidad de regular el futuro de las IA. La sesión inaugural fue este miércoles 1 de noviembre. Esta sesión tuvo una limitada presencia de público civil.

Un tema importante para revisar es el de ChatGPT, producto de OpenAI, la empresa creada por Elon Musk y Sam Altman. Las capacidades de la IA exceden por mucho la compleja habilidad de generar texto. Pueden crear imágenes y sonidos. En la industria de la música existe la preocupación con relación a la creación de letras musicales y de extracción de voces para crear con ellas cualquier canción sin la presencia del cantante. Se va desdibujando el horizonte de los derechos de autor y la claridad de lo que considerábamos “original” se vuelve cada vez un concepto más difuso. Las IA permiten hacer estimaciones y cálculos a través de sistemas de aprendizaje, que anteriormente resultaban imposibles. Han sido también soporte para la medicina pero, ¿qué no se puede hacer con ella? He ahí la preocupación.

Yoshua Bengio y Geoffrey Hinton, reconocidos como los “padres fundadores” de este tipo de tecnología emitieron una carta abierta el martes donde piden “la elaboración y ratificación de un tratado internacional sobre IA“, en aras de reducir los potenciales riesgos para la humanidad que supone su uso descontrolado. Esta cumbre es como una vacuna preventiva a los males que pudieran aparecer en el futuro. Es una primera dosis de protección ante la catástrofe de un sistema regulatorio libre y ciego ante las acciones de los gigantes tecnológicos.

OpenAI, Meta (Facebook) y DeepMind (Google) aceptaron pasar a dominio público algunas de sus reglas de seguridad sobre la IA, a raíz de la solicitud de Reino Unido. La vicepresidenta de Estados Unidos, Kamala Harris, notificó sobre la creación de un instituto sobre seguridad de la IA, que tendrá su sede principal en Washington. Por otra parte, el gobierno británico propuso crear un grupo de analistas internacionales dedicado a este asunto, rebasando el plano de la evaluación de riesgos.