“Podríamos perder el control del futuro”: OpenAl y Anthropic alertan ante la ONU sobre los riesgos de la IA

Amodei aseguró que una mala gestión de la IA “podría suponer un riesgo para la humanidad en su conjunto”. El pronóstico fue respaldado por Altman, quien advirtió que, de no tomar las medidas necesarias, “podríamos perder el control del futuro a manos de la IA”.

Por su parte, Delangue precisó que el mayor riesgo no es, por sí solo, el desarrollo de una IA con grandes capacidades. A su juicio, la amenaza está en la brecha que separa los buenos y malos usos de la tecnología, así como en las capacidades dispares entre empresas y países para defenderse de estos ciberataques de nueva generación. Por ello, defendió la necesidad de transparentar los procesos de desarrollo e impulsar los sistemas de código abierto. “El mundo necesita la IA de código abierto más que nunca para defenderse”, aseguró.

Bengio sostuvo que todos estos riesgos son inminentes y reales. Advirtió que se trata de una “amenaza sin precedentes” que no respeta fronteras y que ningún país puede contener por sí solo.

El debate despierta diversas incógnitas: ¿quién debería regular esta tecnología que avanza a un ritmo sin precedentes y, al parecer, fuera del control humano? ¿En realidad las empresas de IA están dispuestas a someterse a una normativa que frene su innovación? ¿Todos los países tienen la capacidad para garantizar el desarrollo y uso de una IA segura?

Aunque existe cierto consenso sobre las posibles amenazas, los especialistas aseguran que ninguna empresa ni país están dispuestos a frenar su innovación ante el temor de quedar rezagados frente a sus rivales.

No bastan las “buenas intenciones”

Los analistas más escépticos sobre los riesgos existenciales de la IA aseguran que el discurso alarmista no es más que una estrategia de marketing y una técnica con la que los grandes desarrolladores pretenden influir en la regulación de esta tecnología.

A su juicio, la verdadera amenaza de esta tecnología no está, por defecto, en su avance, sino en los contextos en los que se desarrolla y los usos que la propia humanidad podría darle.

António Guterres, secretario general de la ONU, precisó que, aunque es esencial que cada país regule a las empresas de IA que operan en su territorio, la coordinación global es indispensable para garantizar una gobernanza efectiva alrededor de su uso.

Propuso que los países con mayor capacidad y que están a la vanguardia de la IA deberían establecer mecanismos de contacto, intercambiar información y crear salvaguardias comunes para evitar que la carrera por dominar la nueva tecnología conduzca a “un desastre gigantesco a nivel mundial”.

De esta manera, concluyó que “si creemos que el desarrollo de la IA debe ralentizarse cuando los riesgos se vuelven demasiado grandes, necesitamos algo más que buenas intenciones”.