Un investigador de IA advierte ante el Ayuntamiento de Nueva York: “Estamos compitiendo por crear y desarrollar a nuestro propio adversario”

La sesión contó con representantes de Google, Meta, Anthropic y OpenAI, y todos ellos respondieron bajo juramento a preguntas sobre la seguridad real de sus modelos. Julie Menin, presidenta del Ayuntamiento, aprovechó el espacio para cuestionar la capacidad de las compañías a la hora de cuantificar los riesgos más graves y, al mismo tiempo, determinar quién asumiría las responsabilidades si sus sistemas ocasionaran daños.

La preocupación de los investigadores también apunta a la necesidad de establecer medidas de supervisión independientes y una mayor transparencia. El Ayuntamiento de Nueva York estudia nuevas obligaciones para las empresas, entre ellas verificaciones externas y mecanismos de protección para los denunciantes. El debate, por tanto, no se limita a competir con China, sino a determinar cómo desarrollar una tecnología cada vez más capaz sin perder la posibilidad de controlarla.

Foto | Canva

En Genbeta | La metamorfosis de la noche: por qué la Gen Z ya no va (casi) a discotecas