Una muy mala defensa: «no fui yo, fue la inteligencia artificial»

Desde que apareció la inteligencia artificial generativa y su uso se hizo habitual entre mis alumnos, les he estado diciendo lo mismo: pueden usarla, sí, siempre que la usen bien. Es decir, seguramente se plantearán usarla porque les ayuda a reducir el tiempo que emplean en la creación y desarrollo de un trabajo, pero eso debería llevarles a incrementar su tiempo de supervisión, porque si hay algo que no voy a aceptar bajo ningún concepto si me entregan un trabajo con alguna estupidez, barbaridad o tontería, es que se escuden en «no es culpa mía, fue una alucinación del chatbot«.

No, la responsabilidad no es del chatbot por producir una alucinación, es tuya por no supervisar el contenido adecuadamente y dejarla pasar. Es exactamente como debe ser: si tu perro escapa y muerde a alguien, el culpable y el que merece la sanción no es el animal, eres tú por dejarlo escapar. Lo que necesitamos no son guardrails para los modelos de inteligencia artificial, los necesitamos para los imbéciles irresponsables que los crean.

El hackeo de Hugging Face por OpenAI no fue una simple alucinación: fue una empresa completamente irresponsable que puso modelos muy potentes a resolver pruebas de ciberseguridad con unas salvaguardas ridículas y una supervisión completamente deficiente. No hay «una máquina misteriosa y superinteligente», sino una compañía que crea una capacidad, elimina los controles mínimamente razonables y acepta el riesgo porque la idea de presentar un modelo «tan potente que no lo podemos parar» le pone mucho y le puede dar una apariencia de superioridad en el mercado.

La sección 1714.46 del Código Civil del Estado de California, aprobada en 2025, establece literalmente que quien desarrolló, modificó o utilizó una inteligencia artificial no puede alegar como defensa que esta causó autónomamente el daño. Es exactamente lo mismo que digo a mis alumnos: el ejercicio lo entregaste tú, no el chatbot, la responsabilidad (y la mala nota) son tuyas.

Por el momento, hablamos de alegaciones, no de una sentencia: OpenAI afirma que todo el procedimiento carece de fundamento, y el demandante no solicita indemnizaciones ni penas de cárcel, sino simplemente una orden judicial que impida nuevos accesos no autorizados o prácticas inseguras. Estamos ya en «no vale decir que lo hizo el modelo», pero aún no en atravesar, como creo que hay que hacer ya, la barrera de la responsabilidad personal, la de los ingenieros que no protegen o de los directivos que les piden que no lo hagan.

La imprudencia grave de quienes dirigen una compañía, cuando permite que una inteligencia artificial salga de su entorno controlado y cause daños graves, debe conllevar responsabilidades igualmente graves. Si tienes un animal y no sabes dominarlo, la culpa de lo que haga es completamente tuya. ¿Quién autorizó que ese modelo tuviese capacidades ofensivas? ¿Quién conocía las señales anteriores o el posible riesgo? ¿Quién decidió prescindir de controles disponibles? ¿Quién permitió que el experimento continuase? Si respondemos a eso con una multa corporativa, que pagan simplemente los accionistas, en lugar de con responsabilidades penales individuales, estaremos cometiendo el mismo error que nos ha traído muchos males anteriores. O sabes que te juegas la cárcel, o no vas a internalizar el posible riesgo que conllevan tus malas decisiones.

Quien conserva los beneficios de la automatización no puede externalizar sus daños atribuyéndolos a la autonomía de la máquina. Un agente puede actuar solo; lo que no puede hacer es asumir la responsabilidad de quienes decidieron soltarlo para que lo hiciera.

In English on Medium, «What happens when we let AI off the leash«