La teoría dice que Apple quiere protegernos de fotos de desnudos no deseados. La realidad es que censura fotos de perros

Si hay algo que se le pide a un sistema automático de detección es que, aparte de funcionar cuando debe, es minimizar los falsos positivos. Y ahí es donde la función de Apple ha quedado en entredicho después de que un usuario relatase un caso tan llamativo como inesperado.

La historia la contó Jason Koebler en 404 Media, después de que un amigo intentase enviarle un vídeo de su perro. Antes de que el archivo se enviase, el iPhone mostró la advertencia de contenido sensible que normalmente aparece cuando el sistema cree haber detectado desnudez. Sin embargo, el vídeo únicamente mostraba al animal, sin ningún tipo de contenido sexual.

El caso pone sobre la mesa una limitación inherente a este tipo de modelos de inteligencia artificial. Aunque el análisis se realiza íntegramente en el dispositivo y Apple nunca llega a ver las imágenes, el algoritmo puede equivocarse al interpretar determinadas formas, colores o ángulos de la escena. ¿Protege la privacidad? Sí, pero no es infalible.

Cabe decir que este no parece ser un caso aislado. En los últimos meses han aparecido en foros como Reddit varios usuarios que aseguran haber recibido la misma advertencia al compartir fotografías de perros, gatos o simplemes memes o imágenes que en ningún caso contenían desnudos. 

Aunque estos testimonios son anecdóticos, apuntan a que los falsos positivos existen y pueden producirse en situaciones cotidianas. Lo bueno en estos casos es que la función de Apple no elimina el contenido, ni lo comparte con terceros para su revisión. Son simples advertencias ante las cuales actúa el usuario.

En cualquier caso, no parece tratarse de un problema especialmente grave. El principal inconveniente es que estos falsos positivos pueden generar confusión o incluso un susto inicial al hacer creer al usuario que va a recibir un desnudo cuando, en realidad, solo se trata de una imagen o vídeo completamente inocente.

En Applesfera | Nuevo iOS 27 – Todas sus novedades, iPhone compatibles y cómo probarlo antes que nadie

En Applesfera | Cómo conseguir mejores fotografías con tu iPhone cambiando estos ajustes