Esta semana varias plataformas frenaron la IA sin curación humana visible. Snapchat recorta desde el 31 de julio el alcance de vídeos generados sin intervención humana reconocible en Spotlight, su sistema de recomendación. Google apagó la generación de imágenes de Google Earth solo tres días después de lanzarla. Tinder pausó su edición automática de fotos de perfil. Skylum, la empresa detrás de Luminar, reescribió su mensaje de marca para insistir en que la IA ayuda al fotógrafo, no lo sustituye.

El caso de Google Earth es el más claro. La función, llamada Nano Banana, generaba imágenes satelitales sintéticas sobre coordenadas reales. Usuarios produjeron la Torre Eiffel derribada, una planta nuclear ficticia en Irán y aviones estrellados contra rascacielos de Manhattan. Google la retiró el 3 de agosto: lo que circulaba no era una pieza de marca, era manipulación de evidencia sobre un mapa real.

Tinder tuvo un problema distinto pero de la misma familia. Su sistema ajustaba brillo, nitidez y rasgos físicos en fotos de perfil sin que el usuario lo pidiera ni lo supiera. El fallo no fue la edición en sí. Fue que el cambio llegó sin aviso y sin opción previa de rechazarlo.

El denominador común no es la calidad del render. Es la ausencia de aviso y de una mano visible detrás del output. Cuando el usuario no eligió el cambio, o no sabe que lo que ve es sintético, la reacción es rechazo inmediato. Las plataformas leen esto como riesgo de marca antes que como límite técnico, y actúan rápido: pausan la función, recortan alcance o cambian el guion de venta.

Para Lucía esto es un aviso de guion de marca: presentar una pieza como hecha con IA ya no basta, hay que explicar qué papel jugó el equipo humano en la decisión final. Para Ana implica revisar qué formatos automáticos publica sin retoque ni supervisión, porque el algoritmo de la plataforma puede penalizarlos igual que Spotlight penaliza el vídeo sin firma. Para Pablo cambia el argumento frente a un cliente: la curación manual pasa de ser un coste a ser el motivo por el que la pieza circula.

En los próximos 30 a 90 días conviene vigilar si otras redes copian el filtro de Snapchat contra el vídeo sin firma humana, y si Google o Adobe añaden algún aviso visible por defecto en sus generadores. Antes de publicar un output sin retocar, vale la pena preguntar si el brief exige mostrar la mano humana en el proceso, no solo en el resultado final.