El atasco se movió, no desapareció

Meta instaló software en los ordenadores de sus empleados en Estados Unidos para registrar pulsaciones de teclado y movimientos de ratón. El objetivo declarado era entrenar a la inteligencia artificial. La plantilla entendió rápido lo que estaba pasando: les estaban grabando para construir a quien iba a hacer su trabajo.

La puntuación interna de satisfacción cayó del 74% al 55%. El programa de rastreo se acabó pausando. Y la noche del 19 de mayo, unas horas antes de la primera oleada de despidos, el plan entero se frenó. Se ejecutó el recorte de ese día, se canceló la planificación del siguiente. El proyecto contemplaba reducir algunos equipos hasta un 60% y sustituir el trabajo por agentes.

Casi toda la cobertura ha contado esto como un conflicto laboral. Una empresa se pasó de frenada, la gente se rebeló, la empresa recogió cable. Es una historia limpia y probablemente cierta. La recoge Reuters en una investigación que publica aquí.

A mí me interesa otra cosa. La aritmética.

Lo que se multiplicó y lo que no

Los cambios de código sobre las plataformas internas y la infraestructura que usan sus empleados subieron un 220% en un año. Los cambios que acababan convirtiéndose en una función nueva o mejorada para un usuario subieron un 36%.

Conviene decir esto con cuidado, porque las dos cifras no miden el mismo sistema y he visto ya a bastante gente tratarlas como si fueran una división. Un 36% interanual en producto entregado no es un desastre. En la mayoría de las empresas sería un año bueno.

El cuello de botella nunca fue escribir el código. Fue alguien con contexto suficiente para leer un cambio y decir si entraba o no.

Esa capacidad no se multiplicó por tres. Siguió siendo la misma gente, con las mismas horas, chequeando el triple de cosas.

Y lo que no se revisa bien vuelve más tarde y más caro. Los incidentes técnicos y de seguridad graves subieron un 40%. El tiempo dedicado a contenerlos, un 70%.

La bifurcación

Cuando multiplicas lo que produce un sistema sin multiplicar lo que lo valida, solo hay dos salidas. No hay una tercera.

La primera es que valide un humano. Entonces el atasco simplemente se muda. Deja de estar en producir y pasa a estar en revisar, que además es más caro por unidad, porque revisar exige contexto y el contexto vive concentrado en poca gente.

Esto ya está medido, y no solo en Meta. En mayo se publicó que más de una de cada cinco revisiones de código en la mayor plataforma de repositorios del mundo implica ya a un agente, y que los pull requests de agentes se multiplican más rápido que la capacidad humana de revisarlos. Un estudio académico sobre 3.177 pull requests escritos por agentes, con casi veinte mil comentarios de revisión analizados, encontró que cerca del 70% sufren revisiones más largas, se quedan sin revisar o se rechazan. En una multinacional de electrónica que metió revisión asistida por IA con 238 desarrolladores, el tiempo medio de cierre de un pull request pasó de cinco horas y cincuenta y dos minutos a ocho horas y veinte.

Y el dato que más me gusta es de la propia Meta, de un experimento aleatorizado anterior a todo esto: cuando a los revisores se les enseñaban los parches generados por IA, dedicaban un 6,7% más de tiempo a examinar el código. No porque les tocara, sino porque se sentían obligados a verificar lo que la máquina proponía aunque ese no fuera su papel. Cuando cambiaron la interfaz para que el parche solo lo viera el autor, los tiempos volvieron a la normalidad.

Ahí está el mecanismo, desnudo. Producir es barato y paralelizable. Confiar no lo es. Cada cosa que produces sin confianza incorporada genera una deuda que alguien paga después.

La segunda salida es que valide otra IA.

Cuando lo que sale vuelve a entrar

Aquí conviene frenar, porque cambio de terreno y no quiero colar un salto.

Un agente revisando el código de otro agente no reentrena nada. Los errores se acumulan dentro de un ciclo de entrega, no dentro del modelo. Llamar a eso colapso de modelos sería impreciso, y quien sepa del tema lo detectaría en la primera línea.

Lo que sí se traslada es la forma del problema: un sistema que pierde su referencia externa y se queda validándose contra sí mismo. Y hay un sitio donde eso deja de ser analogía y pasa a ser literal. Es aquel en el que lo que sale del sistema vuelve a entrar como material de aprendizaje.

Eso no pasa con el código de una empresa. Pasa con todo lo que se publica.

Existe un fenómeno documentado por el que un modelo entrenado sobre lo que generan modelos anteriores se degrada, generación tras generación, hasta volverse inútil. Suele contarse como una profecía: la IA se alimentará de sí misma y colapsará sola.

No es eso lo que dice la literatura, y la diferencia es la parte importante.

El colapso aparece en un régimen concreto: cuando los datos sintéticos sustituyen a los reales, es decir, cuando cada generación aprende solo de lo que produjo la anterior y lo original desaparece del conjunto. En ese régimen el error crece sin límite.

Es la diferencia entre fotocopiar siempre el original y fotocopiar la última fotocopia. En el primer caso pierdes algo de calidad y ahí se queda. En el segundo, a la vigésima no queda nada legible.

Lo sintético acumulado junto a lo real es la primera. Lo sintético sustituyendo a lo real es la segunda. No son dos grados de lo mismo. Y lo único que hay que saber es en cuál de las dos estás.

Hay que decir que esto sigue en discusión. Hay trabajo que sostiene que fracciones pequeñas de datos sintéticos bastan para disparar la degradación, y trabajo que muestra que la acumulación protege solo bajo ciertas condiciones y no siempre. No es un asunto cerrado y no lo voy a vender como tal. Pero el eje sustitución contra acumulación se sostiene, y es el que permite razonar en vez de agorear.

Y aquí es donde vuelvo al principio. Grabar el teclado de la gente para entrenar al sistema, y despedir después a esa gente, es la definición operativa de pasar de acumulación a sustitución. La fuente de criterio original deja de alimentar el conjunto. Lo único que sigue entrando es lo que produjo la generación anterior.

Por qué el código es el caso fácil

Meta se enteró. Tardó cinco meses, pero se enteró.

Se enteró porque un servicio se cae. Un test falla. Hay una alarma, hay un postmortem, hay alguien despierto a las tres de la mañana arreglando algo. El bucle se cierra contra la realidad. Tarde y caro, pero se cierra. Ese 40% de incidentes y ese 70% de tiempo de contención son literalmente el sonido del sistema corrigiéndose.

Existe un oráculo. Algo externo al bucle que dice si lo que salió estaba bien.

Ahora quita el oráculo.

En un feed no se cae nada. No hay caída de servicio cuando lo que se publica se vuelve plano, promediado y perfectamente correcto. Nadie abre un postmortem porque esta semana hayas leído veinte posts que dicen lo mismo con las mismas tres frases. No hay señal de fallo, y sin señal de fallo el bucle puede correr indefinidamente sin que nada lo pare.

Las cifras sobre cuánto contenido de LinkedIn escribe ya un modelo varían mucho según quién mida. Un análisis sobre más de un millón de publicaciones sitúa en un 41% los textos largos íntegramente generados por IA, y señala que esa red concentra el 62% de todo el contenido automatizado detectado entre cinco plataformas. Otra medición sobre cinco mil publicaciones eleva a un 81% las que muestran uso de IA por encima de lo moderado. Conviene saber que quien publica estas cifras vende detección de IA, que es exactamente el tipo de conflicto de interés que yo señalo en otros sitios, así que las trato como orden de magnitud y no como dato fino. La plataforma ha cuestionado los estudios sin aportar datos propios comparables, que es su derecho y también es una respuesta.

Aun con toda esa cautela, la dirección no está en duda. Y la consecuencia sí es razonable: cada vez más de lo que se publica se escribe a partir de lo que ya se publicó, en un entorno donde no hay ninguna alarma que se dispare cuando la calidad baja.

Lo que esto cambia si te dedicas a esto

La conclusión no es que la inteligencia artificial no sirva. Sirve, y en producción bruta no hay color.

La conclusión es que la capacidad de decidir se ha convertido en el recurso escaso, y que casi nadie la está midiendo. Meta contaba commits porque era lo que sabía contar. Tenía métricas, alarmas y un directivo técnico enseñando gráficas de crecimiento. Con todo eso a favor, tardó cinco meses en ver que el coste se había mudado a los incidentes y a las horas de contención.

Meta es el caso bueno. Es el techo de lo que se detecta cuando tienes instrumentación de verdad.

Quien hace contenido no tiene nada de eso. No hay incidente, no hay autopsia, no hay alarma. Solo está la decisión de qué se publica y qué no, tomada por alguien, una pieza cada vez.

Eso no es una defensa sentimental de lo humano. Es la única cosa que mantiene el sistema en régimen de acumulación en vez de sustitución. Curar no es tener buen gusto. Es el mecanismo.

Donde no hay alarma, el bucle no se para solo.