PARADOJA: ilustración y la antinomia de regular la IA

Autor > Oscar Senonez / La ausencia de ilustraciones en este artículo es intencional.

Siguiendo el camino trazado en artículos anteriores, y habiendo comentado sobre el futuro de la ilustración en : "Futurismo: el futuro de la ilustración ante la IA", hoy me explayaré un poco sobre el tema de la regulación de la IA y dos problemas que observo. Dos paradojas y una de ellas la considero muy perjudicial.

Un problema real, no teórico 

Ante esto, surgen pedidos de regulación que intentan poner límites. 

A grandes rasgos, esas propuestas buscan exigir consentimiento explícito para cualquier dato usado en entrenamiento (un modelo opt-in donde solo se incluyen obras autorizadas), la destrucción retroactiva de bases de datos existentes construidas sin permiso, marcas de agua obligatorias en todos los outputs generados por IA para identificar lo sintético, y prohibiciones directas a herramientas o empresas que operen sobre datos no éticos.

Apoyo una regulación de la inteligencia artificial. Es necesario algún tipo de marco normativo que establezca criterios éticos y un orden claro para prevenir los abusos que puedan derivarse de su uso. 

Sin ir más lejos, este año varios creadores de contenido denunciaron públicamente que YouTube modificaba videos reales mediante IA sin el consentimiento de sus autores. Ya no solo vemos una avalancha de videos con avatares, información generada por IA y voces artificiales (el llamado slop), sino que ahora incluso los videos reales son alterados por la inteligencia artificial sin que nadie se entere. La realidad se desvanece progresivamente en internet: 

Es claramente justo en teoría proteger la autoría humana y frenar abusos futuros. Pero aquí entra la antinomia ( esa contradicción inherente) que hace que regular, en la práctica, no sea tan sencillo ni tan inocuo como parece.

Las dos paradojas

La paradoja del robo legal

En principio creo que es honesto reconocer, por más lamentable que sea, que el daño ya está hecho. Ese "robo fundacional" en la práctica es irreversible, y cualquier intento de borrón y cuenta nueva ignora que los datasets contaminados ya forman la base de la tecnología actual. 

Buscamos y reclamamos que se aplique ética, lo cual es correcto, pero quejarse por una IA alimentada con datos robados y luego pretender regularla es, en esencia, una forma de legitimar el robo inicial. Es como poner reglas a un ladrón después del hurto. Se "civiliza" el comportamiento futuro, se hace "menos malo" con opt-in para nuevos datos, pero no se devuelve lo sustraído ni se compensa a las víctimas retroactivamente.

Es verdad que dentro de las propuestas de regulación se propone compensaciones retroactivas a los artistas afectados. Pero he aquí un dilema sobre eso… parece imposible en la práctica.

Los datasets de entrenamiento para IA generativa de imágenes (como LAION-5B o los scrapes propietarios usados por modelos como Stable Diffusion, DALL-E o Midjourney) contienen miles de millones de pares texto-imagen extraídos de internet. En muchos casos, estos datasets se construyen procesando los rastros de archivos web masivos como Common Crawl, de donde se extraen las URLs de las imágenes y el texto que las rodea, pero descartando toda la información de origen incrustada en los archivos.

Identificar a "algunos" artistas robados es posible en casos notorios (por ejemplo, artistas famosos como Greg Rutkowski o Alphonse Mucha han podido ser rastreados en datasets públicos), pero para la mayoría es imposible por varias razones:

La escala del robo es abrumadora; aunque existen herramientas de búsqueda por similitud que permiten rastrear obras específicas dentro de algunos datasets públicos, aplicarlas a escala masiva es logísticamente inviable. La gran mayoría de esas imágenes carecen de firmas digitales claras, son capturas de pantalla, ediciones anónimas o simples reposteos sin crédito, lo que hace imposible reconstruir la autoría de miles de millones de archivos de forma sistemática. El anonimato es inherente a todo el proceso. Muchas obras circulan sin rastro de su origen, y el scraping no preserva ninguna cadena de atribución. Lo que queda es una foto suelta, flotando en un mar de datos sin dueño aparente. El volumen es tan inmenso que la tarea se vuelve materialmente imposible.

Además, el uso no es trazable. Las empresas detrás de los modelos no revelan los datasets completos, y aunque algunos como LAION son públicos, la mayoría no lo son. Saber si tu obra específica fue utilizada requiere, en la mayoría de los casos, un acceso que no existe. En modelos cerrados, los datasets son secretos comerciales; y aunque en modelos de código abierto se han documentado casos de memorización que permiten identificar imágenes concretas en el entrenamiento, para el artista promedio no hay ningún mecanismo accesible de verificación. La carga de la prueba recae sobre la víctima, que debe demostrar algo que la empresa no tiene obligación de revelar.

En resumen, sí se puede identificar a algunos artistas (los que tienen estilos únicos u obras virales), pero para la inmensa mayoría, incluyéndonos, es imposible. El robo es sistémico, invisible y retroactivo. No deja huellas claras que permitan reparación. Y eso es precisamente lo que hace tan frágil cualquier promesa de compensación retroactiva: suena bien en teoría, pero en la práctica se convierte en un espejismo. El daño ya está hecho, y nadie sabe exactamente quiénes fueron las víctimas (a estas alturas seguro lo somos todos). Supongo que podrán compensarse a algunos, sería bienvenido, pero ¿qué hay de todo el resto?

La regulación no deshace el entrenamiento ya realizado con millones de ilustraciones vulneradas; solo lo congela como un status quo aceptable. El daño ético no se resuelve, solo se institucionaliza.

Guste o no, quienes reclamamos ética, debemos aceptar y reconocer esta paradoja. Hay quienes la reconocen y por esto mismo abogan por una eliminación y destrucción total de la IA, algo que, también guste o no, suena poco realista dados los hechos y el avance de la IA.

 La paradoja del desarme

Si reconozco, me guste o no, que el daño ya está hecho y miro el escenario actual, puedo observar que la paradoja más preocupante es esta: pretender evitar abusos terminando por entregarle el poder de abusar a quien ya tiene mucho más capacidad para hacerlo.

Otro de los problemas con las regulaciones que se plantean es que suelen enfocarse casi exclusivamente en las grandes corporaciones, pasando por alto lo extraordinario ( y frágil ) del open source: que cualquier usuario común pueda acceder a modelos de IA de forma gratuita, ejecutarlos en su propia computadora, entrenarlos si quiere y, sobre todo, usarlos sin conexión a internet (dicho sea de paso, muchos de esos modelos gratuitos provienen de empresas chinas, y dudo mucho que estas vayan a acatar regulación alguna al respecto).

Si se regula como se propone (con restricciones estrictas, licencias complejas, auditorías obligatorias o prohibiciones de modelos abiertos), el impacto no caería solo en las empresas grandes. El usuario independiente que hoy descarga un modelo local y lo utiliza en privado, quedaría prácticamente fuera de juego, generándose una asimetría de poder.

Mientras tanto, gobiernos y megacorporaciones seguirían operando sin problemas reales: tienen recursos para cumplir cualquier requisito legal, auditar datasets, pagar licencias o desarrollar versiones internas que nadie pueda fiscalizar. El resultado sería previsible: un monopolio absoluto en manos de quienes ya concentran poder, con control total sobre la tecnología. Ellos podrán seguir generando deepfakes, alterando videos o automatizando manipulación a escala, mientras el resto queda sin herramientas equivalentes. 

La defensa, en este contexto, también requiere la misma herramienta. Cuando el ataque llega en forma de inteligencia artificial (alteración de material real, clonación de voces, generación de contenido falso,  etc.), la capacidad de detectar, verificar o contrarrestar ese daño depende en gran medida de poder usar IA.

Sin acceso real a esas herramientas, el ciudadano no solo es vulnerable; queda prácticamente desarmado: sin acceso, sin capacidad de respuesta o defensa ante posibles abusos (censura, manipulación, vigilancia) que esos mismos poderes podrían ejercer con la IA. 

La paradoja está en que lo que se presenta como protección termina siendo desprotección para los que menos tienen. El control se concentra arriba, y la libertad (aunque caótica e imperfecta) desaparece abajo.

Lecciones de la historia 

La historia está llena de esta misma paradoja. Mencionaré dos ejemplos que, valga decirlo en este espacio, la ilustran a la perfección.

La primera analogía que me viene a la mente es la Reforma Protestante. Durante siglos, la Iglesia Católica mantuvo un monopolio absoluto sobre la Biblia: su lectura, su interpretación. El argumento oficial era evitar el caos (herejías, sectas, divisiones), pero esa centralización perpetuaba abusos de poder y control social.

En una época de analfabetismo generalizado, el libro sagrado era accesible solo para unos pocos: clérigos, nobles y poderosos. El texto que circulaba en las iglesias era en latín, y el sacerdote también lo leía en latín, una lengua que la inmensa mayoría del pueblo no comprendía. Las escasas traducciones a lenguas vernáculas eran raras y costosas, reservadas a quienes podían pagarlas.

Martín Lutero, con sus famosas 95 tesis, cuestionó ese monopolio interpretativo y, sobre todo, impulsó una traducción de la Biblia al idioma del pueblo. La imprenta de Gutenberg hizo posible su difusión masiva. El acceso se democratizó. Sí, surgió caos (guerras religiosas, fragmentación doctrinal, abusos en nombre de la nueva libertad), pero también apareció algo que antes no era posible: libertad para leer las fuentes puras sin intermediarios manipuladores. El costo del desorden valió la pena.

Y algo interesante ocurrió poco después. En la Ginebra protestante se creó una de las primeras escuelas públicas y gratuitas de la historia. ¿La razón? Si el pueblo podía (y debía) leer la Biblia en su propio idioma, primero tenía que aprender a leer y escribir. La democratización del conocimiento exigió educar a todos, no solo a una élite.

Un ejemplo contemporáneo de esta misma paradoja es la pretensión de regular las redes sociales con el argumento de combatir las "fake news" y otros males asociados.

Lo que se presenta como "regulación" a menudo se traduce en formas más o menos veladas de censura y control social. Antes, la información estaba monopolizada por los grandes medios ( a los que se llamaba "el cuarto poder"), quienes decidían qué era noticia legítima, qué se amplificaba y qué se silenciaba. En ese esquema también se producían manipulaciones, omisiones y versiones interesadas de la realidad: fake news institucionales, disfrazadas de periodismo serio.

La llegada de las redes sociales y la democratización de la comunicación rompió ese monopolio. Cualquiera pudo publicar, contrastar fuentes, difundir documentos primarios y cuestionar la narrativa oficial. Sí, trajo caos, mentiras virales, polarización, teorías conspirativas. Pero también trajo algo que antes no existía, la libertad real para verificar, confrontar y llegar a conclusiones propias sin intermediarios obligatorios.

A mi entender, las fake news no se combaten con censura ni con control centralizado, sino con más contenido real, verificable y accesible. Cuando se intenta "ordenar" el ecosistema bajo el pretexto de proteger al público, es muy probable que se termine recreando un monopolio ( ahora digital) en manos de gobiernos o plataformas grandes, con capacidad para decidir qué se ve y qué no.

Las buenas intenciones pueden acabar en el mismo abuso que pretendían evitar. A mi juicio, el caos imperfecto de la libertad suele ser preferible al orden asfixiante del control totalitario.

Con la IA open source pasa lo mismo, sus riesgos son reales, pero quitarla al ciudadano común deja el poder en manos de quien podría abusar de ella sin contrapeso.

Pedir y buscar regular la IA es lo correcto. El problema real está en qué tipo de regulación se defiende y qué consecuencias trae consigo. ¿Queremos proteger el oficio de la ilustración o, sin darnos cuenta, lo estamos entregando a un control mucho mayor y menos confiable?

El daño ya está hecho (el robo masivo de datos para entrenar modelos es prácticamente irreversible, y ninguna ley retroactiva lo va a deshacer). Pero si ha de haber regulación, a mi juicio debería enfocarse mucho en evitar el monopolio absoluto sobre la IA.

Al final, ¿debemos seguir luchando contra la IA?... ¿podemos los ilustradores sobrevivir a este escenario?. De eso hablaré en los próximos artículos.