El Brennan Center for Justice publico el 11 de agosto el informe ‘Does AI Fight or Fuel Election Disinformation?’, basado en pruebas propias a los principales chatbots (ChatGPT, Gemini, Grok, Claude, Perplexity y Meta AI) realizadas durante varios meses. Segun el estudio, los modelos refutaron teorias conspirativas, pero ayudaron a generar imagenes falsas sobre supuesto fraude electoral y, en su mayoria, no lograron identificar imagenes creadas por IA: Gemini y Meta AI reconocieron la mayoria de 14 imagenes, mientras ChatGPT, Grok, Claude y Perplexity acertaron cuatro o menos. El informe menciona la California AI Transparency Act, vigente desde esa semana.
Brennan Center detecta fortalezas y fallas de los chatbots ante la desinformación electoral
Contexto
- El Brennan Center for Justice es un instituto de derecho y políticas públicas adscrito a la Facultad de Derecho de la Universidad de Nueva York. Combina litigio, investigación e incidencia en materia de democracia y justicia; no administra elecciones ni dicta normas, de modo que sus informes operan por persuasión sobre legisladores, plataformas y tribunales, no por mandato.
- Estados Unidos no tiene un órgano electoral nacional: la administración de los comicios recae en los estados y en miles de jurisdicciones locales, y la Election Assistance Commission certifica equipos de votación de manera voluntaria, sin competencia sobre plataformas ni sobre contenido sintético. Por eso la regulación de los deepfakes electorales ha avanzado por vía estatal, con treinta estados con leyes en la materia según el conteo de Public Citizen de mayo de 2026.1
- El marcado de procedencia descansa en dos capas técnicas distintas. Una son los metadatos firmados que viajan adjuntos al archivo, del tipo C2PA o Content Credentials; otra son las marcas de agua incrustadas en la señal misma. Ambas se degradan con la recompresión, el recorte o la simple captura de pantalla, y cuando no hay marca previa la pregunta de si una imagen fue generada por IA se responde por inferencia estadística sobre los píxeles, no por lectura de metadatos.
- La California AI Transparency Act obliga desde el 2 de agosto de 2026 a los proveedores de IA generativa con más de un millón de usuarios mensuales accesibles en el estado a incrustar una divulgación latente que identifique el contenido y consigne el nombre y la versión del sistema y la fecha de creación, y a ofrecer gratuitamente una herramienta pública de detección; la aplica el fiscal general y otros actores estatales, con multas de USD 5,000 por infracción y cada día contado por separado. Las plataformas grandes quedan cubiertas el 1 de enero de 2027 y los fabricantes de dispositivos de captura el 1 de enero de 20282. El esquema seguía en revisión mientras entraba en vigor: la SB 1000, enmendada el 9 de junio de 2026, propone eliminar ese umbral de usuarios y sustituir la divulgación manifiesta por una herramienta de verificación, y al 2 de julio de 2026 continuaba en tercera lectura en la Asamblea, sin promulgarse3.
- En la Unión Europea, el artículo 50 del Reglamento (UE) 2024/1689 se aplica desde el 2 de agosto de 2026 y exige a los proveedores aplicar una marca legible por máquina al contenido sintético y habilitar su detección; a los responsables del despliegue les impone revelar las ultrasuplantaciones y etiquetar los textos sobre asuntos de interés público de forma clara y perceptible4.
- El Tribunal Superior Electoral de Brasil reformó en febrero de 2024 su reglamento de propaganda electoral (Resolución 23,610/2019) para prohibir el contenido fabricado o manipulado que difunda hechos notoriamente falsos y para exigir un aviso explícito cuando la propaganda emplee inteligencia artificial, con responsabilidad solidaria de las plataformas que no retiren de inmediato ese contenido durante el período electoral5.
- 1.Citizen.org, Treinta estados de Estados Unidos cuentan con leyes que regulan los deepfakes electorales, según conteo de mayo de 2026. citizen.org/news/30-states-now-have-laws-to…
- 2.Morganlewis.com, Obligaciones operativas de la California AI Transparency Act desde el 2 de agosto de 2026: umbral de un millón de usuarios mensuales, contenido de la divulgación latente, herramienta gratuita de detección, multa de USD 5.000 por infracción y fechas escalonadas de 2027 y 2028. morganlewis.com/pubs/2026/08/new-california-ai-…
- 3.Legiscan.com, Texto enmendado de la SB 1000 (9 de junio de 2026) que modifica los artículos 22757.1 a 22757.5 del Business and Professions Code, elimina el umbral de usuarios y sustituye la divulgación manifiesta; historial legislativo hasta el 2 de julio de 2026 sin promulgación. legiscan.com/CA/text/SB1000/id/3447341
- 4.Comisión Europea, El artículo 50 del Reglamento (UE) 2024/1689 se aplica desde el 2 de agosto de 2026 y exige marca legible por máquina del contenido sintético y etiquetado de ultrasuplantaciones. digital-strategy.ec.europa.eu/en/factpages/quick-facts-transp…
- 5.Tribunal Superior Eleitoral (TSE), El TSE de Brasil prohibió en febrero de 2024 el contenido fabricado o manipulado en propaganda electoral, exigió aviso explícito de uso de IA y fijó responsabilidad solidaria de plataformas. tse.jus.br/comunicacao/noticias/2024/Fever…