Una imagen viral que muestra a un político diciendo algo que nunca dijo. Un audio con la voz clonada de un familiar pidiendo dinero. Un vídeo superrealista de un evento que jamás ocurrió. Los «deepfakes» se han convertido en una de las amenazas más corrosivas para la confianza en la era digital, y este miércoles Google respondió con un movimiento de apertura sin precedentes: su herramienta SynthID Detector, capaz de identificar si una imagen, vídeo o audio fue generado con IA, está ahora disponible gratuitamente para cualquier usuario del mundo a través de synthid.com.
La propuesta técnica de Google se basa en una idea elegante: en lugar de intentar detectar el fraude a posteriori analizando anomalías visuales o sonoras —una carrera de obstáculos que la evolución de los modelos hace cada vez más difícil—, la compañía marca el contenido en su origen. SynthID incrusta una marca de agua invisible e inaudible en el momento mismo de la generación: dentro de los píxeles de las imágenes, en las ondas del audio o en las probabilidades de las palabras del texto, de modo que el sello viaje con el archivo a través de capturas, recortes y compresiones habituales.
Hasta esta semana, verificar esa marca requería pasar por la lista de espera del programa para periodistas, profesionales de medios e investigadores. Ahora, cualquier usuario con cuenta de Google, Apple u OpenAI puede subir un archivo sospechoso y recibir en segundos un veredicto con dos informaciones clave: si la marca de agua SynthID fue detectada y qué herramientas —de Google o de sus socios OpenAI, Nvidia y Kakao— la generaron o editaron. Apple se incorporará «próximamente», completando una coalición que Google describe como un esfuerzo de toda la industria.
La escala del estándar explica su potencial impacto. Desde 2023, SynthID ha marcado más de 180,000 millones de imágenes y vídeos y el equivalente a 240,000 años de audio, mientras las verificaciones integradas en Búsqueda, Gemini y Chrome procesan más de un millón de solicitudes diarias. Los modelos Nano Banana, Veo y Lyria de Google aplican la marca automáticamente, al igual que las funciones generativas de Gemini, Flow, ProducerAI y Vids, y el contenido de los socios adheridos.
La apertura no está exenta de cautelas. La cuota diaria de unas diez verificaciones por usuario busca evitar que el detector sea explotado para entrenar herramientas de borrado de marcas de agua. Y el propio Google admite que un resultado negativo no certifica origen humano: los archivos de empresas que usan otros sistemas —Meta y Microsoft entre ellos— o de modelos sin marca alguna no serán identificados, y la manipulación intensiva puede debilitar el sello. «SynthID no es una bala de plata», reconoció la compañía ya en 2024.
Aun con esos límites, el hito es significativo: la verificación de contenido sintético pasa de ser un privilegio profesional a una capacidad ciudadana de acceso universal. En un momento en que los modelos generativos han hecho casi imposible distinguir a simple vista lo real de lo fabricado, Google ha puesto en manos de cualquier internauta —el periodista que verifica una fuente, el docente que revisa un material, el usuario que duda de un vídeo viral— la misma tecnología con la que la industria está intentando restaurar la confianza en lo que vemos, oímos y leemos en línea.
#Deepfakes #ConfianzaDigital #SynthID #GoogleAI #VerificaciónCiudadana