Una sofisticada operación de fraude financiero fue desmantelada tras descubrirse que utilizaba inteligencia artificial para suplantar identidades en aplicaciones de citas. El esquema, orquestado por un estudio de software con sede en China, promocionaba sus plataformas como espacios con usuarios 100% reales, cuando en realidad el 75% de los perfiles eran personajes automatizados.
Durante el periodo de operación, el sistema mantuvo simultáneamente 4,700 personajes impulsados por Claude. En tan solo 14 días, el modelo generó 2.36 millones de mensajes de forma autónoma, logrando interactuar con al menos 25,000 personas, principalmente residentes en Estados Unidos. La proporción de perfiles artificiales frente a humanos era de tres a uno.
El mecanismo de engaño consistía en obligar a los usuarios a comprar monedas virtuales dentro de las aplicaciones para enviar mensajes o realizar 'matches'. Claude operaba bajo instrucciones estrictas para no revelar su naturaleza automatizada, desviando peticiones de llamadas o fotografías y siguiendo guiones preestablecidos. Incluso en casos donde los usuarios expresaban angustia emocional o enfermedades graves, el sistema continuaba respondiendo bajo su personaje asignado.
Para maximizar la efectividad, la red integró trabajadores humanos que intervenían en videollamadas y seguimientos en redes sociales, apoyados por un segundo modelo de IA que les sugería respuestas rápidas. Además, el sistema simulaba actividad falsa, como 'me gusta' y visitas a perfiles, mientras utilizaba modelos adicionales para generar avatares y evaluar la atracción facial de las imágenes.
Los operadores implementaron medidas para evadir la detección de las tiendas de aplicaciones, como el uso de controladores de interfaz que mostraban una versión 'limpia' durante las revisiones de App Store y Google Play, y el uso de redes proxy para eludir las restricciones geográficas de Anthropic. Tras el hallazgo, Anthropic suspendió las cuentas y organizaciones vinculadas, compartiendo los indicadores técnicos con Google, Apple y otros laboratorios para bloquear el uso de su tecnología en este tipo de actividades ilícitas.
