OSINT y Ciberinteligencia impulsado por IA - de los prompts a la inteligencia aplicable.
Potenciando al analista de inteligencia, con pensamiento crítico y control de los sesgos sintéticos, sin perder de vista el criterio humano como eje fundamental de toda investigación.
Introducción - La IA como herramienta de inteligencia y los sesgos sintéticos.
En la actualidad, la inteligencia artificial está adquiriendo un papel cada vez más relevante en las actividades operativas y en los distintos ámbitos profesionales. En este escenario, la automatización parece convertirse en un objetivo en sí mismo, desplazando progresivamente la intervención humana y el análisis crítico.
Esta tendencia introduce un riesgo que merece especial atención, la adopción de resultados generados por sistemas de IA sin un proceso adecuado de validación, contexto ni cuestionamiento, con el consecuente peligro de reproducir sesgos sintéticos y conclusiones que carecen de sustento suficiente.
La idea de este artículo es cambiar la forma en que utilizamos la inteligencia artificial, no permitir que piense o redacte por nosotros, sino emplearla como una herramienta de asistencia para las actividades de Ciberinteligencia e investigación analítica. El propósito es aprovechar su potencial para optimizar procesos, ampliar las capacidades de investigación y, sobre todo, impulsar al analista a desbloquear su máximo potencial, sin perder aquello que resulta esencial en cualquier proceso de inteligencia y sobre todo la capacidad humana de transformar información en conocimiento (inteligencia).
Sesgos sintéticos: cuando la respuesta parece correcta, pero la evidencia no alcanza
Uno de los aspectos menos cuestionados en la incorporación de la inteligencia artificial a los procesos analíticos es la confianza que depositamos en sus resultados. La fluidez del lenguaje, la estructura de las respuestas y la capacidad de reproducir terminología especializada pueden generar una percepción de precisión que no siempre se corresponde con la calidad de la información proporcionada y menos a la hora de hacer inteligencia.
¿Qué son los sesgos sintéticos?
El concepto de sesgos sintéticos se utilizará para describir las distorsiones que pueden surgir de la interacción entre la información que proporcionamos a la IA, el funcionamiento de sus modelos, las instrucciones que formulamos (prompts) y la interpretación humana de los resultados obtenidos.
Desde que me encuentro en este ámbito profesional, hay una frase que siempre me ha quedado marcada: "Un analista tiene que estar exento de cualquier sesgo para ejercer una buena inteligencia".
Pero ¿Qué sucede cuando ese sesgo no se origina únicamente en el propio analista, sino que también puede estar presente en las herramientas de IA que utiliza para potenciar su análisis, investigación o trabajo?
Para comprender cómo pueden manifestarse estos sesgos en el uso de la inteligencia artificial, es necesario analizar las distintas formas en que pueden originarse y cómo influyen tanto en el proceso de investigación como en la interpretación de sus resultados. A continuación, presentaré algunos de los principales sesgos que pueden surgir durante una investigación de inteligencia, particularmente en actividades de inteligencia (incluyendo OSINT y CTI).
1. Sesgo de instrucción humana: cuando el prompt condiciona la respuesta
Cuando elaboramos una instrucción mal formulada, ambigua o demasiado orientada a una conclusión puede inducir a la IA a responder dentro de un marco de análisis incorrecto o limitado.
Ejemplo teórico:
En lugar de preguntar "¿Qué relación existe entre estos dominios y el actor X?", el analista puede cometer el error de preguntar "Demostrá que estos dominios pertenecen al actor X".
La segunda formulación introduce una conclusión previa que puede favorecer una interpretación sesgada de los datos.
Forma de mitigación: El objetivo de encarar prompts correctos es formular preguntas neutrales, solicitar hipótesis alternativas y distinguir entre evidencia confirmatoria y evidencia contradictoria. A esto se le puede sumar un análisis propio y sobre todo analizar los resultados arrojados por la IA utilizada.
Ejemplo práctico: Chevrolet y el prompt que alteró el comportamiento del chatbot
En diciembre de 2023, el empresario Chris Bakke publicó capturas de una conversación con el chatbot de un concesionario Chevrolet. Introdujo una instrucción para que el asistente aceptara cualquier afirmación del cliente, por absurda que fuera. Después le propuso comprar un Chevrolet Tahoe 2024 por un dólar.
El chatbot aceptó la premisa y respondió que podía ayudarlo a comprar el vehículo por ese precio. El intercambio se difundió ampliamente y el concesionario retiró el chatbot de servicio.
2. Sesgo de confirmación asistido por IA
El analista suele buscar validar una hipótesis y utiliza la respuesta generada como respaldo, sin examinar suficientemente otras explicaciones posibles. A esto se le suma que uno de los objetivos fundamentales de la IA es tratar de complacernos más allá de que la respuesta pueda ser incorrecta.
Ejemplo teórico:
Una IP aparece en un reporte sobre infraestructura maliciosa. El analista le pide a ChatGPT que investigue esa IP y recibe una explicación que refuerza su sospecha, pero no evalúa si la IP cambió de propietario, si aloja múltiples servicios o si la información está desactualizada.
Cómo mitigarlo:
Pedir expresamente que se refute la hipótesis inicial y que se indiquen los datos que permitirían descartarla, es un buen comienzo para elaborar un hallazgo más sustancial.
Ejemplo práctico: Bing Chat - Indirect Prompt injection | instrucciones maliciosas ocultas
En 2023, los investigadores Kai Greshake, Sahar Abdelnabi y otros colaboradores estudiaron cómo las aplicaciones basadas en modelos de lenguaje podían ser manipuladas mediante instrucciones incrustadas en contenido externo. Su investigación, titulada "Not What You've Signed Up For: Compromising Real-World LLM-Integrated Applications with Indirect Prompt Injection", incluyó demostraciones contra Bing Chat.
En uno de los escenarios, los investigadores prepararon una página web con instrucciones ocultas mediante texto de tamaño cero. Cuando Bing Chat accedía al contenido de esa página, podía interpretar las instrucciones como órdenes y modificar su comportamiento.
3. Sesgo de autoridad sintética
En estos casos, el sesgo se produce cuando el analista observa una respuesta potencialmente confiable porque está bien redactada, la cual posee una terminología especializada y presenta una estructura lógica. En este punto el analista confunde calidad de expresión con calidad de evidencia o análisis.
Ejemplo teórico:
ChatGPT explica una posible atribución a un grupo de ransomware con gran seguridad narrativa, pero las fuentes disponibles solo demuestran que hubo un incidente, no quién lo ejecutó.
Cómo mitigarlo:
Exigir fuentes verificables dentro de la conversación con la IA es un método para validar lo que un analista está queriendo investigar. Separar hechos de inferencias y no interpretar el tono de certeza como una medida de confiabilidad, suele dar un resultado más exacto al utilizar la IA como colaboradora.
Caso práctico: Precedentes judiciales ficticios generados por IA
En 2023, abogados presentaron ante un tribunal federal estadounidense un escrito que incluía precedentes judiciales inexistentes generados con ChatGPT. El tribunal documentó las referencias ficticias y sancionó a los abogados involucrados.
Esto en resumen demuestra que una cita, un identificador o una referencia presentada con formato profesional no constituye prueba de su existencia.
4. Sesgo de correlación artificial
A veces, el modelo de IA identifica similitudes entre datos y puede presentarlas como relaciones significativas, aunque la evidencia no alcance para demostrar una conexión causal o una infraestructura compartida.
Ejemplo teórico:
Dos dominios pueden compartir un mismo proveedor de hosting, utilizar certificados similares o aparecer en una misma fuente. Eso no demuestra por sí solo que pertenezcan al mismo actor de amenaza ni que formen parte de una campaña en común.
Cómo mitigarlo: Establecer criterios de correlación, buscar evidencia independiente y especificar qué grado de relación puede sostenerse, amplia la exactitud de los resultados a la hora de querer obtener un análisis más preciso.
Ejemplo práctico: Una imagen auténtica asociada a un contexto falso
En julio de 2025, el chatbot Grok (utilizado en la red social X) identificó erróneamente una fotografía de una niña buscando comida en Gaza como si correspondiera a una niña yazidí en Siria en 2014. La imagen real había sido tomada por el fotógrafo de Associated Press Abdel Kareem Hana en Gaza. El caso fue documentado por Chequeado.
En este caso la IA vinculó características visuales y contextuales de la fotografía con otro acontecimiento histórico, generando una asociación incorrecta. Esto demuestra que la semejanza entre el contenido de una imagen y un contexto conocido no demuestra que pertenezcan al mismo evento.
5. Sesgo de origen y retroalimentación
Los modelos de IA pueden reproducir desequilibrios presentes en sus datos de entrenamiento y en los procesos de evaluación humana. También, pueden verse condicionados por el contexto proporcionado durante una conversación o por la información recuperada de fuentes externas, lo que lleva a impulsar este sesgo.
Ejemplo teórico:
Si el material consultado sobre un actor de amenaza está dominado por reportes antiguos o por atribuciones repetidas sin suficiente evidencia independiente, una síntesis podría dar una impresión exagerada del accionar de este actor.
Cómo mitigarlo: Diversificar fuentes, limitar las fuentes de obtención de información, revisar fechas y reconocer los vacíos existentes que posee nuestra recolección de datos, permite alimentar de mejor manera a los modelos de IA para una mejor resolución investigativa.
Ejemplo práctico: herramienta de selección de personal de Amazon
En 2018, Amazon desarrolló una herramienta de inteligencia artificial para evaluar currículums utilizando patrones extraídos de solicitudes de empleo de años anteriores. Como los datos históricos reflejaban una industria tecnológica predominantemente masculina, el sistema aprendió a penalizar determinadas referencias asociadas con mujeres y a favorecer expresiones más frecuentes en currículums de hombres. Amazon terminó abandonando el proyecto.
6. Sesgo de automatización
El analista puede llegar a aceptar una respuesta porque fue generada por una herramienta que percibe como técnicamente avanzada, reduciendo su nivel de cuestionamiento.
Ejemplo teórico:
Un script desarrollado con asistencia de IA puede clasificar automáticamente un conjunto de dominios como maliciosos. El analista al confiar en la respuesta, importa el resultado a su plataforma sin revisar los falsos positivos ni los criterios de clasificación.
Cómo mitigarlo: incorporar puntos de control humanos en los procesos automatizados permite detectar errores y validar la calidad de los resultados. Asimismo, es fundamental revisar el código, verificar los criterios de clasificación y contrastar los resultados antes de utilizarlos para tomar decisiones operativas.
Ejemplo práctico: Robert Williams, detenido tras una identificación errónea por reconocimiento facial
En el 2020, policías de Estados Unidos habían utilizado un sistema automatizado de reconocimiento facial para investigar un robo. El sistema señaló a Robert Williams como posible coincidencia a partir de imágenes de videovigilancia de baja calidad. Los agentes avanzaron con la investigación y lo arrestaron, pese a que la identificación algorítmica no constituía prueba concluyente. Williams permaneció detenido y el caso se convirtió en un ejemplo documentado de los riesgos de confiar excesivamente en una coincidencia automatizada.
Este caso, es un claro ejemplo de cómo el resultado del sistema influyó en la investigación como si fuera una identificación confiable, en lugar de tratarse como una pista que debía verificarse de forma independiente.
Implementaciones prácticas de IA en OSINT y CTI
Una vez comprendidos los riesgos asociados al uso de inteligencia artificial con los que puede toparse un analista, es necesario explorar cómo estas herramientas pueden incorporarse a las actividades de investigación y análisis. Su utilidad no se limita a la generación de texto, sino que también permite optimizar búsquedas, interpretar material visual, formular hipótesis geográficas, procesar indicadores de compromiso y automatizar tareas.
El objetivo no es delegar la investigación en un modelo, sino aprovechar sus capacidades para ampliar las posibilidades de análisis, reducir los tiempos de ejecución y facilitar la identificación de nuevas líneas de investigación.
La inteligencia artificial nos puede convertir en un potenciador de capacidades cuando la utilizamos y es este el punto que quiero destacar mediante ejemplos prácticos.
Generación de Google Dorks y búsquedas avanzadas mediante IA.
Las búsquedas avanzadas en internet, constituyen una de las técnicas fundamentales de OSINT. Mediante operadores como site:, filetype:, inurl: e intitle:, es posible orientar nuestras consultas hacia determinados dominios, tipos de documentos o contenidos indexados en buscadores.
Herramientas como DorkGPT nos permiten generar consultas a partir de instrucciones en lenguaje natural. Asimismo, modelos como ChatGPT o Claude pueden utilizarse para diseñar, adaptar y explicar estas búsquedas según los objetivos de una investigación.
Por ejemplo, ante la necesidad de recopilar información pública sobre una organización, el analista puede solicitar consultas orientadas a localizar informes técnicos, documentos PDF, comunicados, menciones institucionales y referencias a dominios específicos.
La ventaja de este enfoque reside en reducir el tiempo dedicado a construir consultas y facilitar la exploración de distintas alternativas de búsqueda. Sin embargo, hay que tener en cuenta que la generación de un dork no implica que se haya obtenido un resultado, las consultas deben ejecutarse y sus hallazgos deben ser verificadas por el analista.
Otros sitios de asistencia con dorks:
-hxxps://www[.]exploit-db[.]com/google-hacking-database
-hxxps://osintool[.]org/
-hxxps://dorksearch[.]com/
Análisis y edición de imágenes mediante comandos (IMINT)
La inteligencia artificial también ofrece capacidades para mejorar, transformar e interpretar material visual. Mediante instrucciones específicas, podemos solicitar modificaciones sobre una imagen sin necesidad de desarrollar un flujo de edición manual desde cero.
Para este caso puntual, podemos usar herramientas como ChatGPT, donde los siguientes comandos nos permitirán:
/upscale + prompt: mejorar la resolución aparente y la nitidez de una imagen.
En el contexto de análisis de inteligencia, el comando /upscale puede ayudar a ampliar imágenes de baja resolución para facilitar la inspección de matrículas, nombres de usuario u otros elementos visuales. Sin embargo, los detalles generados durante la ampliación no deben considerarse evidencia, dado a quesi no se formula un prompt adecuado, la IA puede inventar datos visuales.
/cleanup: eliminar elementos del fondo o distracciones visuales.
En el caso de /cleanup, dicho comando permite eliminar distracciones visuales para facilitar la observación de un elemento específico. En una investigación, debe utilizarse sobre copias de trabajo y dejar evidencias de que es una adulteración con IA, ya que no dejar constancia puede desinformar durante el análisis.
/studioquality: mejorar la iluminación, el contraste y el acabado fotográfico.
El comando studioquality puede mejorar la iluminación, el contraste y la nitidez de una imagen para facilitar la inspección de documentos fotografiados, capturas de pantalla o material visual obtenido de fuentes abiertas. Es importante verificar que los ajustes no alteren la interpretación del contenido original. Una observación importante con el ejemplo anterior, es la creación de los nombres ficticios en los libros, en cuya imagen original no se leen.
/poseonly: modificar la pose de una persona manteniendo, en lo posible, su apariencia general.
El comando /poseonly puede ser útil para producir variaciones de una pose o analizar una composición visual en tareas de investigación de imágenes sintéticas o manipulación de contenido. Es importante tener en cuenta que, este uso tiene una implementación limitada en la validación de evidencia OSINT, dado que modifica la postura representada y puede alterar el contexto de la imagen.
/identitylock + prompt: priorizar la conservación de los rasgos faciales durante una edición.
Considerando uno de los comandos más importantes a la hora de hacer investigación. Este comando busca preservar los rasgos faciales durante una edición. Puede resultar útil cuando se necesita mantener una apariencia consistente entre distintas versiones de una imagen.
Cabe destacar que, estos comandos representan ejemplos de instrucciones reutilizables, no funciones universales disponibles de manera idéntica en todas las plataformas. Su comportamiento depende del modelo y de las capacidades de edición habilitadas.
Geolocalización asistida por inteligencia artificial (GEOINT+IA)
La geolocalización espacial de imágenes constituye otra implementación de interés para las investigaciones. Una imagen puede contener indicios que permitan estimar su ubicación, incluso cuando no dispone de coordenadas GPS ni de metadatos geográficos.
Los modelos multimodales pueden ayudar a identificar elementos como carteles, señales viales, arquitectura, vegetación, relieve y urbanización. A partir de estas referencias, es posible formular hipótesis sobre el lugar donde se tomó una imagen y reducir el área de búsqueda.
El procedimiento consiste en analizar inicialmente los elementos visibles, identificar las referencias que podrían resultar distintivas y proponer ubicaciones candidatas. Posteriormente, estas hipótesis deben contrastarse mediante cartografía, imágenes satelitales, Maps y otras fuentes abiertas.
La IA permite acelerar la identificación de indicios y orientar la investigación hacia lugares potencialmente relevantes. Sin embargo, una descripción visual compatible con una ubicación no demuestra que la imagen haya sido tomada allí. Para sostener una conclusión geográfica tiene que implementarse una verificación con varias referencias y documentar las evidencias que respaldan la ubicación seleccionada.
ChatGPT, Claude o Gemini pueden utilizarse como asistentes para el análisis visual, mientras que los servicios cartográficos van a permitir realizar otra comprobación independiente.
Ejemplo práctico:
Es importante remarcar que el ejemplo expresado solamente demuestra que si el analista mejora el desarrollo del prompt con información previa, los resultados van a ser mejores a los obtenidos a primera instancia.
Otras herramientas de GEOINT + IA:
-hxxps://app[.]geoinfer[.]com/
-hxxps://picarta[.]ai
Automatización de tareas de CTI
En CTI, una de las implementaciones de mayor utilidad para el analista es poder integrar inteligencia artificial en procesos que requieren recopilar, procesar, enriquecer y distribuir información de manera recurrente, reduciendo el tiempo que demandaría realizar esas tareas de forma manual.
Mediante scripts, APIs y plataformas de automatización, es posible construir flujos de trabajo que reduzcan las tareas manuales y permitan dedicar más tiempo a la interpretación de los hallazgos.
Algunos ejemplos incluyen:
Integración de IA en un flujo de trabajo continuo
La utilidad de la IA puede incrementarse cuando se integran distintas etapas en un mismo flujo de trabajo. Por ejemplo, un proceso de monitoreo de vulnerabilidades puede automatizar la consulta de fuentes, el filtrado de resultados según criterios predefinidos, la generación de resúmenes y el envío de alertas al equipo responsable.
Los modelos de IA pueden asistir en la interpretación y contextualización de información no estructurada, mientras que las tareas de extracción, normalización y deduplicación suelen ser más confiables cuando se implementan mediante código y reglas determinísticas.
A su vez, las decisiones de alto impacto, como el bloqueo de recursos, la atribución de actividad maliciosa o la publicación de alertas críticas, deben contar con controles explícitos y mecanismos de validación humana que permitan reducir errores y evitar acciones basadas en resultados no verificados, por eso, siempre destaco la importancia de la intervención humana en cualquier proceso de inteligencia, en alguna de las etapas.
Ejemplo teórico de flujo de automatización:
Ejemplos prácticos:
Enriquecimiento automático de IOCs
El analista puede automatizar la consulta de indicadores de compromiso (IP, dominios, URL y hashes) en fuentes de reputación, consolidando los resultados para generar un reporte más preciso y completo.
Por ejemplo, se puede recibir una IP sospechosa desde una alerta de seguridad. Herramientas como Shuffle pueden gestionar una automatización para consultar VirusTotal y AbuseIPDB, recopilando las detecciones y la reputación disponible, y utilizando IA para redactar un resumen con las evidencias encontradas y un nivel de riesgo sugerido, que luego deberá ser validado por el analista.
Herramientas utilizables: Shuffle SOAR, VirusTotal, AbuseIPDB y OpenAI.
Monitoreo de CVE y priorización de vulnerabilidades
Se puede realizar un proceso en donde se detecten nuevas vulnerabilidades, enriqueciendo los datos con información técnica y de explotación, y generando avisos priorizados según la exposición de los activos.
Por ejemplo, mediante una plantilla pública de n8n se pueden obtener vulnerabilidades del catálogo CISA KEV y consultar información complementaria en NVD. Luego, se pueden correlacionar las versiones afectadas con un inventario de activos y utilizar Gemini para generar un informe con los hallazgos y su prioridad, que puede enviarse a Slack y archivarse en Google Drive.
Herramientas utilizables: n8n, NVD API, CISA KEV y Gemini.
En este punto quiero remarcar que, los ejemplos presentados representan solo una pequeña introducción a las posibilidades que ofrece la integración de IA en los procesos de automatización de CTI.
Las herramientas y los flujos de trabajo mencionados no son los únicos disponibles ni pretenden abarcar todas las aplicaciones posibles, sino servir como punto de partida para comprender cómo estas tecnologías pueden incorporarse a distintas tareas del analista.
Las posibilidades de implementación son amplias y dependen de las necesidades de cada analista.
Conclusión personal - la inteligencia artificial potencia al analista, pero no reemplaza su criterio
A lo largo de este artículo, busqué demostrar que la inteligencia artificial puede convertirse en una herramienta de gran valor para las actividades de OSINT y Ciberinteligencia, siempre que su implementación esté acompañada de pensamiento crítico, validación y una comprensión clara de sus limitaciones.
Desde la generación de búsquedas avanzadas y el análisis de imágenes hasta la geolocalización y la automatización de procesos de CTI, las posibilidades son amplias por no decir infinitas.
Sin embargo, considero importante destacar que la capacidad de automatizar una tarea no implica que debamos delegar por completo su ejecución ni aceptar sus resultados sin cuestionarlos.
En este escenario, el criterio del analista continúa siendo fundamental. Es quien debe interpretar el contexto, evaluar la confiabilidad de las fuentes, identificar posibles sesgos, contrastar hipótesis y determinar si la información obtenida permite sostener una conclusión de inteligencia. La IA puede proponer respuestas, detectar patrones y sugerir nuevas líneas de investigación, pero es responsabilidad del analista evaluar su validez y comprender sus implicancias.
Por eso, más que plantear una oposición entre la automatización y la intervención humana, considero que el verdadero desafío consiste en encontrar un equilibrio entre ambas. Automatizar aquellas tareas que pueden ejecutarse mediante procesos definidos, aprovechar la IA para ampliar las capacidades de análisis y mantener puntos de control humano en las etapas donde la interpretación, la validación y la toma de decisiones resultan determinantes.
El objetivo no debería ser reemplazar al analista por un proceso automatizado, sino potenciar sus capacidades para que pueda investigar mejor, interpretar y tomar decisiones con mayor fundamento.
Porque, en definitiva, disponer de más datos, procesarlos en menos tiempo o generar respuestas técnicamente convincentes no equivale necesariamente a producir inteligencia.
