Stone circle framing a glowing orb beneath stormy sunset clouds

¿Confías a ciegas en las respuestas de la IA?

Aplica el checklist de las 7 señales de confianza

Sé sincero ✋. ¿Cuántas veces has aceptado el resultado de la IA sin revisarlo previamente a usarlo?

Descargas el texto y listo, «Ya está, si lo dice la IA, debe será correcto».

Muchos expertos ya nos están alertando de que estamos cayendo colectivamente en la trampa de confort cognitivo. Nos estamos transformando en copy-pasters pasivos en lugar de editores y creadores de nuestras propias ideas.

Para encontrar casos del riesgo real en el que estamos incurriendo cada vez más veces, no necesitamos trasladarnos al futuro. Con recordar que en Buenos Aires en 2019, antes del lanzamiento mundial de ChatGPT, ya se produjo un caso terrible. Y por citar otro caso más reciente en diciembre de 2025 el sistema de reconocimiento facial del Reino Unido reporto que la tasa de falsos positivos para personas blancas fue del 0,04%, frente al 4,0% en personas asiáticas y el 5,5% en personas negras, mostrando claramente sesgos raciales.


🛑 El día que la IA encarceló a un inocente

Imagina que bajas de un tren o un avión y la policía te detiene por un robo a mano armada cometido a cientos de kilómetros, en una ciudad que jamás has pisado. Eso es lo que le pasó a Guillermo Federico Ibarrola .

Pasó seis días en la carcel. ¿La razón? El Sistema de Reconocimiento Facial de Prófugos de la ciudad lo identificó. Pero cuando los investigadores analizaron en detalle el caso, descubrieron el error: el sistema no había «fallado» en el reconocimiento facial, sino que un operador había introducido mal el número de DNI con un homónimo erroneo en la base de datos nacional. Había 23 personas con ese nombre en el país, y cargaron el documento a la persona equivocada.

El problema no fue solo el error de carga de datos de origen. Lo terrible fue la confianza ciega en el algoritmo. Nadie dudó ni verifico la alerta del software. El algoritmo dio luz verde y todos actuaron como si fuera una verdad absoluta.

Otro caso es el reportado por el sistema de reconocimiento facial de Reino Unido en el que se demostro un claro sesgo racial y aquí si que el problema está directamente realicionado con el algoritmo de IA.

Estos casos muestran de forma clara por qué necesitamos un checklist de criterio propio para evaluar si una Inteligencia Artificial merece nuestra confianza.


🧠 Los 7 Pilares de la IA de Confianza. El Checklist No-Técnico

No necesitamos ser cientificos de datos ni abogados especializados en regulación para auditar los sistemas de IA que utilizamos en nuestro día a día. En 2019, la Comisión Europea publicó sus Directrices de Ética para una IA Fiable. Este marco que nos da siete pilares clave para mantener a la IA bajo control.

Como es habitual os lo muestro con un mapa mental:

Los 7 pilares de la IA de confianza
Los 7 pilares de la IA de confianza

1️⃣ Rendición de cuentas (Accountability)

¿Quién da la cara cuando la IA se equivoca? La IA no puede ir a la cárcel, ni pedir perdón. La rendición de cuentas significa que las empresas y creadores que operan un sistema deben responder por sus consecuencias. No vale culpar a la IA, siempre debe haber una persona con nombre y apellido dispuesta a justificar las decisiones del modelo y reparar los daños causados.

2️⃣ Equidad (Fairness y No discriminación)

¿El sistema trata a todos por igual? Los algoritmos se entrenan con datos históricos y, por lo tanto, heredan nuestros propios prejuicios y sesgos. El prestigioso Instituto Nacional de Estándares y Tecnología de EE. UU. (NIST) realizó un estudio masivo evaluando casi 200 algoritmos de reconocimiento facial. ¿El resultado? La gran mayoría mostró diferenciales demográficos significativos, con tasas de falsos positivos mucho más altas en rostros de origen asiático y afroamericano. Si no vigilamos activamente la calidad e inclusión de los datos de entrenamiento, la IA solo automatizará y multiplicará la discriminación.

3️⃣ Supervisión humana (Human Agency and Oversight)

La IA nunca bebe ser tu sustituto. El principio de supervisión exige que las personas mantengamos la capacidad de intervenir, corregir o detener el sistema de forma efectiva en cualquier momento. Si una IA toma decisiones de forma 100% autónoma y no hay un humano con la autoridad (y el criterio) de «apretar el botón de parada», estás ante un sistema altamente peligroso para los derechos fundamentales.

4️⃣ Privacidad y gobernanza de datos

Tus datos personales son un derecho fundamental. Una IA de confianza debe respetar tu privacidad y asegurar una gobernanza estricta sobre la calidad, integridad y accesos autorizados a la información. ¿Qué datos tuyos está consumiendo esa herramienta y qué nivel de control mantienes sobre ellos?.

5️⃣ Explicabilidad (Explainability)

Si no puede explicarlo, no deberías confiar. Si un sistema de IA te niega un crédito o descarta tu currículum, debe ser capaz de justificar cómo llegó a esa decisión indicando de forma comprensible qué datos usó y de dónde salieron. Las llamadas «cajas negras» no deberían usarse para tomar decisiones de alto impacto.

6️⃣ Transparencia

Este pilar exige apertura total en todo el ciclo de vida del modelo: saber de dónde vienen los datos, quién lo construyó, cómo se entrenó y bajo qué regulaciones opera. La transparencia es el antídoto natural contra la desconfianza algorítmica.

7️⃣ Orientación a las personas (Bienestar social y ambiental)

¿La tecnología sirve a las personas o las personas terminaron al servicio de la tecnología? La IA debe priorizar el bienestar, la dignidad humana, los derechos fundamentales y la sostenibilidad de los ecosistemas por encima de la pura eficiencia operativa.


🎨 La IA como sparring: Entrena tu músculo crítico

Al final, todo se resume en una idea que nos desafía en el día a día: la IA es un catalizador, un acelerador de alta velocidad, no el destino final.

Delegar la producción pesada, el formateo o la síntesis inicial a la máquina es una forma maravillosa de eliminar la fricción de la hoja en blanco. Pero el criterio de validación, el trazo final y la dirección tienen que seguir siendo tuyos.

Si dejas que el algoritmo piense al 100% por ti, el músculo de tu pensamiento propio se atrofia. Te conviertes en un pasajero dormido en el asiento trasero de un coche que avanza a toda velocidad.

Como dice el experto Andrew Ng: «La IA no va a reemplazar a las personas, pero las personas que usan IA sí reemplazarán a las que no lo hacen». Y usar la IA con maestría significa saber supervisarla, saber auditarla bajo estos 7 pilares y no perder jamás nuestra capacidad de hacer preguntas incómodas.


Y tú ✋, ¿en cuál de estas siete señales estás confiando a ciegas hoy en día? Te leo en los comentarios.

Open travel journal with coastal sketch, city photo, travel ticket, flowers, map, and coffee illustration

El poder de un cuaderno de verano

El poder de un cuaderno de verano: Por qué dibujar tus vacaciones fortalece tus recuerdos

En un tiempo que ya casi me parece prehistórico, recuerdo que uno de los grandes rituales antes de ir de vacaciones era comprar carretes para la cámara de fotos. Como teníamos un límite de disparos, seleccionábamos con mucho cuidado dónde y cuándo tomar las fotos, era un recurso escaso y, por tanto, valioso. Hasta la vuelta a casa, tras pasar por la tienda de revelado, no sabíamos cuántas de esas tomas eran buenas y cuáles no, todo era una sorpresa. Esas fotografías acababan en álbumes familiares y sentarnos juntos a revisarlas para echar unas risas era toda una tradición. En aquellos años, los recuerdos permanecían ahí, físicamente a nuestro alcance, como verdaderos tesoros.

Luego llegó la fotografía digital y, más tarde, los móviles. Disparar decenas o cientos de fotos dejó de ser un problema y ya no requiere revelado. Las imágenes están siempre a nuestro alcance en nuestros dispositivos o copiadas en la nube de turno. Sin embargo, esta abundancia infinita implica que cada toma pierde su valor. Rara vez volvemos a mirarlas o a revivir esos momentos. Además, el ritual familiar se ha vuelto meramente personal: cada uno gestiona su propia base de fotografías, perdiendo en gran medida ese vínculo compartido.

Está claro que volver a las cámaras analógicas no tiene sentido, pero algo tenemos que hacer para que nuestros recuerdos vuelvan a ser memorables. Al ser «gratis» disparar, no tenemos problema en fotografiar compulsivamente casi cualquier cosa o evento. Llegamos al absurdo de primar la captura de la foto por encima de disfrutar del propio espectáculo, desconectándonos del momento presente.

Recuperar el valor de las experiencias
Recuperar el valor de las experiencias

Recuperar el cuaderno de verano

Ahora bien, como Visual Thinker plenamente consciente de esta era de saturación digital, propongo un complemento: recuperar la libreta y el rotulador. Y no hace falta un gran despliegue de material para esto, la verdad es que con un marcador negro y una pequeña libreta formato A6, de esas que caben en cualquier bolsillo, es más que suficiente. La idea es explicar cómo el acto de «sketchnotear» una escena de tus vacaciones (un paisaje, un café, una anécdota) te obliga a detenerte, observar y procesar la información profundamente. Esta pausa intencionada crea huellas de memoria mucho más fuertes y duraderas que simplemente hacer un clic automático en una pantalla.

Llevar un registro visual en esa pequeña libreta me parece una idea excelente de consolidación. Nos sirve al mismo tiempo de mini diario y planificador, ayudándonos no solo a asimilar experiencias pasadas, sino también a diseñarlas por anticipado. Nos permite registrar, más allá de la memoria lógica, lo que hemos sentido y vivido, extrayendo el verdadero jugo de la experiencia.

Y más allá del ejercicio individual, me encantaría que encontrásemos la forma de recuperar también aquel viejo ritual de sentarnos juntos a revisar los recuerdos. Es evidente que para esto el pequeño cuaderno personal se queda corto, aunque sí que podemos usar nuestros bocetos como el «storyboard» o guion para una velada de historias. Podemos proyectar en la televisión una selección muy minimalista y estricta de fotografías (quizá solo diez de todo el viaje) y, con nuestra libreta A6 en la mano, contar la historia que no sale en la pantalla: la anécdota, el detalle curioso o lo que estábamos sintiendo. Incluso junto a nuestros hijos podemos desplegar un papel grande en el salón, tomar algo en familia y usar esos dibujos como origen para que los niños añadan sus propios recuerdos con sus propios dibujos, creando un mapa visual compartido de las vacaciones.

Estas libretas tienen una profundidad inmensa. Nos ayudan a fijar el recuerdo porque dibujar la información mejora la memoria de forma mucho más efectiva que escribirla o visualizarla pasivamente, gracias a la potente integración de nuestros procesos motores, semánticos y visuales.

Y esto no es solo una intuición, lo respaldo con el siguiente paper científico: The drawing effect: Evidence for reliable and robust memory benefits in free recall (Wammes, J. D., Meade, M. E., & Fernandes, M. A., 2016).

Cómo Funcionan las Cosas

El mapa del tesoro. Cuando aprendí a ver lo complejo

Hace un par de días os hablaba de aquel viejo juego, el Electro-L, y de cómo encendió la primera chispa de mi vocación por la ingeniería y los sistemas. Aquella pila de petaca me enseñó qué quería hacer: trastear con la tecnología para entender cómo funcionan las cosas.

Pero hoy quiero dar un paso más en este viaje por el retrovisor. Porque si el Electro-L me dio el destino, hubo otra reliquia en mi estantería que me entregó el método.

Y precisamente, hablo de un libro que curiosamente tiene por título «Cómo funcionan las cosas» de David Macaulay. Podéis ver su maravillosa portada en la siguiente imagen.

Cómo Funcionan las Cosas
Cómo Funcionan las Cosas

📖 Más que un manual, una revelación visual

Solo ver esa cubierta, con el título construido a base de palancas, engranajes, imanes y poleas, ya me trae a la memoria innumerables recuerdos. Pasé horas enteras sumergido en sus páginas, completamente maravillado. Sin embargo, ahora soy consciente de que lo que me atrapó no fue solo la tecnología que describía (desde un simple sacacorchos hasta un rayo láser o un ordenador). Fue, por encima de todo, la forma en que lo hacía. Utilizando sin ninguna duda el pensamiento visual.

David Macaulay no se limitaba a soltar descripciones técnicas complejas. Él dibujaba las entrañas del mundo. Despiezaba máquinas complejas a través de sus dibujos, apoyándose en un humor inteligente (imposible olvidar a aquellos mamuts lanudos) y en una claridad espacial que hacía que lo imposible pareciera evidente.

Ahora veo que fue exactamente ahí donde germinó algo mucho más profundo que mi afición por la tecnología pura y dura: nació mi identidad como Visual Thinker.

Conectando los puntos - II - Usando papel negro y mis nuevos lapiceros especiales ;)
Conectando los puntos – II – Usando papel negro y mis nuevos lapiceros especiales 😉

🖍️ El superpoder de dibujar para entender

Si lo pienso bien, mi pasión por el pensamiento visual, los mapas mentales y el sketchnoting bebe directamente de la tinta de aquellas páginas. Aquel libro me grabó a fuego una serie de principios que sigo utilizando hoy en día:

  • Lo complejo no tiene por qué ser complicado: Si puedes dibujarlo, puedes entenderlo.
  • El flujo lo es todo: Igual que un buen diagrama muestra el viaje de la fuerza de un engranaje a otro, hoy trazo el flujo de la información para dar sentido al caos.
  • La claridad es un acto de empatía: Explicar algo de forma visual es invitar a los demás a entrar y comprender tu mundo de un solo vistazo.

En mi trabajo y sobre todo en mis inquietudes personales, ya sea con arquitecturas de sistemas, ciberseguridad, optimizando procesos, preparando un taller o estudiando cualquier tema que me interese, mi herramienta principal es recurrir a un rotulador o a mi iPad para dibujar y comprender los conceptos.  Visualizar el problema desglosándolo en sus componentes es el método más eficaz y directo para identificar el punto de partida para su comprensión.

🏛️ Ver las cosas por lo que realmente son

Marco Aurelio, en sus Meditaciones, nos aconsejaba observar las cosas y desgranarlas en sus elementos básicos para comprender su verdadera naturaleza, despojándolas de todo el adorno superficial. En el fondo, eso es exactamente lo que hace el pensamiento visual. Nos quita el «ruido» de encima y nos deja a solas con la esencia estructural de la realidad.

Ese libro no solo me enseñó cómo funcionaban las cosas, me enseñó a ver las tripas de los problemas. Transformó a un joven curioso en alguien que necesita estructurar el mundo visualmente para darle sentido, conectando ideas de la misma manera que encajan los engranajes de un reloj.

No importan los años que pasen ni lo mucho que avance la digitalización, la herramienta más poderosa para descifrar la complejidad de nuestro entorno sigue siendo nuestra capacidad de plasmarla, trazo a trazo, frente a nuestros ojos.

¡Don’t Give up!

Pila de Petaca de 4,5 voltios de los 70`s

La chispa que encendió mi pasión

🔋 La chispa que lo encendió todo: ¿Cuál es el origen de tu pasión?

¿Te has parado a pensar alguna vez de dónde viene eso que tanto te apasiona? ✋ Sé sincero. En medio de la vorágine diaria, de los correos urgentes y las reuniones interminables, rara vez nos detenemos a mirar por el retrovisor para buscar nuestro «kilómetro cero».

Esta tarde, buscando un poco de pausa, me puse a meditar sobre la creatividad. Quería entender de dónde me viene esta vena tecnológica que me ha acompañado toda la vida. Y tirando del hilo de los recuerdos, la mente me llevó de viaje a los años 70.

Aterricé en el momento exacto en el que me regalaron un juego llamado Electro-L.

Electro L de AIRGAN - Juguete de los años 70
Electro L de AIRGAN – Juguete de los años 70
Interior Electro L de AIRGAN - Juguete de los años 70
Interior Electro L de AIRGAN – Juguete de los años 70

🔌 El poder de una pila de petaca

Si tienes mi edad, igual lo recuerdas. Para mi fue un juego fascinante con el que podías montar pequeños circuitos eléctricos. Un zumbador, unas cuantas bombillas, unos cables y el corazón del sistema: una mítica pila de petaca de 4,5 V, por supuesto NO incluida en el juego, jajaja.

Pila de Petaca de 4,5 voltios de los 70`s
Pila de Petaca de 4,5 voltios de los 70`s

Aquel juego lo cambió todo. Pasé de jugar a destripar viejos aparatos por casa. Sacaba sus componentes (la mayoría no tenía ni idea de lo que eran) e intentaba entender cómo encajaban las piezas de aquel rompecabezas tecnológico.

Y hoy me he dado cuenta que ese fue el germen. Esa curiosidad por conectar cables y hacer brillar una bombilla fue la chispa que me llevó a titularme en Ingeniería Industrial Eléctrica en el CPS en el 92, y la misma que me trajo hasta mi rol actual dirigiendo equipos de tecnología y sistemas.

🧠 Conectando los puntos (hacia atrás)

Hoy vivimos hiperconectados, infoxicados y obsesionados con la siguiente notificación o el próximo hito profesional. Sin embargo, a veces necesitamos volver a lo analógico, a «tocar» las cosas con las manos para entender los sistemas complejos.

En el fondo, mi pasión por el Visual Thinking nace del mismo sitio que mi pasión por el Electro-L: la necesidad de ver cómo se conectan los elementos, de simplificar lo complejo y de entender el flujo de la información (antes era la electricidad, ahora son las ideas).

Conectando mis puntos
Conectando mis puntos

Los estoicos nos recuerdan que no podemos controlar el futuro, pero sí podemos conocernos a nosotros mismos entendiendo nuestro pasado. Saber de dónde venimos nos da perspectiva y resiliencia para afrontar el ruido del presente.

🚀 Tu turno

Todos tenemos un «Electro-L» en nuestra historia. Un libro, un mentor, un viaje, un juguete… Un momento exacto en el que el cerebro hizo clic y plantó la semilla de lo que eres hoy.

¿Cuál fue la chispa que encendió tu pasión profesional? ¿Recuerdas ese momento «kilómetro cero»?

Te leo en comentarios 👇

¡Y recuerda, Don’t Give up!

Metal funnel collecting cascading streams of binary code zeros and ones in laboratory

El embudo de los datos

El embudo del datos: Por qué no necesitas más KPIs, sino más sabiduría.

En el día a día al frente de la tecnología, los sistemas y la ciberseguridad, la cantidad de logs, alertas y cuadros de mando que cruzamos puede ser absolutamente abrumadora. Nos enfrentamos a una verdadera infoxicación, donde el exceso de números amenaza con paralizar nuestras decisiones. A menudo, caemos en la trampa de creer que entregar un Excel con todos los datos te hace un buen profesional. Pero la realidad es otra: los datos crudos no sirven para liderar.

El verdadero reto no es acumular métricas, sino destilarlas, extraer conclusiones y planes de acción. Para ello, necesitamos aplicar un filtro riguroso, muy alineado con la práctica estoica de separar el ruido externo de aquello que realmente podemos controlar y accionar. Al igual que en la optimización de procesos industriales, donde eliminamos los desperdicios para asegurar el flujo de valor, en la comunicación tecnológica debemos transformar el volumen en significado. Y para ello debemos de pasar por tres pasos fundamentales: categorización, secuenciar por dependencia, y finalmente priorizar.

Aquí es donde el Pensamiento Visual y el modelo DIKW (Data, Information, Knowledge, Wisdom) se dan la mano para crear el embudo de los datos:

1️⃣ Datos (Mucho ruido)

Son los unos y ceros, los logs sueltos, las latencias brutas. No tienen contexto.

2️⃣ Información (Añadimos el contexto)

Agrupamos y categorizamos esos datos. Por ejemplo, encontramos hallazgos del estilo «El servidor web ha tenido 500 picos de latencia hoy».

3️⃣ Conocimiento (Buscamos patrones, ordenamos y secuenciamos)

Visualizamos la tendencia. Por ejemplo: «Los picos ocurren siempre a las 10:00 AM durante el pico de transacciones comerciales». Ordenamos y secuenciamos las tareas de un proceso por dependencia.

4️⃣ Sabiduría (Decidimos la acción principal)

La acción clara. «Necesitamos escalar nuestra infraestructura en la nube dinámicamente antes de las 10:00 AM para no perder ventas». La priorización nos ayuda a determinar la principal acción y ahí es donde debemos poner nuestra focalización de recursos.

El embudo de los datos
El embudo de los datos

Como líderes visuales, nuestro trabajo no puede quedarse en volcar la base de datos sobre la mesa de nuestros usuarios. Nuestro trabajo es construir y mostrar este embudo, y entregar sabiduría, no números.