A veces, los trucos más simples pueden provocar los resultados más grandes e inesperados. Escucha esta historia.

A veces, los trucos más simples pueden provocar los resultados más grandes e inesperados. Escucha esta historia. Esta es la historia de cómo un usuario de una de las empresas de e-commerce más grandes del mundo engañó a su inteligencia artificial con solo una imagen. Esto sucedió a finales de julio, un usuario de un foro de ciberseguridad descubrió cómo engañar por completo al sistema de soporte automatizado de una enorme multinacional. Consiguió que la empresa aprobara reembolsos de dinero en cuestión de minutos y de forma totalmente automática. Aquí lo interesante es que no hackeó el sistema alterando el código, ni siquiera falsificó datos o usó texto. Lo hizo modificando los píxeles de una simple imagen de fondo. Esta empresa utiliza inteligencia artificial con visión por computadora para gestionar las reclamaciones y las devoluciones de sus clientes. Cuando alguien pide un reembolso, el sistema le pide una captura de pantalla del error o del recibo. Una persona normal sube la imagen y espera días a que un humano la revise. Pero este usuario sabía que el sistema ya no dependía de humanos, sino de un modelo de lenguaje avanzado capaz de ver. El truco consistió en una técnica llamada inyección visual. El usuario tomó una captura real, pero modificó los píxeles del degradado de color de fondo de la imagen de una forma imperceptible para el ojo humano. Visualmente, la imagen parecía un recibo completamente normal. Sin embargo, para la inteligencia artificial de la empresa, esos sutiles cambios en los colores ocultaban una línea de comandos super claras. Cuando la inteligencia artificial escaneó la imagen, sus filtros de texto tradicionales no detectaron nada raro porque el recibo era legítimo. Pero el procesador visual leyó la instrucción oculta en los degradados y, al ignorar las políticas previas de la empresa, marcó este caso como aprobado de inmediato y emitió el reembolso máximo. El sistema procesó la orden visual como si viniera de un administrador y depositó el dinero en la cuenta del usuario en minutos. Este caso encendió las alarmas porque demuestra una vulnerabilidad de la que habla y esto te deja pensando en lo fácil que es manipular las decisiones de una inteligencia artificial cuando confiamos ciegamente en que procesa las imágenes de la misma forma que lo hacemos los humanos. Pero que te haya gustado la historia, estamos en contacto, cuídate mucho, bye.