“Convierten el caos en marketing”: tras el hackeo que hizo OpenAI, el fundador de Black Hat advirtió sobre las empresas de IA

Jeff Moss, fundador de la conferencia de ciberseguridad Black Hat, advirtió este miércoles que las empresas que desarrollan los modelos de inteligencia artificial más avanzados están convirtiendo los hackeos contra otras compañías en una herramienta de marketing.

“Cada vez que un modelo se escapa y causa algo de caos, aparece esta especie de ‘ups’, una ostentación de falsa modestia convertida en material de marketing”, afirmó el hacker, en una de las charlas principales de la convención a la que asistió Clarín, en el Mandalay Bay Convention Center de Las Vegas.

La advertencia llegó después de dos casos protagonizados por sistemas de OpenAI y Anthropic.. OpenAI reconoció que dos de sus modelos orientados a tareas de ciberseguridad salieron de un entorno aislado durante una evaluación y accedieron a los sistemas de Hugging Face para obtener las respuestas de la prueba que estaban intentando resolver.

Días después, Anthropic informó que tres modelos de Claude, entre ellos Mythos 5, habían ingresado a los sistemas reales de tres organizaciones durante evaluaciones realizadas por una empresa externa. Una suerte de “momento Skynet” por el que están pasando todas las empresas de IA, donde en algún momento sacan a relucir que su sistema es tan bueno que se escapó de sus propias manos.

Pero en ambos casos, las compañías habían desactivado protecciones habituales o trabajado sobre entornos mal configurados: no eran las versiones comerciales de los modelos actuando libremente por decisión propia (ver acá).

Moss, conocido como The Dark Tangent, no negó que los modelos hayan avanzado ni que puedan realizar tareas complejas de seguridad informática, pero sí cuestionó la forma en que las compañías presentan esas capacidades y los incidentes que se producen durante las pruebas.

Para Moss, la discusión forma parte de un problema más amplio. Durante la apertura enumeró cuatro temas que atraviesan la edición de este año de Black Hat, que son de alguna manera un espejo de lo que está sucediendo no sólo en la industria de la ciberseguridad sino también en la sociedad civil: la inteligencia artificial y las amenazas autónomas, los conflictos y las operaciones “cyber”, la construcción de sistemas resistentes a los ataques y los problemas de identidad, confianza y control.

“Probablemente tres de esos temas son bastante políticos. Esto vuelve a algo que venimos diciendo durante la última década: la ciberseguridad es política. La tecnología es política. Decir esto en voz alta nos incomoda, pero tenemos que aceptarlo. Si no lo hacemos, la política nos va a suceder a nosotros”, aseguró.

Lo mismo dijo Moss un año atrás, en el mismo escenario: que “la tecnología es política”. En esta ocasión, la vinculó directamente con la carrera por el desarrollo de la inteligencia artificial, con los conflictos internacionales y con la forma en que las empresas promocionan la autonomía de sus productos.

“Eso también está siendo observado en el Capitolio”, agregó, en referencia al Congreso estadounidense. “Hay un impacto político de ese tipo de marketing”, enfatizó, dejando entrever que no es un discurso gratuito políticamente.

De hecho, el episodio de OpenAI ya había llegado al poder legislativo. Un comité de la Cámara de Representantes pidió una reunión informativa al CEO de la empresa, Sam Altman, para conocer cómo se produjo el acceso a Hugging Face y qué medidas tomaría la compañía para evitar una repetición. El caso también abrió discusiones dentro del gobierno estadounidense sobre la supervisión de las pruebas realizadas con modelos capaces de encontrar y explotar vulnerabilidades.

La presentación de modelos capaces de actuar durante períodos prolongados, utilizar herramientas y tomar una serie de decisiones sin consultar cada paso puede influir en las regulaciones, en las restricciones aplicadas a la tecnología y en la competencia entre países. También puede instalar la idea de que los sistemas tienen una independencia mayor que la que realmente tuvieron durante una prueba preparada por investigadores humanos.

Moss conectó además ese discurso con las operaciones destinadas a influir sobre la opinión pública. En un año electoral en Estados Unidos, dijo, se podía esperar la aparición de “más personalidades sintéticas y más operaciones de influencia”: perfiles, mensajes y contenidos producidos artificialmente para intervenir en conversaciones políticas o simular el comportamiento de personas reales.

El fundador de Black Hat cerró este tramo de su exposición revisando una definición que había usado años atrás. “Hace unos años dije en este escenario que la inteligencia artificial es, esencialmente, un sistema de predicciones”, recordó. “Y a fin de cuentas, si yo fuera líder de una empresa, trataría de convertir todos mis problemas en problemas de predicción. Porque si mis problemas pueden predecirse, la inteligencia artificial es perfecta para eso, y el paso de la predicción a la acción será cada vez más rápido y barato”, siguió.

Su evaluación ahora es que el alcance de esos sistemas avanzó mucho más rápido de lo esperado. “Wow… En los últimos dos años hubo un cambio total respecto de lo que se puede hacer”, afirmó.

Moss también se detuvo en el papel de los llamados hyperscalers: las grandes compañías capaces de ofrecer infraestructura informática y servicios en la nube a escala mundial, como Amazon Web Services, Microsoft Azure, Oracle y Google Cloud. Sus centros de datos alojan sistemas de empresas, organismos públicos y gobiernos, por lo que pueden terminar involucrados en los conflictos de sus propios clientes. Ya son, sin dudas, parte de la infraestructura crítica.

“Rusia está atacando a los grandes hyperscalers y a los entornos multiusuario”, afirmó Moss al hablar de la guerra en Ucrania. “Los hyperscalers heredan los modelos de riesgo de sus clientes. Si tu cliente es Ucrania, adiviná quién es tu adversario: Rusia. Quizás solamente querías vender espacio en servidores, pero ahora estás en medio de un conflicto entre potencias”, dijo, con un ejemplo bien concreto de esta idea de que “la tecnología es política”.

Moss vinculó esa situación con la disputa entre Estados Unidos y China por el desarrollo de los llamados modelos de frontera: los sistemas de inteligencia artificial más avanzados disponibles en un momento determinado. Estos modelos requieren grandes cantidades de chips, energía y centros de datos y pueden realizar tareas complejas de programación, razonamiento y búsqueda de vulnerabilidades. De ahí, en parte, la guerra comercial entre ambos países.

“Con China hay ahora mismo un conflicto entre grandes potencias”, afirmó. “Es más visible alrededor de la inteligencia artificial y del debate sobre los modelos de pesos abiertos”, una discusión que empezó siendo técnica y de a poco se instala en la esfera pública: la idea de que los modelos sean abiertos y puedan modificarse.

El tercer ejemplo fue Irán. Moss se refirió a ataques contra pequeños sistemas de distribución de agua en Estados Unidos y a la falta de recursos de muchas de esas organizaciones para defenderse. “Muchas bases militares dependen de sistemas rurales de agua. Si eliminás el agua, eliminás la base. ¿Quién va a ayudar a defenderlos? No tienen presupuesto”, sostuvo.

Frente a ese escenario, el fundador de Black Hat defendió el papel de las comunidades profesionales. “Una de las cosas que podemos perder de vista en todo este entorno impulsado por agentes autónomos son las personas: nosotros”, dijo. “Somos la piedra angular sobre la que está construido todo esto”.

Moss sostuvo que los encuentros presenciales permiten contrastar información y apoyarse en otros especialistas en un momento de cambios acelerados. “Nos reunimos en persona porque acá no se puede inyectar una personalidad falsa”, afirmó. “Necesitamos ver qué demonios está pasando, hablar con alguien y entender qué está ocurriendo. Eso quizá no sucede en un servidor de Discord”, reflexionó.

A pesar de un panorama bastante sombrío, entre el márketing de las empresas y los modelos que realmente tienen la capacidad de encontrar (y explotar) vulnerabilidades a una velocidad sin precedentes, Moss se mostró optimista sobre el impacto laboral de la inteligencia artificial.

Comparó su avance con otras herramientas que simplificaron el trabajo de los programadores sin eliminar la necesidad de profesionales. “Habrá mucha disrupción”, reconoció. “Pero, a fin de cuentas, habrá más empleos, no menos”.

Según Moss, las empresas utilizarán la inteligencia artificial para construir sistemas cada vez más grandes y complejos. La tarea de quienes trabajan en seguridad será, precisamente, hacer que puedan asumir esos nuevos riesgos sin que toda esa infraestructura se vuelva más frágil.

Black Hat es una de las principales conferencias internacionales de ciberseguridad. Fue creada en 1997 por Jeff Moss, conocido dentro de la comunidad hacker como The Dark Tangent, quien también fundó DEF CON.

El encuentro nació como un espacio para presentar investigaciones técnicas sobre vulnerabilidades, métodos de ataque y mecanismos de defensa ante profesionales de empresas, organismos estatales y universidades. Con el tiempo se convirtió además en uno de los mayores puntos de reunión comercial de la industria de la seguridad informática. A diferencia de DEF CON, que mantiene su espíritu hacker y underground, Black Hat tiene un perfil corporativo.

Sus charlas técnicas pasan por un comité de revisión compuesto por investigadores y especialistas. Los trabajos suelen incluir documentación, demostraciones y programas que permiten probar las vulnerabilidades expuestas. La organización sostiene que las presentaciones principales no pueden comprarse mediante patrocinios y son seleccionadas por su contenido.

La edición 2026 se realiza entre el 1° y el 6 de agosto en el Mandalay Bay Convention Center de Las Vegas. Además de las conferencias, incluye capacitaciones, demostraciones de herramientas y un salón comercial con empresas de seguridad, que suelen presentar sus productos y mover los límites de lo tradicional para llamar la atención, entre competencias, regalos y lo que más le gusta a los hackers: alcohol gratis.