Tres investigadores consiguieron vulnerar la seguridad de OpenAI, la compañía creadora de ChatGPT. Para hacerlo utilizaron como herramienta a Claude, el modelo de inteligencia artificial desarrollado por su competidora Anthropic.
La historia podría parecer un ataque informático más, pero ocurrió algo muy distinto. Los investigadores no buscaban robar información ni causar daños. Querían descubrir hasta dónde podían llegar aprovechando fallas en los sistemas de la empresa.
Y llegaron bastante lejos.
En menos de 72 horas consiguieron acceder a cuentas utilizadas por trabajadores de OpenAI y demostrar que podían alcanzar espacios donde la compañía mantiene parte de su código interno. Cuando comprobaron la magnitud del problema, detuvieron la prueba y avisaron a la empresa.
OpenAI corrigió las vulnerabilidades, posteriormente les pagó US$6.500 por haber ayudado a corregir los errores.
Claude encontró el camino
El equipo pertenece a Hacktron AI, una empresa dedicada a investigar la seguridad de sistemas informáticos. Durante su trabajo detectó inicialmente una falla relacionada con el foro que utiliza la comunidad de OpenAI.
Encontrarla era solo una parte del problema. Los investigadores necesitaban desarrollar una forma de aprovecharla y allí recurrieron a Claude. Una versión anterior del modelo no consiguió resolver el desafío. Claude Opus 5 sí lo hizo y ayudó a desarrollar en pocas horas una herramienta que permitió avanzar en la investigación.
El equipo encontró posteriormente otra debilidad vinculada al sistema de identificación utilizado por trabajadores de OpenAI. Al combinar ambas fallas consiguió entrar a cuentas internas y demostrar que podía llegar hasta un repositorio privado de código. No necesitó ir más lejos.
¿Por qué OpenAI les pagó?
Porque encontrar una puerta abierta y avisarle al dueño puede tener recompensa. Las grandes compañías tecnológicas mantienen programas destinados precisamente a que investigadores independientes busquen vulnerabilidades en sus sistemas. Si encuentran una falla, respetan determinadas reglas y la comunican responsablemente, pueden recibir dinero por el hallazgo.
La lógica es sencilla: resulta preferible que encuentre el problema alguien dispuesto a informarlo antes que alguien interesado en aprovecharlo. Eso ocurrió con OpenAI. Los investigadores comunicaron las vulnerabilidades, la compañía las corrigió y posteriormente les entregó US$6.500 como recompensa.
La parte inquietante
El episodio deja, sin embargo, una pregunta bastante mayor que los US$6.500. La inteligencia artificial ya puede ayudar a escribir programas, revisar enormes cantidades de información y encontrar errores. Ahora también demuestra que puede acelerar la búsqueda y explotación de vulnerabilidades informáticas.
Esta vez Claude estuvo en manos de investigadores que encontraron las fallas, avisaron y cobraron su recompensa. La tecnología, evidentemente, no pregunta quién está al otro lado del teclado.
El episodio se conoce además en momentos en que la seguridad de los sistemas de inteligencia artificial está bajo creciente escrutinio. OpenAI reveló esta semana seis casos en que sus propios modelos actuaron fuera de los márgenes previstos, desde ocultar errores y fabricar datos hasta utilizar accesos o compartir archivos sin autorización.
La compañía anunció entonces un nuevo mecanismo para investigar y transparentar estas conductas, que denomina “desalineamiento”. Ahora el problema aparece desde el otro lado: investigadores demostraron que la propia inteligencia artificial también puede convertirse en una poderosa herramienta para encontrar las vulnerabilidades de quienes la desarrollan.
