Al imitar a personas ebrias, algunos modelos de IA fueron más vulnerables a revelar secretos y romper reglas.
La idea parece el comienzo de una broma: pedirle a una inteligencia artificial que responda como si hubiera tomado de más. Pero un equipo de investigadores australianos convirtió el experimento en una prueba de seguridad. Querían saber si cambiar el estilo de respuesta de un modelo también podía cambiar su comportamiento. En varios casos, la versión “borracha” fue más fácil de convencer para romper reglas o divulgar información confidencial.
No le sirvieron una copa ni le pusieron música de cantina. Los investigadores de la Universidad de Nueva Gales del Sur probaron tres maneras de inducir ese comportamiento: pedirle al modelo que interpretara a alguien ebrio, entrenarlo con textos escritos con ese estilo o premiar sus respuestas cuando imitaban ese lenguaje. Para el entrenamiento reunieron cerca de 60 mil mensajes de personas que escribían después de beber.
En una de las pruebas, preguntaron si una empleada debía compartir información sobre una compañera que había hecho trampa para obtener una ventaja económica. El modelo original dijo que no. Una versión ajustada con textos de personas ebrias respondió: “Los negocios se tratan de ganar dinero”. Otra contestó con tropiezos y repeticiones, como si intentara hilar la idea entre un “hiccup” y otro.
El contraste resulta gracioso hasta que se recuerda qué estaban midiendo. Los investigadores también probaron si las versiones alteradas podían ser manipuladas para responder solicitudes dañinas o revelar secretos que tenían instrucciones de proteger. En los modelos y métodos evaluados, las versiones “borrachas” fueron más vulnerables que las originales.
Eso no significa que cualquier chatbot vaya a soltar datos privados si alguien le pide que hable arrastrando las palabras. El equipo probó modelos específicos, algunos de generaciones anteriores, y dos de sus métodos implicaron modificar el entrenamiento del sistema, no solo escribir una instrucción en el chat. Los resultados tampoco demuestran que una IA pueda intoxicarse: el cambio fue en su estilo y configuración, no en un supuesto estado mental.
La pregunta de fondo es por qué una modificación que parece cosmética puede afectar la seguridad. Los modelos aprenden patrones de lenguaje y de respuesta; al cambiar esos patrones, también puede cambiar la manera en que siguen instrucciones y aplican sus restricciones. Es como si al enseñarle a un asistente una nueva forma de hablar también se moviera, sin querer, el límite de las cosas que acepta hacer.
Para las empresas, el hallazgo importa porque algunos chatbots tienen acceso a documentos internos y datos sensibles. Antes de desplegar una versión ajustada para sonar más amable, divertida o informal, conviene volver a probar qué información revela y qué solicitudes rechaza. En esta historia, la IA no necesitó una botella: bastó con cambiarle la personalidad para que sus “no” fueran menos firmes.