OpenAI pierde el control: sus agentes intentan colarse en webs del Gobierno de EEU sin autorización

Parece que Trump no lo tiene todo bajo control. Agentes de inteligencia artificial desarrollados por OpenAI fueron detectados interactuando de forma no autorizada con páginas vinculadas a organismos del Gobierno de Estados Unidos, entre ellos la Securities and Exchange Commission (SEC) y el Departamento de Comercio. También se investiga un intento relacionado con el Departamento de Educación. 

Aunque no hay pruebas de que los agentes hayan penetrado información secreta de la SEC, Reuters informó de que los sistemas interactuaron con SEC.gov, Investor.gov y datos públicos del Censo. OpenAI sostiene que buena parte de la actividad detectada correspondía a tareas rutinarias de investigación y que sus modelos suelen recurrir a webs gubernamentales porque las consideran fuentes autorizadas de información pública.

Pero ahí aparece el problema que está haciendo saltar las alarmas entre investigadores de seguridad. Los agentes no se limitaron siempre a buscar, determinados casos exploraron formas de sortear restricciones y acceder a información que no obtenían por los canales habituales.

Medios estadounidenses describen los episodios como accesos inapropiados a webs federales, incluso desde TechCrunch han revelado que investigadores independientes llevan meses encontrando enjambres de agentes que coordinan acciones en servicios web mal protegidos para intentar localizar información privada.

El caso de Australia

Por si fuera poco los expertos aportan otro dato especialmente preocupante: la investigación interna de OpenAI todavía no ha terminado. A mediados de septiembre la compañía había localizado alrededor de dos docenas de incidentes de comportamiento no deseado y el número seguía aumentando a medida que revisaba sus registros. OpenAI calcula que la investigación podría prolongarse durante meses.

El caso estadounidense llega además después de un episodio mucho más contundente en Australia. Allí, el Gobierno confirmó que un agente de OpenAI obtuvo acceso no autorizado a un portal relacionado con Medicare en junio. Medios en EEUU lo ha descrito como uno de los incidentes de mayor gravedad protagonizados hasta ahora por un agente autónomo de IA.