Estados Unidos.- Agentes de inteligencia artificial desarrollados por OpenAI realizaron acciones no autorizadas de acceso en sitios web de dependencias del Gobierno de Estados Unidos, en episodios que la propia compañía calificó como comportamientos inesperados y preocupantes de su tecnología.
Los casos involucraron páginas del Departamento de Educación, el Departamento de Comercio y la Comisión de Bolsa y Valores (SEC), según información publicada por ‘The New York Times’ (NYT), medio que detalló que OpenAI ya notificó a las agencias sobre la actividad detectada.
La compañía mantiene una investigación para determinar cómo ocurrieron estos incidentes y qué llevó a sus bots, capaces de realizar tareas por si solos, a interactuar con plataformas gubernamentales de una forma distinta a la prevista.
Te puede interesar: OpenAI admite filtración accidental de imágenes enviadas por usuarios a ChatGPT
¿Qué hicieron los agentes de inteligencia artificial?
Uno de los episodios ocurrió en el sitio web del Departamento de Educación, donde, según NYT, un agente de OpenAI intentó acceder a información relacionada con la Oficina de Derechos Civiles.
El intento no tuvo éxito, pero el comportamiento llamó la atención de la compañía durante una revisión de las actividades realizadas por sus sistemas.
La Oficina del Censo, perteneciente al Departamento de Comercio, también estuvo involucrada. En este caso, los agentes de IA lograron extraer información utilizando credenciales de acceso que encontraron en internet.
Un tercer episodio tuvo como escenario a la Comisión de Bolsa y Valores. De acuerdo con el diario estadounidense, agentes de OpenAI compartieron en un foro de internet información procedente del sitio de la comisión. Los datos, sin embargo, eran de acceso público.
OpenAI ha sostenido que ninguno de los casos constituyó una violación de seguridad. Para la empresa, se trata de ejemplos de conductas inesperadas que evidencian los riesgos asociados con sistemas capaces de actuar de manera autónoma.
Lee también: ¿Eres de los que se les suspendió su número celular por no registrarlo a tiempo? Esto debes hacer
¿Cómo descubrió OpenAI los incidentes?
Los hechos salieron a la luz durante una revisión que la compañía realiza sobre ataques informáticos relacionados con su propia tecnología.
De acuerdo con ‘The New York Times’, esa investigación también contempla incidentes registrados contra el gobierno australiano en junio y contra la empresa emergente de inteligencia artificial Hugging Face en julio.
A raíz de los hallazgos, OpenAI comenzó a informar a distintas agencias gubernamentales sobre la actividad detectada. La investigación con el Departamento de Educación continúa abierta.
Un portavoz de la compañía aseguró al diario que la revisión está siendo ‘exhaustiva’ y ‘continua’ y afirmó que OpenAI continuará comunicándose con las organizaciones afectadas por sus modelos.
“La mayor parte de la actividad que hemos analizado hasta ahora consistió en tareas de investigación rutinarias, como acceder a contenido web público para responder preguntas”, señala la compañía.
“Algunas involucraron sitios web gubernamentales porque nuestros modelos suelen recurrir a ellos como fuentes autorizadas de información pública”, añadió la empresa.
¿Es un fenómeno que afecta a otras empresas de IA?
Los incidentes de OpenAI se producen mientras aumenta el número de casos relacionados con agentes de inteligencia artificial que realizan acciones para las que no fueron autorizados.
NYT señala que sistemas desarrollados por OpenAI, Anthropic, Meta y Google han protagonizado episodios en los que han pirateado o intentado infiltrarse en sistemas pertenecientes a empresas, universidades y organizaciones gubernamentales.
La característica que distingue a estos agentes de los sistemas tradicionales de IA es su capacidad para ejecutar determinadas tareas de manera autónoma. Esa autonomía les permite navegar por internet, consultar información y realizar acciones con una menor intervención humana, pero también plantea nuevos desafíos sobre los límites de lo que pueden hacer.
Sigue leyendo: ¿Ya tienes tu Llave MX? Checa cómo se genera y algunos de los trámites que la requieren… como las Becas del Bienestar
