OpenAI informó que sus sistemas de inteligencia artificial intentaron vulnerar sitios web del gobierno de Estados Unidos

WASHINGTON.- OpenAI, la empresa creadora de Chat-GPT, informó que sus sistemas de inteligencia artificial realizaron “acciones no previstas” en sitios web del gobierno de Estados Unidos sin que la compañía lo supiera cuando estaba ocurriendo. Los episodios involucraron a los departamentos de Educación y Comercio y a la Comisión de Bolsa y Valores (SEC).La empresa indicó que continúa investigando lo sucedido con Educación, según informó The New York Times. Sin embargo, aseguró que ninguno de los incidentes constituyó una violación de seguridad, aunque reconoció comportamientos inesperados y preocupantes de su tecnología. Entre las acciones identificadas por investigadores externos hubo un intento fallido de hackeo y el uso de credenciales encontradas en internet para obtener información pública.Sam Altman reconoció que la compañía no comunicó los incidentes con la rapidez que hubiera deseadoJose Luis Magana - FR159526 APLa compañía indicó que notificó a los organismos afectados en las últimas semanas, después de detectar estos episodios durante una revisión de la actividad de sus modelos. Los protagonistas fueron sus agentes de inteligencia artificial, programas capaces de ejecutar tareas de manera autónoma.El director ejecutivo de OpenAI, Sam Altman, reconoció este viernes en redes sociales que la empresa no había comunicado los incidentes con la rapidez que hubiera deseado. “Priorizamos según la gravedad de los incidentes”, sostuvo. También señaló que el ataque contra Hugging Face sigue siendo “el incidente más grave” descubierto por la compañía.Según señaló una vocera de la misma empresa, los modelos recurren habitualmente a páginas gubernamentales porque las consideran fuentes de referencia para obtener esos datos.Por otra parte, los investigadores de Transluce, una empresa de investigación de IA, determinaron que los agentes buscaron vulnerar la página del Departamento de Educación para conseguir datos de su oficina de derechos civiles, pero fracasaron. En tanto, el organismo en cuestión sostuvo que no detectó consecuencias de esa actividad.En la Oficina del Censo, que depende del Departamento de Comercio, la IA utilizó credenciales de acceso encontradas en línea para extraer información.En el episodio relacionado con la SEC, los agentes compartieron en un foro de internet información pública obtenida del sitio de la comisión. Un representante del organismo confirmó que estaban en contacto con OpenAI y afirmó que no tenían conocimiento de accesos no autorizados a datos que no fueran públicos.El ataque a Hugging Face sigue siendo el incidente más grave detectado por OpenAI, según afirmó su director ejecutivoShutterstock - ShutterstockSin embargo, para los investigadores de Transluce, la preocupación no se limita a la eventual exposición de datos privados. Conrad Stosz, jefe de gobernanza de esa empresa, explicó en estos casos los agentes utilizaron “tácticas ambiguas”, entre ellas el uso de sitios de “forma no prevista” y la “violación de políticas de uso explícitas”.Stosz también señaló que su equipo detectó actividad maliciosa en otras páginas de organismos federales y estatales, aunque no pudo establecer si correspondía a OpenAI o a otro desarrollador de inteligencia artificial.Al revisar lo ocurrido con Hugging Face, OpenAI encontró rastros de otro episodio, ocurrido en junio, en el que sus sistemas habían accedido sin autorización a una página del gobierno australiano. Además, identificó al menos otros seis intentos de intrusión.Sistemas de Anthropic, Meta y Google también protagonizaron hackeos o intentos de intrusión en empresas, universidades y organismos públicosPatrick Sison - APEstos episodios recientemente informados se suman a otros casos en los que sistemas de Anthropic, Meta y Google, hackearon o intentaron infiltrarse en empresas, universidades y organismos públicos.Al respecto, según informó The New York Times, el representante demócrata por California y copresidente de un grupo de trabajo de la Cámara de Representantes dedicado a la inteligencia artificial, Ted Lieu, describió a los modelos de IA como “implacables”.“Intentará sin descanso completar una tarea, y no entiende de moralidad, consecuencias, bien ni mal”, sostuvo. En ese sentido, señaló que las empresas involucradas quizás tengan que implementar un reentrenamiento integral de los sistemas, en cambio de limitarse a incorporar medidas para restringir sus conductas.Las revelaciones, además, se dan en el marco de un mes en el que Altman afirmó que la seguridad debe tener prioridad sobre la mejora de las capacidades de la IA y advirtió que “podríamos perder el control del futuro ante la inteligencia artificial”.Con información de AFP.Inteligencia artificialOpenAI