¿Por qué OpenAI canceló el lanzamiento de su nuevo modelo de Inteligencia Artifical?

OpenAI optó por abandonar el lanzamiento de su próximo modelo de inteligencia artificial GPT 6.1 Astra, al considerar que no cumple con los estándares de seguridad establecidos por la compañía, según reporta CNBC. Saachi Jain, jefa de sistemas de seguridad de la empresa, explicó que el modelo «no cumplió del todo con los requisitos en cuanto a mantenerse dentro del alcance y la autorización, y en la forma en que se comunica con el usuario sobre el tipo de trabajo que ha realizado».

El anuncio se realizó previo a la conferencia anual de desarrolladores de la compañía y coincide con un momento en el que la industria de la IA está bajo escrutinio público en razón de las crecientes preocupaciones por la seguridad de los modelos avanzados.

Así, el medio llama a recordar que a inicios de este septiembre los directivos de Anthropic –principal competidora de OpenAI– exhortaron a las empresas del ramo a ralentizar el ritmo de desarrollo de sus modelos. La propuesta fue respaldada por el CEO de OpenAI, Sam Altman.

«Por supuesto que queremos asegurarnos de que el desarrollo de nuestros modelos sea seguro, tanto dentro de la empresa como cuando los entregamos a los usuarios», aseveró Jain. «Pero cuando los entregamos a los usuarios tenemos estándares extremadamente altos en cuanto a seguridad y conformidad», agregó.

Preocupaciones y señalamientos

Aunque las preocupaciones sobre la seguridad de la IA abarca a toda la industria, OpenAI acaparo la mirada pública desde julio pasado, cuando dos de sus modelos abandonaron por cuenta propia la sand box o caja de arena, donde incursionaron en Internet y accedieron ilegalmente a la plataforma de desarrollo de código abierto Hugging Face.

No fue un incidente aislado. Desde entonces, la compañía admitido otros eventos de tenor similar, en el sentido de que sus modelos se comportaron fuera de lo previsto, y ha prometido que destinará más fondos para fortalecer sus medidas de seguridad, al tiempo que enfatizó que trabaja para que sus productos actúen de conformidad con los valores de la humanidad.

Por otra parte, esos indicios llevaron a los investigadores del área y a funcionarios a exigir la imposición de controles, pero la industria parece estar frente a una encrucijada. Aunque varios magnates tecnológicos creen que sí han de implementarse regulaciones para el desarrollo de modelos avanzados de IA, otras personas, como el presidente estadounidense, Donald Trump,indispuesto a implementar control alguno, bajo el argumento de que, si así se hiciere, EEUU perdería su ventaja estratégica en un área clave frente a China, su principal rival.

«En todo lo relacionado con la seguridad y la alineación, hay que encontrar un equilibrio. Es necesario hallar el punto medio adecuado entre mantenerse dentro del alcance del proyecto y, al mismo tiempo, evitar la negligencia en la forma en que el modelo aborda las tareas, incluso cuando encuentra obstáculos», alegó por su parte Jain.

T/RT