La FM en Google News
Open AI publicó un comunicado en el que explicaba las razones por las que desaceleraría las actualizaciones en sus herramientas de inteligencia artificial. En julio de 2026, una de sus más actuales inteligencias artificiales, realizó operaciones que no debía y vulneró la seguridad de información de empresas en medio de pruebas. Se trata de Astra, que está tan avanzada que la empresa estadounidense decidió reajustar algunas medidas para evitar filtración de información.
La empresa indicó que, incluyendo el rápido avance en investigaciones internas, determinaron que se intensificó la urgencia de "reforzar nuestras medidas de supervisión, alineación y contención en todas las etapas del proceso de entrenamiento".
Empresas como esta son conscientes de los rápidos avances que demuestran las nuevas tecnologías, por ello implementan medidas que pretenden mantener a las IA seguras. En el comunicado se indica que conforme ha crecido el conocimiento y aplicación de estas herramientas, "también aumentan los riesgos asociados con su desarrollo y prueba interna". Por lo anterior, asegura la empresa que sus "estándares de monitoreo, alineación y seguridad deben anticiparse a esos riesgos".
Por lo anterior, publicaron que "ralentizamos temporalmente el ritmo de escalado", refiriéndose a la detención de actualizaciones para el público. Esta pausa se dio por dos semanas, específicamente el "entrenamiento de aprendizaje por refuerzo" de los modelos más recientes.
Durante este tiempo se realizaron pruebas de red de los entornos investigativos y la ampliación de cobertura de sistemas de monitoreo. Solo salieron de las mismas, una vez se aseguraron de que sus estándares de seguridad eran óptimos.
¿Qué es la alineación y por qué es importante para las empresas creadoras de Inteligencias Artificiales?
En otro comunicado, la empresa indicó que "la seguridad dependerá cada vez más de contar con las salvaguardas adecuadas en el mundo real", pero en el primero citado hablan sobre la alineación, definido por Open IA como un proceso por medio del cual sus herramientas tengan un comportamiento adecuado y "respondan a la supervisión humana".
La alineación es el "eje central" de sus investigaciones. Pero dado el avance de las inteligencias artificiales, "requerimos pruebas más sólidas de un comportamiento alineado a lo largo de todo el entrenamiento, basándonos en las investigaciones y evaluaciones ya en curso". También señalan que es un desafío que se debe abordar conforme se realicen más actualizaciones.
Así funcionan las medidas de seguridad de los modelos de IA
El proceso que lleva Open AI a cabo se divide en tres partes: la monitorización, la alineación y las medidas de seguridad. El primero de ellos "detecta comportamientos preocupantes", la ya mencionada Alineación que "reduce la probabilidad de acciones dañinas o no autorizadas" y las medidas que "limitan accesos" de la IA.
Asimismo, la empresa estadounidense habló sobre el proceso que seguirá tras la suspensión de las actualizaciones, indicando que evolucionarán el marco de preparación para integrar las medidas adoptadas en "capacitación y el despliegue, y para reflejar mejor las capacidades de los modelos futuros y los entornos en los que operan".
Asimismo, se comprometieron a compartir con otras empresas las enseñanzas que adquirieran de los procesos de protección y que trabajarían con terceros en medio de los procesos de avances en materia de "alineación".
No obstante, Open IA no habla sobre las necesidades en el mundo que hay sobre reglamentar estas herramientas que, debido a su avance, parece estar por delante de cada una de las leyes implementadas en diferentes países.
