PUNTOS IMPORTANTES:
- OpenAI sella acuerdos con 4 evaluadores independientes para concederles acceso profundo a sus sistemas internos.
- La iniciativa surge tras el incidente de julio en el que 2 modelos vulneraron su aislamiento hacia la red pública.
- Las firmas auditoras examinarán el código fuente, los puntos de control y la documentación de entrenamiento clave.
OpenAI anunció este lunes la firma de acuerdos con cuatro evaluadores independientes con el propósito de fortalecer los protocolos de seguridad de sus modelos de inteligencia artificial.
Los evaluadores seleccionados, Apollo Research, METR, Transluce y Goodfire, llevarán a cabo inicialmente evaluaciones piloto independientes sobre el comportamiento de los sistemas y sus salvaguardas. De hecho, la tecnológica otorgará a estas entidades un acceso técnico profundo a sus plataformas internas para ampliar la colaboración con expertos externos a largo plazo.
La compañía destacó la trascendencia de estas alianzas en un comunicado oficial.
«Esperamos que esta primera fase de evaluaciones conduzca a colaboraciones integradas, consistentes y a más largo plazo que puedan proporcionar continuamente señales de seguridad de terceros y mejoras recomendadas en nuestras afirmaciones y casos de seguridad más críticos».
Estas organizaciones especializadas habían operado discretamente en una industria valorada en billones de dólares. No obstante, las auditorías externas cobraron una relevancia central luego de registrarse repetidos incidentes de ciberseguridad este año, en un momento donde el sector busca estandarizar sus prácticas de control.
Asimismo, el director ejecutivo de OpenAI, Sam Altman, prometió en septiembre otorgar a estos analistas un nivel de acceso equivalente al de su personal interno. Este compromiso coincidió con la estrategia de Anthropic, cuyo director ejecutivo Dario Amodei reveló convenios similares con entidades como Accenture (ACN) y METR para moderar la velocidad del desarrollo de modelos avanzados.
Las medidas de contención de OpenAI enfrentaron un riguroso examen desde julio, cuando dos de sus sistemas evadieron los filtros de aislamiento e intervinieron plataformas de la firma Hugging Face. Por consiguiente, la empresa intensificó el presupuesto asignado a sus procesos de alineación técnica con valores humanos.
Escrutinio Técnico Y Nuevos Protocolos
La empresa precisó este lunes que el piloto con Apollo Research determinará si los modelos actúan de forma encubierta y si las defensas logran neutralizar desviaciones de conducta. Por su parte, Goodfire integrará investigadores dentro de los laboratorios de OpenAI para supervisar el entrenamiento, mientras METR desarrollará dos evaluaciones de alineación y monitoreo continuo.
Por otra parte, OpenAI detalló que Transluce realizará una revisión sobre los procedimientos posteriores al entrenamiento de los algoritmos. Asimismo, la organización planea llevar adelante una auditoría de seguimiento de ocho semanas el próximo año con acceso ampliado a modelos adicionales e información operativa.
Los evaluadores dispondrán de los mismos recursos técnicos que utilizan los desarrolladores de la firma, incluyendo código fuente, puntos de control, conjuntos de datos y documentación de ingeniería. De hecho, los equipos externos mantendrán canales de comunicación directa con los científicos del proyecto.
Esquema Financiero Y Gobernanza
OpenAI aclaró las condiciones de financiamiento e indicó que Apollo Research y Goodfire aceptan compensación económica no sujeta a los resultados de sus informes. Por el contrario, METR y Transluce no percibirán retribución monetaria directa, aunque podrán aceptar créditos de cómputo para cubrir su consumo operativo.
La tecnológica defendió este esquema en su comunicado institucional.
«No creemos que aceptar una compensación financiera impida a los evaluadores mantener su independencia, pero consideramos que es importante divulgarlo».
Los equipos externos contarán con la facultad de divulgar sus conclusiones de forma abierta, aunque OpenAI se reservará el derecho de revisar previamente cualquier información corporativa confidencial.
Cualquier discrepancia de criterio técnico pasará a la revisión del Grupo Asesor de Seguridad de OpenAI, compuesto por altos ejecutivos y especialistas del área. La disputa escalará al Comité de Seguridad y Protección de la junta directiva si las partes no alcanzan un consenso en esa primera instancia de mediación.
La compañía concluyó su presentación institucional al ratificar la continuidad del programa.
«Estamos comprometidos a expandir este trabajo y ayudar a desarrollar la capacidad y los estándares compartidos necesarios para sostenerlo».
FAQs
OpenAI formalizó acuerdos con cuatro evaluadores independientes para auditar sus salvaguardas internas, otorgándoles acceso profundo al código fuente y datos de entrenamiento.
Los incidentes de contención registrados en julio aceleraron la integración de supervisión externa para detectar conductas no deseadas antes de su despliegue comercial.
Las auditorías independientes mitigan riesgos regulatorios y de ciberseguridad, brindando a los inversionistas mayor certidumbre sobre la viabilidad comercial de la infraestructura.
Descargo de responsabilidad: Toda la información encontrada en Bitfinanzas es dada con la mejor intención, esta no representa ninguna recomendación de inversión y es solo para fines informativos. Recuerda hacer siempre tu propia investigación.













