PUNTOS IMPORTANTES:
- OpenAI, ha lanzado un programa de subvenciones de ciberseguridad para mejorar y medir el impacto de las tecnologías de ciberseguridad impulsadas por IA.
- La iniciativa busca medir las capacidades de los modelos de IA en la ciberseguridad y elevar el discurso sobre la relación entre IA y ciberseguridad.
- La empresa subraya la necesidad de colaboración y regulación en la IA para contrarrestar las posibles aplicaciones maliciosas.
OpenAI, consciente de las innovadoras formas en que los criminales buscan explotar la Inteligencia Artificial (IA) con fines malintencionados, se mantiene firmemente comprometida con la tarea de proveer a los “defensores” con las herramientas necesarias.
Los efectos negativos de la tecnología de IA en manos de criminales, que permite la creación de deep fakes y malware, han intensificado la urgencia de tomar medidas.
OpenAI, creadora de ChatGPT y Dall-e, ha anunciado un programa de subvenciones de ciberseguridad de un millón de dólares para mejorar y medir el impacto de las tecnologías de ciberseguridad impulsadas por IA.
La compañía de IA ha subrayado continuamente la importancia de la regulación de la IA para contrarrestar posibles aplicaciones maliciosas. En una carrera armamentística digital en constante evolución, OpenAI parece estar adoptando medidas proactivas para asegurar que las fuerzas positivas no se queden atrás.
OpenAI ha presentado una amplia gama de conceptos de proyectos, incluyendo la creación de honeypots para atrapar a los atacantes, ayudando a los desarrolladores a diseñar software seguro y mejorando los procedimientos de gestión de parches para su óptima efectividad.
Los objetivos del programa son claros, como afirmó OpenAI en su blog oficial: «Nuestro objetivo es fomentar el avance de las capacidades de ciberseguridad impulsadas por IA para los defensores a través de subvenciones y asistencia adicional.» El enfoque está en evaluar la eficacia de los modelos de IA y determinar métodos para mejorar sus capacidades de ciberseguridad.
Esta iniciativa revolucionaria busca alcanzar tres objetivos clave. En primer lugar, pretende «empoderar a los defensores» mediante el aprovechamiento de las capacidades de la IA y los esfuerzos colaborativos para inclinar la balanza a favor de aquellos dedicados a mejorar la seguridad general.
Otro enfoque de la iniciativa es «medir las capacidades». OpenAI tiene como objetivo brindar apoyo a los proyectos que se centran en desarrollar métodos de cuantificación para evaluar la efectividad de los modelos de IA en el campo de la ciberseguridad. Adicionalmente, OpenAI pretende «elevar el discurso» fomentando discusiones profundas sobre la compleja relación entre la IA y la ciberseguridad.
Esta iniciativa rompe con la perspectiva convencional sobre la ciberseguridad. OpenAI destaca la importancia del conocido adagio de que los defensores siempre deben estar en lo correcto, mientras que los atacantes sólo necesitan tener éxito una vez. Sin embargo, la empresa reconoce el poder de la colaboración hacia el objetivo compartido de garantizar la seguridad de las personas. Está decidida a demostrar que, con la ayuda de la IA, los defensores pueden cambiar la dinámica y obtener la ventaja.
