OpenAI y Common Sense: Alianza por una educación segura en IA

OpenAI anunció el lunes su asociación con Common Sense Media en una iniciativa que busca enseñar a los adolescentes a usar la inteligencia artificial de manera segura.

Sam Altman, CEO de OpenAI, expresó en un evento de Common Sense en San Francisco:

“Queremos descubrir cómo hacer esta herramienta de forma segura, responsable y ampliamente disponible para adolescentes y personas que la usarán en su experiencia educativa”.

Common Sense, una organización sin fines de lucro enfocada en hacer la tecnología segura y accesible para niños, trabaja en desarrollar un sistema de calificación y revisión de IA destinado a padres, niños y educadores, para entender mejor los riesgos y beneficios de la tecnología.

Por un lado, Common Sense busca responder si la IA fomenta el amor por el aprendizaje entre los jóvenes. Por otro lado, investiga si respeta los derechos humanos y los derechos de los niños, y además, si puede perpetuar la propagación de información errónea.

Articulosde interes

Nvidia supera las expectativas impulsada por un crecimiento del 75% en centros de datos

25 de febrero de 2026

666

Goldman Sachs: Esta acción de infraestructura subirá un 25% adicional

25 de febrero de 2026

635

El objetivo de la nueva asociación es ayudar a crear materiales educativos y directrices sobre IA para niños, educadores y padres, así como curar modelos de lenguaje GPT de «familia amigable» que se adhieran a las calificaciones y estándares de Common Sense. GPT es la base del chatbot ChatGPT de OpenAI, lanzado a fines de 2022.

Jim Steyer, CEO de Common Sense Media, dijo en un comunicado que los materiales desarrollados a través de la asociación

«Estarán diseñados para educar a familias y educadores sobre el uso seguro y responsable de ChatGPT, para que podamos evitar colectivamente las consecuencias no deseadas de esta tecnología emergente».

Impacto en la educación y preparación para el futuro

Durante el evento del lunes, Altman habló brevemente sobre la asociación y la IA en general, manifestando su esperanza de que “beneficie a niños sin acceso” a la IA.

Además, enfatizó que parte de la misión de OpenAI es “hacer la IA realmente útil disponible gratuitamente”.

En septiembre, Craig Newmark Philanthropies, el brazo filantrópico del fundador de Craigslist, dijo que contribuyó con 3 millones de dólares para ayudar a financiar una iniciativa de Common Sense sobre IA y educación. Craig Newmark expresó a CNBC en ese momento que algunas de sus preocupaciones sobre la IA incluyen la posibilidad de que actores malintencionados usen la tecnología para influir en el ecosistema de información y contribuir al descontento social.

OpenAI y Common Sense no especificaron cómo se modificarán los LLM para ayudar a educadores o adolescentes. Altman dijo que los LLM personalizados para fines educativos podrían ayudar a adolescentes «que quieran aprender sobre ciencia o biología».

“Todavía no sabemos exactamente cómo la gente querrá usarlo”, dijo Altman. Agregó que imagina un mundo en el que «cada adolescente o cada adulto va a tener una IA personalizada».

Preparativos para los riesgos de la IA

En relación con las próximas elecciones y los riesgos potenciales que los deepfakes podrían representar para confundir a la gente, Altman reconoció que las imágenes generadas por IA presentan problemas. Sin embargo, afirmó:

“Creo que la gente es mucho más sofisticada de lo que pensamos, y no crees cada imagen que ves”.

Habló sobre cómo OpenAI se está preparando para las formas potenciales en que los actores malintencionados podrían usar la IA.

“Hemos establecido un gran esfuerzo de respuesta. Esto será monitoreado muy de cerca”.