Nuestro Broker
PUNTOS IMPORTANTES:
- OpenAI se asocia con Common Sense Media para educar a los jóvenes en el uso seguro de la IA.
- Se crearán materiales educativos y directrices de IA para niños, educadores y padres.
- Preparativos para mitigar los riesgos de mal uso de la IA y deepfakes.
OpenAI anunció el lunes su asociación con Common Sense Media en una iniciativa que busca enseñar a los adolescentes a usar la inteligencia artificial de manera segura.
Sam Altman, CEO de OpenAI, expresó en un evento de Common Sense en San Francisco:
“Queremos descubrir cómo hacer esta herramienta de forma segura, responsable y ampliamente disponible para adolescentes y personas que la usarán en su experiencia educativa”.
Common Sense, una organización sin fines de lucro enfocada en hacer la tecnología segura y accesible para niños, trabaja en desarrollar un sistema de calificación y revisión de IA destinado a padres, niños y educadores, para entender mejor los riesgos y beneficios de la tecnología.
Por un lado, Common Sense busca responder si la IA fomenta el amor por el aprendizaje entre los jóvenes. Por otro lado, investiga si respeta los derechos humanos y los derechos de los niños, y además, si puede perpetuar la propagación de información errónea.
El objetivo de la nueva asociación es ayudar a crear materiales educativos y directrices sobre IA para niños, educadores y padres, así como curar modelos de lenguaje GPT de «familia amigable» que se adhieran a las calificaciones y estándares de Common Sense. GPT es la base del chatbot ChatGPT de OpenAI, lanzado a fines de 2022.
Jim Steyer, CEO de Common Sense Media, dijo en un comunicado que los materiales desarrollados a través de la asociación
«Estarán diseñados para educar a familias y educadores sobre el uso seguro y responsable de ChatGPT, para que podamos evitar colectivamente las consecuencias no deseadas de esta tecnología emergente».
Impacto en la educación y preparación para el futuro
Durante el evento del lunes, Altman habló brevemente sobre la asociación y la IA en general, manifestando su esperanza de que “beneficie a niños sin acceso” a la IA.
Además, enfatizó que parte de la misión de OpenAI es “hacer la IA realmente útil disponible gratuitamente”.
En septiembre, Craig Newmark Philanthropies, el brazo filantrópico del fundador de Craigslist, dijo que contribuyó con 3 millones de dólares para ayudar a financiar una iniciativa de Common Sense sobre IA y educación. Craig Newmark expresó a CNBC en ese momento que algunas de sus preocupaciones sobre la IA incluyen la posibilidad de que actores malintencionados usen la tecnología para influir en el ecosistema de información y contribuir al descontento social.
OpenAI y Common Sense no especificaron cómo se modificarán los LLM para ayudar a educadores o adolescentes. Altman dijo que los LLM personalizados para fines educativos podrían ayudar a adolescentes «que quieran aprender sobre ciencia o biología».
“Todavía no sabemos exactamente cómo la gente querrá usarlo”, dijo Altman. Agregó que imagina un mundo en el que «cada adolescente o cada adulto va a tener una IA personalizada».
Preparativos para los riesgos de la IA
En relación con las próximas elecciones y los riesgos potenciales que los deepfakes podrían representar para confundir a la gente, Altman reconoció que las imágenes generadas por IA presentan problemas. Sin embargo, afirmó:
“Creo que la gente es mucho más sofisticada de lo que pensamos, y no crees cada imagen que ves”.
Habló sobre cómo OpenAI se está preparando para las formas potenciales en que los actores malintencionados podrían usar la IA.
“Hemos establecido un gran esfuerzo de respuesta. Esto será monitoreado muy de cerca”.
