• Nuestro Equipo
  • Anunciate
  • Contactanos
lunes, junio 30, 2025
Bitfinanzas
Quantfury
Siga los mercados en TradingView
  • Finanzas
    • Acciones
    • Divisas
    • Commodities
  • Cripto
    • Bitcoin
    • Altcoins
    • Blockchain
    • DeFi
  • Herramientas
    • Calendario Económico
    • Calendario de Earnings
  • Formación
  • Nuestro Broker

No hay productos en el carrito.

No Result
Ver todos los resultados
Bitfinanzas
  • Finanzas
    • Acciones
    • Divisas
    • Commodities
  • Cripto
    • Bitcoin
    • Altcoins
    • Blockchain
    • DeFi
  • Herramientas
    • Calendario Económico
    • Calendario de Earnings
  • Formación
  • Nuestro Broker

No hay productos en el carrito.

Bitfinanzas

OpenAI: Estrategia innovadora para erradicar información falsa en ChatGPT  

Sergio Sánchez Escrito por Sergio Sánchez
2 años atrás
En Sector Financiero
0
Comparte en FacebookComparte en TwitterComparte en RedditComparte en TelegramComparte por Whatsapp

PUNTOS IMPORTANTES:

  • OpenAI está mejorando las habilidades matemáticas de ChatGPT para reducir las «alucinaciones».
  • La investigación ha descubierto que la supervisión del proceso, un tipo de retroalimentación en cada paso de la cadena de pensamiento, es efectiva para mejorar la precisión del chatbot.
  • Aunque OpenAI no proporcionó ejemplos concretos de alucinaciones en su investigación, se mencionaron casos en los que la información falsa generada por los chatbots, causó problemas en escenarios reales.

OpenAI anunció sus esfuerzos para potenciar las capacidades de resolución de problemas matemáticos de ChatGPT, con el objetivo de disminuir las alucinaciones de la inteligencia artificial (IA). OpenAI pone el acento en la mitigación de estas alucinaciones como un paso fundamental hacia el desarrollo de una IA alineada.

En marzo, la presentación de la última versión de ChatGPT — ChatGPT-4 — impulsó aún más a la IA al dominio público. Sin embargo, los chatbots generativos de IA han lidiado por mucho tiempo con la precisión factual, generando ocasionalmente información falsa, a lo que se hace referencia comúnmente como “alucinaciones“. Los esfuerzos para reducir estas alucinaciones de IA fueron anunciados a través de un post en la página web de OpenAI.

Quantfury Quantfury Quantfury

Las alucinaciones de IA hacen referencia a aquellos momentos en los que los sistemas de inteligencia artificial generan resultados erróneos, que son engañosos o no están respaldados por datos del mundo real. Estas alucinaciones pueden manifestarse de varias formas, como la generación de información falsa, la invención de eventos o personas inexistentes, o la proporciona de detalles incorrectos acerca de ciertos temas.

OpenAI llevó a cabo una investigación para examinar la efectividad de dos tipos de retroalimentación: “supervisión del resultado” y “supervisión del proceso“. La supervisión del resultado implica retroalimentación basada en el resultado final, mientras que la supervisión del proceso proporciona información para cada paso en una cadena de pensamiento. OpenAI evaluó estos modelos utilizando problemas matemáticos, generando múltiples soluciones y seleccionando la solución mejor clasificada de acuerdo con cada modelo de retroalimentación.

Articulosde interes

Robot conceptual con logo de Baidu en pecho refleja apertura de Ernie como IA open source innovadora.

Baidu lanza Ernie la mayor IA de China desde DeepSeek

29 de junio de 2025
674
Ilustración de cerebro digital conectado a gráficos bursátiles y Gabelli Funds

Gabelli Funds destaca acciones clave para la revolución de la IA

29 de junio de 2025
662
Quantfury Quantfury Quantfury

Tras un análisis exhaustivo, el equipo de investigación descubrió que la supervisión del proceso ofrecía un rendimiento superior, ya que incentivaba al modelo a seguir un proceso aprobado por humanos. Por el contrario, la supervisión del resultado resultó ser más difícil de examinar de forma consistente.

OpenAI reconoció que las implicaciones de la supervisión del proceso se extienden más allá de las matemáticas, siendo necesaria una mayor investigación para entender sus efectos en diferentes dominios. Expresó la posibilidad de que, si los resultados observados se mantienen en contextos más amplios, la supervisión del proceso podría ofrecer una combinación favorable de rendimiento y alineación en comparación con la supervisión del resultado. Para facilitar la investigación, la compañía publicó públicamente el conjunto de datos completo de supervisión del proceso, invitando a la exploración y al estudio en este área.

Aunque OpenAI no proporcionó casos explícitos que motivaron su investigación en las alucinaciones, dos eventos recientes ejemplificaron el problema en escenarios reales.

Quantfury Quantfury Quantfury

En un incidente reciente, el abogado Steven Schwartz, en el caso Mata vs. Avianca Airlines, reconoció que se apoyó en el chatbot como un recurso de investigación. Sin embargo, la información proporcionada por ChatGPT resultó ser completamente inventada, destacando así el problema en cuestión.

ChatGPT de OpenAI no es el único ejemplo de sistemas de inteligencia artificial que enfrentan alucinaciones. Durante una demostración de su tecnología de chatbot en marzo, el chatbot de IA de Bing de Microsoft examinó informes de ganancias y generó cifras inexactas para empresas como Gap y Lululemon.

Etiquetas: IAInteligenciaArtificialOpenAI

Articulos Relacionados

Donald Trump frente al edificio de la Fed refleja tensión sobre su plan de sucesión para Jerome Powell.

Trump presiona a Powell y Bessent analiza su sucesión

30 de junio de 2025
587

Morgan Stanley descarta fuga de capital extranjero en EEUU

30 de junio de 2025
549
Tom Lee con escultura grande de Ethereum representa su estrategia de BitMine como MicroStrategy de ETH.

Tom Lee busca crear el MicroStrategy de Ethereum

30 de junio de 2025
629

JPMorgan: Wall Street apunta a nuevos récords

30 de junio de 2025
632
Bancos fachada de JPMorgan Chase con logo reflejado y Wall Street horizontal

Grandes bancos aprueban pruebas de estrés menos rigurosas

30 de junio de 2025
568
El mercado global reacciona a factores económicos y geopolíticos con fuerte impacto en activos clave.

Mercado hoy: Wall Street marca récord y mercados globales mixtos

30 de junio de 2025
575
Ilustración de un misil impactando en un sitio nuclear con documentos clasificados sobre inteligencia

Trump desafía a la inteligencia de EE. UU. tras bombardeo a Irán

25 de junio de 2025
780
Robot conceptual con logo de Baidu en pecho refleja apertura de Ernie como IA open source innovadora.

Baidu lanza Ernie la mayor IA de China desde DeepSeek

29 de junio de 2025
674
Tres etiquetas rojas con signos de inflación y aranceles sobre fondo de bandera estadounidense

El efecto oculto de los aranceles en precios e inventarios en EEUU

27 de junio de 2025
634

Citi mejora su perspectiva sobre Linde y eleva su precio objetivo

30 de junio de 2025
567
Ejecutivo analiza reporte financiero con gráficos y logo HSBC destacado en oficina

HSBC eleva recomendación a compra y ve alza del 28% en esta empresa.

27 de junio de 2025
1.9k

Nvidia acelera de nuevo y los analistas ven más alzas

29 de junio de 2025
1.4k

Nuestras Redes:

  • 49.6k Followers
  • 4.7k Followers
Bitfinanzas diario de criptomonedas y finanzas

Portal de noticias financieras y de criptomonedas.

De Interes:

  • Acciones
  • Al cierre con bitfinanzas
  • Altcoins
  • Análisis técnico Acciones
  • Análisis técnico Commodities
  • Análisis técnico Cripto
  • Análisis técnico Indices
  • Bitcoin
  • Bitcoin
  • bitfinanzas tv
  • Blockchain
  • Commodities
  • Cripto
  • DeFi
  • Divisas
  • En tendencia
  • Finanzas
  • formacion
  • Glosario
  • Juegos Blockchain
  • Mercado Laboral
  • Metaverso
  • Mundo
  • NFT
  • Podcast
  • sector energético
  • Sector Financiero
  • Sector Tecnologico
  • Streamings
  • Terra
No Result
Ver todos los resultados
  • Acerca de nosotros
  • Nuestro Equipo
  • Contactanos
  • Anunciate

© 2022-2023 BitFinanzas - Hecho por Team DM. 😎

No Result
Ver todos los resultados
  • Inicio
  • Finanzas
    • Acciones
    • Divisas
    • Commodities
  • Cripto
    • Bitcoin
    • Altcoins
    • Blockchain
    • DeFi
  • Herramientas
    • Calendario Económico
    • Calendario de Earnings
  • Formación
  • Contactanos
  • Anunciate
  • Nuestro Broker

© 2022-2023 BitFinanzas - Hecho por Team DM. 😎

Este sitio web utiliza cookies. Al continuar utilizando este sitio web, está dando su consentimiento para el uso de cookies. Visite nuestra Política de privacidad y cookies para saber más.