PUNTOS IMPORTANTES:
- Blockchain, conocida por Bitcoin, podría ser clave para prevenir sesgos en los datos de entrenamiento de la IA.
- Casper Labs e IBM están desarrollando un sistema que almacena los datos de entrenamiento de la IA en blockchain.
- Este enfoque podría ser el «uso estrella» de la blockchain, extendiendo su aplicación más allá de las finanzas.
La tecnología de blockchain, que se hizo famosa por ser la base de Bitcoin, podría utilizarse para prevenir sesgos en los datos con los que se entrenan los modelos de inteligencia artificial (IA), lo que podría ser un «uso estrella» para esta tecnología, según indicaron ejecutivos a CNBC.
El problema de los sesgos en la IA
Una de las preocupaciones sobre los modelos de IA, como los que respaldan aplicaciones como ChatGPT, es que los datos en los que se entrenan podrían contener sesgos o desinformación. Esto significa que las respuestas que un sistema de IA pueda dar incluirían esos sesgos e información falsa.
Blockchain irrumpió en el mercado en 2009 con el lanzamiento de la criptomoneda Bitcoin. En el contexto de Bitcoin, la tecnología es un libro de registros público inmutable y a prueba de manipulaciones. Las empresas han estado buscando aplicar estos principios en otras aplicaciones para blockchain, que a veces se conoce como tecnología de registro distribuido.
Innovación en la formación de IA
En el caso de la IA, los datos de entrenamiento pueden almacenarse en blockchain. Esto permitirá a los desarrolladores del sistema de IA hacer un seguimiento de los datos en los que se ha entrenado el modelo.
Casper Labs, una empresa de blockchain enfocada en negocios, se asoció este mes con IBM para crear un sistema de este tipo.
«El producto que estamos desarrollando, los conjuntos de datos están realmente registrados y almacenados en blockchain, por lo que tienes una prueba de cómo se entrenó la IA», dijo Medha Parlika, directora de tecnología y cofundadora de Casper Labs, a CNBC durante un panel de discusión en el Foro Económico Mundial en Davos esta semana.
«Y así, a medida que usas la IA, si está aprendiendo y encuentras que la IA está empezando a alucinar, puedes retroceder la IA. Entonces, puedes deshacer parte del aprendizaje y volver a una versión anterior de la IA».
Las alucinaciones se refieren ampliamente a cuando un sistema de IA emite información falsa.
El potencial más allá de las finanzas
Blockchain es una tecnología de la que se ha hablado durante muchos años, y una serie de industrias, desde las finanzas hasta la atención médica, han estado buscando formas de utilizarla.
Sheila Warren, directora ejecutiva del Consejo de Innovación Cripto, dijo, sin embargo, que un libro de registros de datos de entrenamiento de IA basado en blockchain podría ser el «uso estrella» para la tecnología.
«Realmente creo que la verificación de una IA y el tipo de controles y equilibrios… dentro de un sistema de IA, van a ser impulsados y respaldados por blockchain».
Warren a CNBC durante el panel.
